추가 적립 안내

인간을 뛰어넘은 인공지능이 스스로 인공지능을 만드는 지능 폭발
인공지능과의 경쟁에서 도태되고 싶지 않은 사람들을 위한 안내서
이미테이션 게임, 기계 학습과 딥러닝, 지능 폭발, 네트워크 이론 사물인터넷, 디지털 쌍둥이, 스마트시티

인간이 환경의 지배를 받듯 인공지능도 데이터 환경에 영향을 받는다. 우리가 만들어낸 정보를 학습해서 인간을 모방하는 인공지능은 태생적으로 우리의 가치관에 영향을 받을 수밖에 없다. 물론 아직까지 인공지능의 수준은 인간의 개념과 의식을 이해하지 못한다. 그러나 우리는 챗봇 이루다와 챗봇 테이의 서비스 중단 사태를 통해 인공지능이 이 시대를 살아가는 사람들의 속마음까지 학습해 뜻밖의 방식으로 드러낼 수 있다는 것을 지켜보았다.

디지털과 현실 세계가 통합된 초연결 사회에서 사물인터넷은 무제한의 데이터를 수집, 공급하며 스마트시티는 인공지능이 기량을 마음껏 펼칠 수 있는 무대를 제공한다. 그 열린 무대에서 인간에 대한 내밀하고 사적인, 그리고 방대한 양의 데이터를 학습한 인공지능은 우리가 오래전부터 갖고 있던 문제들을 어느 순간 적나라하게 펼쳐 보일 것이다. 그때서야 우리가 스스로에게 되물어야 할 것을 묻는다면 너무 늦지 않을까?

디지털 공간과 현실 세계의 구분이 사라지는 초연결 사회에서
인간의 지능을 뛰어넘는 인공지능의 지능 폭발은 일어날까?
디지털 세상과 현실 세계가 네트워크로 연결되면서 세상은 데이터의 측정과 수집, 처리가 대규모로 신속하게 이루어지는 초연결 사회로 나아가고 있다. 초연결 사회는 가상공간과 현실을 하나의 무대로 만들어 산업, 경제, 교육, 생활 전반에 커다란 변화를 일으킨다. 우리는 이미 스마트폰이 인간의 삶을 이전과 비교할 수 없을 만큼 바꿔놓은 것을 경험했다. 손에 들고 다니는 도구가 똘똘해진 것이 스마트폰이라면 우리 앞에 다가온 다음 혁신 주자는 도시 전체가 똑똑해진 스마트시티다.
스마트시티는 사람의 말을 알아듣고 대화하고 글과 그림을 창작하는 기계가 도시 곳곳에 스며들고, 운전대가 필요 없는 자율주행 자동차가 사람들을 실어 나르고, 강력 사건이 발생하면 누군가의 신고를 기다리지 않아도 구급차와 경찰이 출동하는 공간이다. 그 도시에 사는 사람들은 특별히 사용법을 익히지 않아도 전보다 훨씬 편리하고 효율적인 시스템의 혜택을 누리며 스마트폰이 가져온 편의 이상의 만족감을 느끼게 될 것이다.
그 도시를 유지하고 떠받치는 네트워크는 인간이 미처 다 파악할 수 없는 복잡하고 빠른 정보 시스템으로 이루어져 있다. 이곳에서 엄청난 양의 정보가 지속적으로 취득되고 전송되고 처리되고 보관되는 시스템을 관리하는 역할은 인간보다 인공지능에게 더 적합하다. 현재 인공지능은 데이터를 토대로 스스로 학습해서 인간이 지시한 역할을 수행하는 단계에 와 있다. 아직까지는 인공지능의 발전 수준이 사람의 손에서 이루어지지만 여러 전문가들은 수십 년 이내에 인간의 지능을 뛰어넘는 인공지능이 스스로 더 발전된 형태의 인공지능(초지능)을 만드는 지능 폭발이 일어날 것이라 입을 모은다.
갈색 개미는 개별 개체의 능력이 미약함에도 불구하고 집단의 소통과 실행력을 통해 기막히게 효과적이면서도 복잡한 구조의 집을 설계하고 시공한다. 정교하게 연결된 집단을 이루고 하나의 목적을 위해 움직이는 갈색 개미 무리는 개체의 역량과 상관없이 놀라운 창발성을 보여준다. 연구자들은 이와 같은 창발성이 초연결된 네트워크 세계에서 인공지능의 지능 폭발을 일으킬 수 있다고 여긴다. 만약 이런 식으로 초지능이 출현한다면 코드를 빼버리는 방식 따위로 상황을 되돌리기란 불가능하다.

우리는 이제까지 작동원리를 알고 있는 도구를 사용해왔다.
지금 우리는 인공지능이 만들어내는 결과물을 이해할 수 없다.
이 간단한 차이가 인류의 미래를 황금시대로 만들 수도 파국으로 이끌 수도 있다.
우리는 어떻게 인공지능과 공존할 수 있을까?

초지능으로 무장한 채 사람처럼 행동하고 말하는 로봇형 인공지능에 불편한 시선이 꽂혀 있는 사이, 인공지능은 우리 일상의 수많은 장치 속으로 슬그머니 파고들고 있다. 기계 장치와 다를 바 없는 컴퓨터에 프로그램 형태로 설치되어 그림을 그리고 작곡을 하고 글을 쓰고 대화하는 인공지능은 이미 존재한다. 2020년 공개된 GTP-3는 기존의 인공지능과 달리 인터넷에 올라오는 텍스트를 학습해 순식간에 놀라운 결과물을 내놓는다. 물론 아직은 약한 인공지능, 특정한 기능을 구현하는 수준에 머물고 있지만 최근 화제가 된 챗봇 이루다의 서비스 중단 사태는 인공지능에 대한 경각심을 일깨워주었다.
편향적인 데이터로 기계학습을 한 챗봇 이루다가 소수자에 대한 혐오 표현을 가감 없이 노출하면서 논란이 되었고 학습한 데이터의 수집 절차상 문제가 도마에 오르면서 서비스는 중단되었다. 2016년에도 마이크로소프트에서 개발한 챗봇 테이가 단시간에 사용자들이 퍼붓는 인종, 성 차별 발언을 학습하고 이를 다시 쏟아내면서 16시간 만에 운영을 중단한 적이 있다. 지금까지는 개발사에서 마음만 먹으면 인공지능 서비스를 중단할 수 있었지만 과연 도시 전체를 관리하고 운영하는 인공지능이 일부 부적절하게 작동했다고 해서 곧바로 꺼버릴 수 있을까?
이 상황을 우울하게만 바라볼 필요는 없다. 인공지능의 윤리나 사회적 책임, 초지능을 둘러싼 논란은 결국 이를 만들고 사용하는 우리의 의식과 신념이 중요하다는 것을 반증한다. 인공지능이 얼마나 사람과 비슷한지를 테스트하려는 사람들의 관심은 반대로 인간에게 ‘인간다움’과 ‘지능’이 무엇인지 고민하게 만드는 철학적 질문을 던진다. 우리가 이 질문에 제대로 답을 갖고 있다면 모두가 바라는 대로 인간에게 도움이 되는 인공지능을 만들어내고 활용할 수 있다. 그러기 위해서는 인간과 인공지능이 공존하는 세계의 구조와 우리의 위치를 바로 알아야 한다.
이 책은 현재 인공지능이 어떤 수준에 이르고 있는지, 인공지능이 활약하는 네트워크의 구조는 어떠하며, 앞으로 우리가 마주하게 될 스마트시티는 어떤 모습일지 가늠할 수 있는 초연결 사회의 설계도이자 안내서다.
먼저 인간과 비슷한 인공지능을 꿈꿔온 인류의 노정을 살펴보며 인공지능의 실체를 파악해보자. 앨런 튜링이 만든 ‘이미테이션 게임(튜링 테스트)’과 존 설의 ‘중국어 방’ 실험을 통해 우리는 인간의 지능과 인공지능이 어떻게 다른지 알 수 있다. 막상 그 실체를 파악하고 나면 자못 불안감이 가라앉을 것이다. 하지만 갈색 개미 무리가 지어놓은 개미집을 본 순간 닉 보스트롬이 말한 초지능 클립 제조기가 온 우주를 클립으로 채우는 상상은 오싹함을 자아낸다. 그것보다 두려운 건 인류 역사에서 어떤 기술이나 제도의 혜택이 모두에게 골고루 돌아간 적이 없다는 사실이다.
아무것도 모른 채 그저 세상이 변화하는 대로 휩쓸려가거나 손쓸 새도 없이 불이익을 당하지 않으려면 우리가 살아가게 될 초연결 사회의 구조와 속성을 알아야 한다. 네트워크가 갖는 고유한 성질과 네트워크로 표현되는 존재들이 갖는 특성을 찾아내 복잡한 네트워크상에서 나의 위치와 나의 연결을 파악하는 것은 무엇보다 중요하다. 그런 다음에 사물인터넷과 사회관계망에 적용되는 규모의 경제 원리를 이해하고 지속가능성을 유지하며 더 나은 세상, 살 만한 스마트시티로 가는 길을 살펴볼 수 있다. 일자리 문제나 개인정보 보안에 대한 경각심을 늦추지 않고 전자 쓰레기를 줄이고 제로에너지시티를 구축하려는 노력은 예측 불가능한 미래에 대한 두려움보다 호기심이 앞설 때 가능하다.
인공지능이 바꿔놓을 미래가 막연하게 불안했던 독자들은 이 책을 통해 불확실성 너머의 세계로 향하는 21세기의 파우스트들이 혹독한 대가를 치른다 해도 본성에 내재된 지적 욕구와 실행력을 토대로 현명하게 살아가는 모습을 똑똑히 그리게 될 것이다.

구슬이 서 말이라도 꿰어야 보배
네트워크 사회, 인공지능, 사물인터넷, 스마트시티에 대한 복잡한 개념들을
명쾌한 통찰로 꿰어주는 공학자 김일선의 인공지능 이야기

공학자의 눈으로 바라본 세상은 디지털 공간과 현실 세계가 복잡하고 정밀하게 연결된 네트워크 사회다. 그곳은 무수한 정보가 빛의 속도로 오가고 데이터를 학습한 인공지능이 인간에게 설명해주지 않는 방식으로 기능을 수행하는 곳이다. 저자는 마치 누구나 따라해볼 수 있는 도구의 잘 만들어진 매뉴얼처럼 그 시스템의 구조와 작동원리를 단계적으로 차분하게 소개한다.
그의 안내를 찬찬히 따라가다 보면 어느새 인공지능, 딥러닝, 네트워크 사회, 사물인터넷, 스마트시티 등 들어는 봤지만 구체적으로 무엇인지 파악하지 못했던 개념들이 하나씩 머릿속에 자리 잡는다. 부정확한 정보와 오해가 만든 인공지능에 대한 불안과 두려움의 장막이 걷히면 마침내 불확실했던 미래상을 통찰하게 된다. 모르는 길은 멀고 힘들게 느껴지지만 아는 길은 힘들어도 두렵지는 않다. 저자의 바람대로 두려움을 이겨낸 우리의 호기심은 앞으로 살아가게 될 미래를 어떻게 가꾸어야 하는지에 대한 열망으로 바뀌어 있다.

-프롤로그 × 21세기 파우스트의 미래

CHAPTER 1. 진짜 가짜, 가짜 진짜
-너는 누구냐
× 넷플릭스 × 이미테이션 게임 × 화려한 데뷔 × 똘똘한 비서 × 스마트한 감시 사회
-구분할 수 없다면
× 비슷하려면 아주 비슷하거나 × 인공지능이 사용되려면

CHAPTER 2. 지능 만들기
-인간을 만들고 싶다
× 육신에서 정신까지 × 열심히 외운 딥블루, 열심히 공부한 알파고 × 자기주도학습파, 알파고 제로
-지능이란 무엇일까?
× 나무를 구분하는 아이 × 지능과 중국어 방
-딥러닝, 학습으로 완성되는 소프트웨어
× 답만 찾으면 돼 × 원리를 알아야지 × 기계 학습과 딥러닝 × 저 공부 끝났어요 × 단, 조건이 있어! × 100미터 달리기 선수와 10종 경기 선수 × 세상을 글로 배웠어요

CHAPTER 3. 지능 폭발
-초지능 출현의 공포
× 초지능 클립 제조기 × 개미 대 아인슈타인 × 특이점 너머로 가는 탑승권
-과연 그럴까?
× 예쁜꼬마선충 × 라이프 3.0 × 스스로 해결하는 존재 × 블랙 스완
-시간은 한방향으로 흐른다
× 지배하지 않지만 군림한다 × 누가 소수인가 ×21세기의 네드 러드 × 낯선 도깨비

CHAPTER 4. 초연결 사회
-네트워크, 연결되어 있습니까?
× 인터넷이 바꿔놓은 세상 × 그곳에 종은 없었다 × 점과 선으로 표현하기 × 네트워크의 종류 × 멱함수 법칙이 나타나는 네트워크 × 척도 없는 네트워크
-복잡하지만 엉키지 않은 곳
× 빅데이터가 인공지능을 만났을 때 × 센서로 둘러싸인 도시, 사물인터넷
× 현실 세계와 온라인의 경계를 허문 디지털 쌍둥이 × 디지털 쌍둥이 도시 버추얼 싱가포르 × 우리 곁으로 온 4차 산업혁명

CHAPTER 5. 스마트시티로 가는 길
-더 나은 도시를 꿈꾸다
× 모든 것이 질서 정연합니까? × 모두 도시로! × 뭉쳐야 산다 × 크기와 연결이 중요하다 × 옵션 추가하기 × 선이 없는 그물 안에서
-스마트시티의 생존 전략
× 캐치 미 이프 유 캔 × 음료수 한 잔을 사면 공짜 점심을 드립니다
× 덜 쓰고 더 만들어내기 × 스마트 쓰레기는 어디에 × 뛰는 놈 위에 나는 놈

CHAPTER 6. 불확실성 너머
-호기심 대 두려움
× 한 치 앞도 모른다 × 막막하지만 피할 수 없는 × 빨라지는 발걸음
× 피할 수 없으면 즐기자

-에필로그 × 스마트 ‘폰’에서 스마트 ‘시티’로

인공지능과 사물인터넷이 만드는 스마트시티는 필연적으로 사람들의 관계도 변화시킬 것이다. 물론 그 변화를 섣불리 예단할 수는 없다. 이 불확실한 미래와 맞닥뜨린 지금, 무엇을 어떻게 해야 할까? 악마와 거래했던 파우스트는 결국 혹독한 대가를 치른다. 하지만 그의 본성에 내재되어 있던 지적 욕구와 실행력이 나락의 끝에서 그를 구원한다. 200여 년 전 파우스트가 가졌던 그 본성은 지금 우리들에게도 있다. 아무것도 모른 채 그저 세상이 변화하는 대로 휩쓸려가거나 손쓸 새도 없이 상대적 불이익을 당하는 것은 피하고 싶을 것이다. 그러려면 최소한 마주한 세계의 내막을 알아야 한다. 이제부터 익숙하고도 낯선 세상의 복잡한 구조 안으로 들어갈 것이다. _ 21세기 파우스트의 미래 ㆍ 08-09쪽

고객도 자신이 좋아하는 작품들임에도 불구하고 공통점이 별로 없어 보이는 콘텐츠들 사이에서 어떤 특성을 뽑아낸 건지 유추하기 어렵다. 〈시그널〉도 좋아하고 〈마션〉도 좋아하고 〈포레스트 검프〉도 좋아하는 나의 영화 취향에 대체 어떤 특성이 있다는 것일까? 하지만 뭐가 어떻게 되는 건지 몰라도 〈마이클 조던: 더 라스트 댄스〉는 고객의 취향을 제대로 저격한다. 이렇게 개발된 시스템에 대해 넷플릭스는 당연히 흡족해했다. _ 진짜 가짜, 가짜 진짜 ㆍ 19쪽

지금까지 사회를 움직여온 방식은 원리를 모르는데 결과만 보고 방법을 적용하는 식이 아니었다. 그러나 인공지능은 이를 한방에 뒤집어버리고 동시에 고민을 안겨주었다. 무엇을 어떻게 하는지 모르겠는데 신기하게도 좋은 결과를 내는 해결사가 등장한 것이다. _ 진짜 가짜, 가짜 진짜 ㆍ 19쪽

인공지능이 초파리의 행동을 예측하려고 학습한 데이터가 초파리의 뇌 구조나 생물학적 특성 같은 개별 개체의 정보가 아니라 움직임이라는 사실은 매우 중요하다. 행동 패턴 데이터가 충분히 있다면 그 대상이 초파리가 아니더라도 앞으로의 행동을 예측하는 것이 가능하다는 의미다. ‘초파리’라는 단어를 ‘사람’ 혹은 ‘특정한 인물’로 바꾸어도 된다.
실제로 구글은 사용자의 개인적 배경을 몰라도 관심을 가질 만한 분야의 광고를 골라서 제시하고 아마존은 고객의 뇌를 들여다보지 않고도 그들이 구매하고 싶어 할 만한 물건을 추천한다. 이 기술이 계속 발전한다면 뇌와 마음을 비롯해 개인적 배경을 분석하지 않고도 그동안의 행적만을 토대로 오늘 혹은 내일 어디에 갈지, 어떤 행동을 할지 알 수도 있다. _ 지능 만들기 ㆍ 72-73쪽

인간이 환경의 지배를 받듯 인공지능도 마찬가지다. GPT-3는 학습 교재로 사용하는 인터넷 텍스트 환경에 영향을 받는다. GPT-3가 만들어낸 글은 대체로 젊은 세대의 어휘나 글쓰기 방식과 가깝다는 평을 듣는다. 이는 인터넷에 올라오는 대다수의 텍스트가 젊은 세대에 의해서 만들어진 것이기 때문이다. 인공지능은 인간이 만든 정보를 활용해 학습해서 인간을 모방하므로 학습에 사용된 정보를 만든 인간의 가치관에 태생적으로 영향을 받을 수밖에 없다. _ 지능 만들기 ㆍ 102쪽

네트워크 이론은 네트워크가 갖는 고유의 성질과 함께 네트워크로 표현되는 존재(어떤 것은 도로나 인터넷처럼 실체가 있고 사람 사이의 관계처럼 개념적인 것들도 있다)들이 갖는 공통의 특성을 찾아내어 대상을 이해하려는 방법이다. 숲을 파고들어 나무를 들여다보는 것이 아니라 숲 바깥에서 숲을 바라보며 이해하려는 접근법이라고 할 수 있다. _ 초연결 사회 ㆍ 177쪽

기둥이 지탱하는 무게는 길이와 관계없이 기둥의 단면적에 의해 결정된다. 그런데 1층 건물이 10층이 되면 건물의 부피가 10배가 되고 건물의 무게도 10배 늘어난다. 기둥 하나의 강도가 1층 건물의 무게만 견디는 수준이라면 기둥의 수를 10배 늘려야 한다. 높은 건물을 짓겠다고 건물 내부를 온통 기둥으로 채울 수는 없는데다 현실적으로 계단과 엘리베이터도 더 필요하기 때문에 지을 수 있는 건물의 높이는 한계가 있다. 바벨탑은 애초에 지을 수 없는 건축물이고 보이지 않는 천장이 구조물의 한계를 정해놓고 있는 셈이다. _ 스마트시티로 가는 길 ㆍ 235쪽

변화 못지않게 중요한 것은 변화를 감당할 능력이고 도시에겐 그것이 지속가능성이다. 점점 급격한 변화가 계속 이어질 것이라고 예상된다면 단기적, 장기적으로 도시의 지속가능성을 염두에 둘 필요가 있다. 건강에 좋다고 매일 아침에 윗몸일으키기를 하겠다는 포부는 훌륭하지만 끝내 작심삼일에 머물고 만 사람들도 있다. 도시는 그들 모두를 품고 적응해나가야 한다. _ 스마트시티로 가는 길 ㆍ 253-254쪽

스마트시티는커녕 산업혁명의 물결조차 제대로 구경하지 못했던 독일의 시인 휠덜린의 이야기는 불편한 진실을 끄집어낸다.
“세상을 천국으로 만들겠다고 했던 사람들이 만든 것은 언제나 지옥이었다.”
동기는 분명하지만 신뢰는 미지수다. 스마트시티는 도시에게 지금껏 없었던 새로운 가능성을 제공해주고 있다. 이를 어떻게 활용할지는 지금 도시에 살고 있는 사람들의 몫이다. 가장 최신의 기술을 활용하는 도시가 제 몫을 해내려면 신뢰의 네트워크가 제대로 작동해야 할 것이다. _ 스마트시티로 가는 길 ㆍ 274-275쪽

인구가 늘어남에 따라 걷는 속도도 함께 빨라지고 있었고 그 증가율에 일정한 규칙성도 나타났다. 걷는 속도가 인구 증가에 따라 규칙적으로 빨라진다는 연구 결과는 도시가 커지면서 사회관계망 관련 요소들이 증가한 결과와 매우 유사하다. 도시의 규모가 커지는 것보다 좀 더 높은 비율로 걷는 속도가 빨라졌다.
이런 현상이 나타나는 원인으로는 경제적 이유가 첫손에 꼽힌다. 도시가 커질수록 임금수준과 물가수준이 높아지는 경향이 있기 때문에 결과적으로 시간이 금이 된 것이다. _ 불확실성 너머 ㆍ 291-292쪽

인공지능이 이끄는 미래는 사람들에게 뇌를 더 쓰라고 요구한다. 정보가 중심이 된 세상에서는 자료를 분석해서 문제를 해결하는 지능을 더 활용해야 한다. 인공지능이 내놓은 결과가 인간의 사고로 파악할 수 없다고 그대로 받아들이는 데 익숙해지기보다는 누군가는 끊임없이 그 과정을 파고들 필요도 있다. 해킹으로 나의 정보가 유출되었을 때 손 놓고 어쩔 수 없다는 태도를 보이기보다는 나의 개인정보를 수집해간 기관이나 업체에 응당한 조치를 요구하는 것도 필요하다. 그런 목소리가 네트워크에 쌓이면 새로운 결과물이 창출된다. _ 불확실성 너머 ㆍ 297-298쪽