이 책은 서울대 철학과 김재인 교수가 '컴퓨터와 마음'이라는 교양수업에서 강의한 내용에 바탕을 두었다. 빠르게 발전하는 인공지능에 견주어 인간이 어떤 존재인지 철학과 과학을 오가며 살펴본다. 이 책을 읽은 현직 IT업계 종자사가 철학자가 인공지능에 대해 공부를 많이 했다며 감탄했다. 그만큼 인공지능이란 주제가 우리에게 가까이 다가왔다는 뜻이 아닐까? 사람들은 인공지능과 사람의 지능 혹은 마음이 어떤 공통점과 차이점을 가지는지 궁금하다.

 저자는 과연 인공지능 혹은 기계가 마음을 가질 수 있을까란 질문을 던지며 책을 연다. 이어서 실제 현장에서 어떤 원리로 인공지능을 구현하는지 알아본다. 다음으로 사람의 마음에 대해 고대 그리스, 로마 어원을 살펴보고, 철학과 생물학을 종횡무진하며 탐구한다. 후반부는 본격적으로 철학적 개념을 다룬다. 몸과 마음의 이원론을 설파한 대표적인 철학자 플라톤과 데카르트가 쓴 글을 분석한다. 또, 몸과 마음의 관계에서 인과론을 어떻게 적용하는지 고찰했다. 여기서 시간이 흐른다는 물리적 현실과 언어로 표현되는 논리 사이의 괴리를 눈여겨 볼만했다. 니체의 계보학 모델로 이를 돌파하는 부분이 인상깊었다. 마지막으로, 인공지능과 사람의 학습을 다룬다. 글쓴이는 되먹임과 보정이 학습의 주요 방법라고 가정한다. 인공지능은 되먹임은 가능해도 보정은 현재로선 가능하지 않다고 논증한다. 인공지능이 할 수 없는 일은 '창조'이며 인간은 창조성을 발휘하는 일을 해야한다는 주장으로 끝을 맺는다.

 엘론 머스크, 빌 게이츠 등 첨단 IT산업의 거두나 스티븐 호킹 같은 최고 수준의 물리학자가 특이점을 넘어 강한 인공지능이 생겨나면 인류는 멸망할지도 모른다고 우려한다. 그런데 이들 중 실제 인공지능을 개발하는 전문가는 없다고 저자는 지적한다. 인공지능과 대비되는 사람의 마음을 탐구하는 과정은 인공지능이 사람의 마음같은 의식이나 의도를 가질 수 없다는 사실을 납득하는 과정이기도 했다.

 이 책에서 플라톤과 데카르트를 굳이 그들의 원문까지 다루는 이유는 몸과 마음의 이원론이 인공지능이 자의식을 얻는다는 생각을 낳기 때문이다. 이원론을 따르면 몸과 마음은 별개의 실체이다. 몸은 물리적 공간을 점유하는 연장의 속성을 가졌으며 마음은 물리적 공간을 차지하지 않고 관념으로 이루어졌다. 그런데 우리가 일상적으로 경험하기에도 몸과 마음은 이어져있다. 마음이 무언가 결정하면 몸은 그것을 행한다. 몸과 마음은 별개의 실체인데 어떻게 관련을 맺는가? 마음이 원인이고 몸의 행동은 결과다. 이것이 인과의 핵심이다. 이런 논리에서 인공지능이 자의식을 가질지도 모른다는 생각이 나올 수 있다.

 저자는 인과의 역설과 이를 풀어내는 해법인 계보학 모델을 소개한다. 여기에 따르면 인과란 어디까지 사후설명에 지나지 않을지도 모른다. 실제 인간에게 자유의지가 없을지도 모른다는 실험도 여러 차례 있었다. 한편, 생물학적으로도 뇌와 지능이 발달하는데 신체는 필수적이다. 멍게가 유생 때는 이동을 하는데 이 시절에는 뇌가 있다가 성체가 되어 한 장소에 고착하여 살게 되면 뇌는 없어진다. 뇌는 운동하기 위한 기관이라고 할 수 있다. 지능이 환경에 적응하여 살기 위한 다양한 문제를 해결하는 능력이라면 신체를 반드시 고려해야 한다.

 인공지능은 스스로 문제를 설정할 수 없다. 아무리 탁월한 능력을 가졌어도, 인간이 제시한 과제만 잘 수행한다. 알파고가 바둑을 배우는 과정도 인간이 무엇이 좋고 나쁜지를 미리 설정해 두었기 때문에 가능했다. 인공지능은 스스로 무엇이 좋고 나쁜지 판단하지 못한다. 강화학습은 보상 피드백을 원리로 하는 되먹임 학습이다. 몸과 마음이 같이 변해서 이전과 다른 차원의 사고와 행동을 낳는 보정과는 다르다.

 인공지능은 분명 세상을 크게 바꿀 것이다. 인터넷과 스마트폰이 가져온 변화보다 클지도 모른다. 여기에 적응하기 위해서는 정확하게 아는 일이 필요하다. SF적 상상력을 제대로 발휘해보자. 인공지능 자체가 인류를 위협하지 않는다. 오히려 인공지능과 기계를 소유한 인간이 다른 인간을 위협한다. 얼마 전에 보았던 드라마 '알터드 카본'은 몸 복제와 기억 저장 수단을 통해 영생을 누리며 신처럼 군림하는 '므두셀라'로 불리는 상류층의 모습을 보여줬다. 인공지능은 단독으로는 중립이다. 누가 사용하느냐에 따라 천사도 악마도 된다. 

김재인, 인공지능, 이원론, 계보학, 보정