추가 적립 안내

AI에게 철학을 가르치면
어떤 일이 일어날까?
윤리학, 미학부터 종교학, 심리학까지
‘인간적인’ 인공지능을 위한 7가지 철학 수업

시나리오 1. 인공지능이 운행하는 기차 앞에 5명의 작업자가 있다. 그리고 반대편 선로에 1명의 작업자가 있다. 이 위급한 상황에서 인공지능은 그대로 5명의 작업자를 치어야 할까? 선로를 바꾸어 1명의 작업자를 들이받아 피해를 최소화해야 할까?
시나리오 2. 전쟁터에 군사 로봇이 있다. 로봇은 자국민을 보호하는 일이라면 물불을 가리지 않고 사람을 죽여도 되는 것일까? 자신의 존재 목적을 이루었기 때문에 ‘살생’이 정당화될 수 있을까? 그런데 시스템 오류로 인해 자국민을 살해했을 경우에는 누가 그 잘못을 책임져야 할까?
인공지능의 상용화가 코앞에 이른 상황에서 인류는 인공지능의 윤리라는 전대미문의 문제에 봉착했다. 이 책은 4차 산업 혁명 시대에 인공지능 분야에서 대두되는 사회적 쟁점들을 철학적으로 해석하여 인류의 현재와 미래에 관해 질문을 던졌다. 이를 위해 ‘중국어 방’, ‘트롤리 딜레마’ 등 철학자들이 인간의 사고를 설명하기 위해 고안한 생각 실험을 도구로 자율 주행차, 딥 러닝, 군사 로봇 등 ‘인공지능’이 마주할 윤리 문제를 먼저 테스트했다.

인간과 공존하기 위한 인공지능의 마지막 공부

어느새 인간의 본질적 특징인 ‘사고’와 ‘감정’의 영역까지 넘보는 단계에 와 있는 인공지능은 인간을 대신해 과연 어디까지 생각하고 판단할 수 있을까? 그동안 인공지능의 기능과 경제적 가치가 주된 담론이었다면, 이제는 인공지능의 윤리 문제에 대한 논의가 이루어져야 할 때다. 즉 인공지능이 맞닥뜨릴 윤리적 상황을 인류가 시급히 해결해야 할 과제로 인식해야 한다.
현재 인공지능의 기술은 사람들의 일상생활을 넘어 예술, 의료, 군사 부문에 이르기까지 그 활용의 범위가 날로 확장되어 가지만 인공지능이 마주한 여러 윤리적 문제는 해결되지 못하고 있다. 이제 인공지능은 인간과 함께 공감함으로써 인간답게 기능할 수 있어야 한다.
인간이 통제할 수 없을 정도로 인공지능의 기술이 발전하기 전에 인공지능에게 철학을 가르침으로써 인류의 미래를 준비해야 한다. 이 책에서 ‘인공지능에게 철학을 가르치면?’이라고 질문한 이유다. 이를 계기로 철학이 인공지능의 윤리라는 논의에 해답을 제시할 수 있기를 바란다.

AI가 인간과 공존하기 위해 필요한 공부
인공지능에게 철학을 가르칠 수 있을까?

인공지능이 인간의 삶을 더욱 편리하게 만들어 주는 것은 사실이지만 인공지능이 분쟁에 이용되거나 살인을 일으킬 수 있다는 우려도 동시에 존재한다. 실제로 미국은 우버에 의한 자율 주행차 운행을 실시했다가 사람을 들이받으면서 ‘누가 사고를 책임질 것인가’에 대한 문제로 어려움을 겪었고, 현재 자율 주행차 운행은 중단된 상태다. 이처럼 인공지능의 도덕적, 윤리적 문제는 아직 해결되지 않았다.
앞으로 인류는 인공지능이 마주한 윤리적 상황을 어떻게 해결해 나가야 할까? 이 책은 철학에서 그 답을 찾고자 한다. 여기 철학을 토대로 시대의 변화를 포착하여 미래를 예측하는 일을 전문으로 연구해 온 미래학자가 있다. 그는 ‘인공지능에게 철학을 가르치면 어떤 일이 일어날까?’라는 설정 아래, 인공지능과 관련된 여러 이슈들에 질문을 내놓으며 그 질문들에 철학은 어떻게 대답할 것인지에 관해 탐구했다.
왜 철학일까? 오랜 시간 동안 인간의 전유물이라고 여겨져 온 윤리와 철학이 과연 가르친다고 배울 수 있는 것일까? 빠르고 명쾌하게 답을 찾는 일에 최적화된 인공지능이 깊은 사고의 과정이 필요한 학문인 철학에서 답을 찾는 일이 가당할까?

★ AI는 생각한다, 고로 존재할까? - ‘인지학 편’

먼저 인공지능은 인간처럼 생각할 수 있는지부터 확인해야 한다. 철학은 답이 없는 문제를 끊임없이 사고하는 과정에서 자신과 자신의 주변 세계를 이해함으로써 답을 찾아가는 학문이다. 그렇기 때문에 누군가는 이 질문에 대한 답을 찾기도 전에 인공지능은 기계이기 때문에 생각할 수 없다고 결론을 내렸을지도 모르겠다. 하지만 당신의 판단은 너무 섣부르다. 현재 인공지능은 인간의 지성을 능가한 상태다.
실제로 생각하는 컴퓨터로 불리는 딥 러닝은 유튜브에 투고된 대량의 영상에서 추출한 이미지를 스스로 학습하여 ‘고양이’라는 개념을 인식하는 수준에 도달했다. 즉 고양이를 알지 못하던 인공지능이 딥 러닝을 통해 혼자 힘으로 ‘고양이’가 무엇인지 깨우치게 된 것이다. 주체적으로 판단하고 선택하는 수준으로까지 인공지능의 기술이 발전했다.
이제 인공지능이 기계이기 때문에 생각할 수 없다는 주장은 더 이상 먹히지 않는다. 인공지능은 인간의 지성을 모방하여 실현된 기술로서, 어쩌면 인공지능은 인간보다 더 고차원적일 수 있고 오히려 더 주체적일 수 있는 것이다. 이는 어디까지나 가정이지만, 가까운 미래에 실현될 수 있는 일이다.

★ AI는 타인을 위해 자신을 희생할까? - ‘심리학 편’

그렇다면 생각하는 인공지능은 사랑하는 사람의 행복을 위해 자신을 희생할 수 있을까? 데이터를 분석해서 합리적으로 최적의 결과에 도달해 내는 일에 특화된 인공지능이 인간의 행복을 위해 자신을 희생하는 선택을 기꺼이 할 수 있을까? 인공지능은 인간이 추구하는 행복이 무엇인지조차 모를 수 있다. 하지만 이 책에서 꼬리의 꼬리를 물어 철학적으로 질문한 결과, 인공지능은 행복을 느낄 수 있다는 결론에 도달했다.
단순히 인공지능이 행복을 느낄 수 있다는 사실 하나만으로 인공지능을 신뢰할 수 있을까? 여기서 인공지능과 인간의 가장 큰 차이가 대두된다. 바로 인간은 몸과 마음이 연결되어 있는 존재라는 사실이다. 인간은 몸을 배제하고 자신의 행복을 생각할 수 없다. 하지만 인공지능은 몸과 마음을 분리해서 생각할 수 있다.
그렇기 때문에 인공지능은 인간을 완전히 대체할 수 없고, 인공지능에게 인간을 대신해 많은 선택을 맡길 수 없는 이유다. 그럼에도 지금 인공지능이 인간의 감정을 파악하는 일에 많은 연구가 진행 중이다. 훗날에는 몸과 마음이 분리될 수 없는 인공지능의 한계를 극복하여 인공지능은 인간과 감정을 주고받을 수 있는 날이 올지도 모른다. 그때는 인간보다 인공지능이 인간의 마음을 더 잘 이해하는 수준에 이르게 될 것이고, 인공지능과 인간의 결혼이 논의될 수 있다고 이 책은 말한다.

써먹을 수 있는 철학이 무엇인지를 제대로 보여 주는
‘인간적인’ 인공지능을 위한 7가지 철학 수업

이밖에도 윤리학, 미학부터 사회학, 종교학, 유전자 공학까지 ‘인공지능에게 철학을 가르치면 어떤 일이 일어날까?’를 생각 실험을 통해 인공지능이 철학적으로 어디까지 사고하고 판단할 수 있는지를 테스트했다. 이를 위해 ‘중국어 방’, ‘트롤리 딜레마’ 등과 같이 비교적 잘 알려진 생각 실험을 비롯해 다양한 생각 실험을 중심으로 인공지능을 둘러싼 논의를 깔끔하게 정리했다. 이 책은 “인공지능을 주제로 한 응용 윤리학의 교과서”라고 말할 수 있을 만큼 인간과 공존하기 위해 필요한 인공지능이 행동하고 판단할 수 있는 범위에 대해 계속 질문하고 있다.
답을 명확히 제시하는 책은 아니지만 생각 실험을 통해 끊임없이 질문을 던짐으로써 인공지능의 미래에 관해 사람들에게 깊이 생각하고 연구할 수 있는 기회를 제공한다. 기존의 인문 교양이나 철학서들처럼 새로운 개념을 설명하는 데 급급하거나 주로 인공지능의 기술적 측면을 다룬 책들과 달리 인공지능의 윤리적 측면에서 여러 분야의 문제를 심층적으로 분석했다는 점에서 특별한 책이다.
인공지능은 여전히 시의성 있는 주제다. 때문에 앞으로도 이에 관한 논의 및 예측은 계속될 수밖에 없다. 그러므로 이 책이 인공지능 발달에 따라 제기될 다양한 도덕적, 윤리적 문제를 생각하게 한다는 사실만으로도 유익하고 의미 있는 책이 될 것이다.

프롤로그 “인공지능에게 철학을 가르친다면”

제1강 윤리학
“다섯 명의 보행자를 살릴까? 한 명의 운전자를 살릴까?”
운전자가 없는 자율 주행차의 질주
인공지능에게 윤리를 가르칠 수 있을까?
판단의 중심에 서 있는 인간
어떤 프레임으로 세상을 바라볼 것인가

제2강 인지학
“인공지능은 생각한다, 고로 존재할까?”
인공지능의 어머니는 인간의 지성이다
딱 잘라 ‘개’라고 정의할 수 없는 이유
생각하는 컴퓨터, 딥러닝의 기술

제3강 미학
“참여할 수는 있겠지만 예술을 이해할 수 있을까?”
렘브란트와 피카소를 뛰어넘는 천재의 등장
인공지능에게 미인이란?
예술의 위기인가, 지평의 확장인가

제4강 심리학
“사랑하는 사람을 위해 자신을 희생할 수 있을까?”
행복이란 무엇인가
마음을 소유한다는 것
공존을 넘어 공감을 위한 노력

제5강 사회학
“인공지능에게 인간은 노예일까? 주인일까?”
일자리 없는 미래, 노동의 종말
인간과 인공지능의 대립
주체로서의 인간이 할 수 있는 일

제6강 종교학
“종교 간의 갈등을 해결할 수 있을까?”
만물의 척도가 될 것인가
인공지능도 신을 믿을 수 있다?
신의 자리를 넘보는 인공지능에게

제7강 유전자 공학
“전쟁에 참가한 인공지능, 사람을 죽여도 될까?”
피스 메이커와 트러블 메이커 사이에서
포스트휴먼이 온다
인간 중심주의의 오류

에필로그 “인공지능의 마지막 공부”

왜 ‘인공지능은 철학을 할 수 없다’고 여겨질까요? 아마 이 의문에는 ‘인공지능은 기계이기 때문에 인간처럼 생각하는 일은 불가능하다’는 전제가 깔려 있을 것입니다. 즉 기계는 단지 연산을 처리할 뿐이지 철학 같은 사고를 할 수 없다고 생각하는 것이지요. 정말로 기계는 생각할 수 없을까요?
-9쪽, ‘프롤로그’에서

지금까지 우리는 인공지능이라는 기계에게 윤리를 가르치는 일이 애초에 무의미하다고 생각해 왔습니다. 하지만 기술의 진보는 항상 우리의 생각을 앞질러 왔습니다. 인공지능에게 윤리를 가르치는 일에 경각심을 느끼지 않는다면 돌이킬 수 없는 사태를 맞이할지도 모릅니다.
-42쪽, ‘인공지능에게 윤리를 가르칠 수 있을까?’에서

‘프레임 문제’는 1969년에 인공지능 연구가인 존 매카시와 패트릭 헤이즈가 제기한 물음으로, 인공지능에 관해 논의할 때 반드시 등장하는 철학적 난문입니다. 특히 인간에 대한 인공지능의 한계로 ‘프레임 문제’가 언급됩니다.
사실 ‘프레임 문제’에는 다양한 버전이 존재합니다. 여기서는 논의를 구체화하기 위해 미국의 철학자 대니얼 데닛이 모델화한 생각 실험을 살펴보도록 하겠습니다. 데닛은 〈인지 굴레〉에서 상황을 이렇게 설정했습니다.
-54쪽, ‘어떤 프레임으로 세상을 바라볼 것인가’에서

‘계산하다’라는 말에 라틴어 ‘콤푸타티오(computatio)’가 쓰이고 있음에 주목해야 합니다. 이 단어는 오늘날의 컴퓨터(computer)의 어원이 됩니다. 여기서 라이프니츠의 발상의 선진성이 드러납니다. 그는 인간의 마음의 작용은 실제로 계산할 수 있고, 그래서 기계식 계산기에 근거해 인간의 지적 활동을 실행할 수 있다고 생각했습니다. 그럼 인공지능의 기본 아이디어를 가지고 있던 라이프니츠는 인간의 지성에 대해 어떻게 생각했을까요?
-88쪽, ‘생각하는 컴퓨터, 딥 러닝의 기술’에서

인공지능에게 예술을 평가하는 일은 그리 어려운 일이 아니라고 말해야 할지도 모릅니다. 먼저 ‘시장 가치’ 측면에서 말하자면, 어떤 예술 작품이 시장에서 어떻게 평가되고 있는지를 빅 데이터를 이용해 확인할 수 있습니다. 마치 주식 시장에서 어떤 회사의 주식뿐만 아니라 그 분야와 관련된 주식이 전체적으로 동시에 판단되는 것처럼 다양한 측면에서 예술 작품의 시장 가치가 산정될 것입니다.
-123쪽, ‘예술의 위기인가, 지평의 확장인가’에서

이로부터 우리는 인간과 인공지능은 추구하는 행복이 다르다는 사실을 알 수 있습니다. 인간은 신체를 무시한 채 행복을 생각할 수 없습니다. 신체는 다른 사람이나 사물과도 연결되기 때문에 무시할 수 없습니다. 하지만 인공지능은 잘 작동하는지 여부가 가장 중요하고, 몸체는 어디까지나 외면적인 것에 불과합니다.
-147쪽, ‘마음을 소유한다는 것’에서

기계를 도입하면 실업자가 배출된다는 사실을 마르크스는 제대로 자각하고 있었습니다. 그 때문에 마르크스도 노동자들이 기계를 파괴한 ‘러다이트 운동’에 대해 감정적으로는 이해를 표했습니다. 그럼에도 불구하고 사회적 운동으로서 러다이트 운동을 지지하지는 않습니다. 그 이유는 기계의 도입에 따라 사회적 생산력이 향상되고, 더 나아가서는 사회의 진보로까지 이어지기 때문입니다.
-166쪽, ‘일자리 없는 미래, 노동의 종말’에서

자기 자신의 삶의 방식에 맞추어 다양한 교의를 혼합 (혹은 맞춤 제작)하는 일은 인공지능이 가장 잘합니다. 모든 사람에게 공통의 틀에 박힌 교의를 제시하는 게 아니라 각자에게 맞는 교의를 제시하는 것이지요. 인공지능이 현대의 삶의 방식에 맞게 종교의 존재 방식을 바꾸어 나가는 일은 커다란 가능성을 내포한다고 말할 수 있지 않을까요?
-202쪽, ‘만물의 척도가 될 것인가’에서

20세기 후반에 유전자 공학의 발전에 따라 인간의 유전자 정보가 밝혀지면서 인간의 유전자를 조합해 인간을 개조한 ‘포스트휴먼’이 탄생할지도 모른다는 주장이 유행했습니다. 특히 체세포 복제 기술이 개발되어 인간의 유전자 개조가 임박해지면서 하버마스는 철학자로서 자신의 생각을 적극적으로 표현하기 시작했습니다.
-250쪽, ‘포스트휴먼이 온다’에서