추가 적립 안내

인공지능 존재와 공존하는 사회에서 인류는 어떤 선택을 해야 하는가
21세기 인류 사회가 직면하고 있는 문제들과 씨름하면서 긍정적인 대안을 모색하는 몸문화연구소의 네 번째 포스트휴먼 총서. 2018년과 2019년 한국과학창의재단 우수과학도서 선정작 《지구에는 포스트휴먼이 산다》와 《포스트바디：레고인간이 온다》, 《인류세와 에코바디》에 이은 이번 책에서는 인공지능 사회가 직면하게 될 전반적인 문제를 포괄적으로 다룬다.
인공지능 혁명을 둘러싼 낙관론과 비관론이 무성하지만, 기술적 측면과 경제적 측면의 논의가 대부분이다. 저자들은 인공지능 시대의 기회와 도전, 그리고 위험 앞에서, 사회를 어떻게 미래형으로 재구성해야 하는지에 대해 고찰한다.
이 책은 인간과 인공지능 존재가 적대적 관계가 아님을 더 강조하며, 인간이 비인간 존재들을 아우르는 공존의 지혜를 추구할 때 지구 공동체가 더 살 만한 세상이 될 수 있음을, 그것은 인류가 어떤 선택을 하느냐에 달려 있음을 이야기한다.

인공지능 시대 어떻게 맞이할 것인가?
인공지능에 대해서는 극단적으로 시각이 엇갈린다. 인간의 편의를 극대화할 유토피아와 인간이 인공지능에게 지배 혹은 전멸당한다는 디스토피아적 시각이다. 상상력에 바탕을 둔 양쪽의 주장은 타당한 면이 있지만 미래가 어떻게 될지 누구도 장담할 수 없다.
반면 인공지능은 속속 인간 사회에 파고들어 어떤 기술은 인간에 도움을 주는 반면 어떤 기술은 인간의 자유를 억압하는 데 활용되고 있기도 하다. 앞으로 수십 년간 인류는 '이런 세상은 처음'이라는 상황을 겪어야 한다. 그리고 그 '처음'은 인간 사회가 재구성되어야 할 만큼 중대한 문제가 될 것이다. 이 책은 현재의 인공지능 기술로부터 미래에 실현될 인공지능이 가져올 사회 문제를 예측하고, 이에 어떻게 접근해야 할지 제안한다.

기술로 널리 이롭게 하라
이제 곧 현실로 다가온 자율주행 자동차. 이 기술의 윤리적 딜레마인 트롤리 문제를 보자. 다수의 보행자를 살릴 것인지 혹은 운전자를 살릴 것인지는 철학적 논의가 오가는, 정답을 정하기 곤란한 문제다. 인공지능 기술을 도입하려 할 때마다 이런 철학적 문제가 나오고 어쩌면 기업에 CPO(Chief Philosophical Officer)라는 직책이 생길지도 모른다. 그러나 저자들은 이 딜레마는 잘못된 질문이며, 딜레마 해소를 위해 관점의 전환을 제안한다. 자율주행 자동차의 도입으로 감소할 인간 운전자의 부주의로 인한 피해와 자율주행 자동차의 편의성, 교통약자에게 주는 복지가 트롤리 딜레마보다 크다면 공공의 이익에 부합하지 않을까?
현재 인공지능을 이용해 기후변화를 모델링하고, 식물성 플랑크톤의 분포와 활동을 추적하거나 삼림과 각종 생물종들의 변화를 파악하는 등의 활약이 펼쳐지고 있다. 인공지능의 기술이 더 발전하면 인간이 해결하기 어려운 지구온난화와 환경보호에도 도움이 될 수 있다.
인공지능이란 도구는 누군가 막는다고 막아질 문제가 아니다. 도구를 어떻게 쓰느냐가 더 중요한 문제이다.

기술을 감시하라
많은 사람들은 인공지능 판사를 바란다. 기계가 감정에 치우치지 않고, 논리적으로 공정하게 판단할 것이라는 믿음 때문이다. 하지만 기대와 달리 기계는 상당히 편향적인 판단을 한다. 구글 이미지 검색은 CEO를 검색하면 백인 남자를 편중해서 보여주고, 흑인에 대해서는 고릴라를 노출시키기까지 한다. 인공지능을 움직이는 핵심기술은 기계학습 알고리즘과 빅데이터이다. 이 방식은 인간을 능가할 정도로 뛰어난 결과물을 산출하지만 기존 데이터를 기반으로 판단하기에 인간 사회가 나아가고자 하는 방향과 맞지 않는 경우가 많다.
또한 알고리즘은 때로는 확증편향을 강화시키는 방향으로 작동하기도 한다. 오늘날 시민들은 전통적인 언론보다도 각자의 레시피로 선별한 칵테일 뉴스를 선호한다. 사용자가 알고리즘을 자기 입맛에 맞게 ‘교육’시키는 셈이다. 알고리즘이 ‘알아서 거른’ 편향된 정보에 갇히는 필터버블이 만약 가짜 뉴스라면 그릇된 생각에서 헤어나오기 어렵게 된다. 만약 알고리즘을 지배하는 빅브라더나 알고리즘을 간파한 세력이 악용하면 손쉽게 여론조작을 할 수 있는 환경이 조성되는 것이다.
저자들은 국가 감시 체제와 법률 제정도 필요하지만, 보다 효과적인 방법으로 시민들의 자발적 활동으로 알고리즘을 살펴볼 것을 제안한다. 소비자가 유해성분으로 인식하면 기업이 스스로 제품 생산에서 그 성분을 제외시키듯, 알고리즘의 설계자인 기업도 사용자들의 눈치를 보기 때문이다. 알고리즘을 밝히지 않더라도 입력을 조절해가며 출력을 확인하는 역공학 방법으로 알고리즘 작동 패턴과 규칙은 알아낼 수 있다. 크리스토프 드뢰서는 이렇게 말했다. “사회에 알고리즘 전문가algorithmist가 많을수록 여론도 우리의 삶을 규정하는 알고리즘들의 배후를 더 많이 캐물을 것이다.”

노동의 신성함을 버려라
인공지능의 디스토피아를 상상하는 이유 중 하나는 자동화가 인간의 노동력을 완전히 대체할 수 있다는 믿음 때문이다. 인공지능이 산업혁명과 달리 인간의 일에 더 위협적인 것은 사실이다. 산업혁명이 물리력이 필요한 노동을 대거 대체했다면 인공지능 혁명은 사고력이 필요한 노동력을 대체할 것이다. 많은 인공지능 전문가들은 저비용의 노동자보다 고연봉의 의사, 회계사, 변호사 등의 자리가 더 위태롭다고 예상한다. 자본주의 사회는 고효율성을 추구하기 때문이다. 더군다나 기계는 창의력이 없다는 믿음은 인공지능이 그림을 그리고 작곡함으로써 깨졌다. 사고력과 창의력이 뛰어난 인간의 직업들도 대체될 수 있는 마당인데 나머지 인간들은 무엇을 해야 할지 걱정하는 것은 너무나도 당연하다.
저자들은 기본소득에 대해 더 전향적으로 바라볼 것을 주문하면서 “일하지 않는 자 먹지도 말라”라는 수천 년간 내려온 규범을 버릴 것은 주장한다. 과거 생산력이 노동력인 시절에는 이 규범이 통용되었지만, 기계의 높은 생산성 덕분에 모두가 하는 일 없이 빈둥대더라도 얼마든지 먹고살 수 있을 만큼 풍족한 삶을 누릴 수 있는 시대에는 낡았다는 것이다. 그리고 먹고살기 위해 일을 하는 시대가 종말을 고하고, 기본소득으로 인간으로서의 삶이 보장되어 자기가 하고 싶은 일을 하면 인간이 더 행복해질 수 있는 시대를 만들 수 있다고 주장한다.

기계와 공존할 준비를 하라
초인공지능이 먼 이야기일지 몰라도 인간과 감정을 교류하는 로봇은 이미 현실로 다가왔다. 2006년 심리학자 로버트 엡스타인은 온라인에서 젊은 여성을 가장한 챗봇에게 속아넘어간 경험을 《사이언티픽 아메리칸》에 “로봇과의 데이트”라는 제목으로 썼다. 봇이라는 것을 알고 있음에도 위안을 얻기 위해 심리상담봇을 애용하는 사람들도 있다. 반려동물처럼 자신과 감정을 교류한 로봇을 가족처럼 소중히 여기는 시대가 온다면 로봇을 어떻게 대해야 할까?
저자들은 인간 중심의 사고방식에서 벗어나 인공지능에 대한 권리를 존중해야 한다고 말한다. 사람이 지구 생태계의 동물들과 공존을 모색하듯, 생태계의 구성원인 기계와 공존을 모색해야 한다는 것이다. 이 주장은 동물권도 아직 보편적으로 인정이 안 되는 현 시점에서는 시기상조처럼 보이기도 한다. 그러나 이는 기계가 아니라 인간을 위해서 필요한 논의다. 상대의 욕구나 감정을 전혀 고려하거나 배려할 필요 없는 일방적 관계는 특히 어린이들의 경우 인간과의 상호 관계에서도 상대의 감정을 읽는 능력을 저하시키고 도덕성을 마비시키는 부정적 결과를 초래할 수가 있다. 실제로 아마존 알렉사를 장시간 상대한 아이들의 버릇이 나빠졌다는 연구 결과가 있고, 왜곡된 성 관념을 심어줄 수 있다는 섹스 로봇 반대론자들의 경고는 경청할 만하다.
따라서 기계가 아니라 스스로 인간성을 파괴하는 일이 없도록 지능형 인공물에 대한 윤리적 대우를 강제하는 법이 필요하다고 저자들은 말한다. 만약 향후 인공지능이 더 발달해서 의식을 가지게 된다면 이에 대한 답은 우리가 이미 알고 있다. 그래서 디스토피아를 걱정하는 것 아닐까?

프롤로그

1장/ 인공지능에 관해 정말 알고 싶지만,
아무도 답을 모르는 질문들 _김운하

2장/ 로봇도 감정을 가지고 인간과 소통할 수 있을까? _임지연

3장/ 라면을 끓이는 당신은 이미 알고리즘 실행자! _이승미

4장/ 인공지능이 비즈니스를 하게 되는 날 _송은주

5장/ 탈노동 시대를 누리기 위해 필요한 것들 _서윤호

6장/ 빅브라더? 리틀브라더! _이지용

7장/ 자율주행차의 윤리적 딜레마 해소하기 _최일규

8장/ 인공지능이 지구를 구하는 법 _심귀연

9장/ 인공지능과 공진화하는 사이보그 인류 _주기화

10장/ 포스트휴머니즘, 공존의 철학 _김종갑

사실 제일 어려운 것은 ‘올바른 질문’을 던지는 것인지도 모릅니다. 즉 21세기 인공지능 사회에 대해 우리가 던질 수 있는 올바른 질문들을 제기하는 것 말입니다. 과장과 감상, 막연한 추측과 낙관, 근거 없는 불안과 공포가 아니라, 명료한 이성에 바탕을 둔 합리적인 추론과 근거 제시로 인공지능이 던지는 문제들을 감당해야 하지 않을까요.
(/ p.10)

인공지능 로봇이 인간보다 몇백 배 바둑을 잘 두고, 계산을 잘 할 수는 있을지 몰라도 기쁨과 슬픔, 공감과 사랑은 가질 수 없다고 말이다. 그러나 최근 이에 대한 반론들이 제기되고 있다. 과거 동물들에게는 감정이 없다고 주장하던 시대도 있었지만, 지금은 동물의 감정에 대해 아무도 의문을 갖지 않듯이, 로봇의 감정에 관해서도 지금까지와는 다른 접근을 하고 있다. … 하지만 우리는 로봇과 어떤 관계를 맺어야 할지 머뭇거리고 있다. 로봇에 대한 양가적 마음 때문이다. 인공지능이 우리의 현실 깊이 침투해 있음에도 우리는 인공지능 로봇에 대해 공포와 환대를 동시에 느낀다.
(/ p.52)

자잘한 일부터 일생일대의 의미 깊은 일까지 알고리즘이 추천하고 간섭하는, 알고리즘과 빅데이터의 시대는 이미 시작되었다. 앞으로는 더욱 다양한 면에서 우리 삶에 집요하게 파고들 것이다. 거주할 장소도, 종사할 직업도, 소비할 물건도, 심지어 함께 살 배우자까지도 기계지능이 ‘추천’하고 인간은 ‘선택’하는, 지극히 ‘효율적인’ 삶을 영위할 수도 있다. 올더스 헉슬리가 말한 ‘멋진 신세계’가 아닌가! 알고리즘이 나를 차별하기 전까지는 말이다. 우리는 알고리즘의 시대를 어떻게 살아야 할까?
(/ p.95)

우리는 인공지능 사회가 촉발하게 될 감시 사회에 대한 위험성을 자각함과 동시에, 기술의 발달이 초래할 위험성을 막연하게 경계하는 데서 그치지 않고 우리 스스로가 거대한 데이터 세계를 구성하는 한 명 한 명의 구성원임을 자각할 필요가 있다. 이 시대의 우리는 인공지능 시대의 구성원이자, 정보의 제공자이자 사용자이고 소유자인 한 사람 한 사람이 리틀브라더들로서, 잠재되어 있는 빅브라더들이나 권력에 내재된 리틀브라더들의 횡포를 견제하는 존재들인 것이다.
(/ p.166)

관계가 없으면 존재도 없는 것이다. 이 점에서 포스트휴머니즘은 비인간 생물이나 로봇, 인공지능을 인간에 종속된, 인간을 위해 봉사해야 하는 존재로 바라보지 않는다. … 물질을 수동적이고 비활성적인 조작의 대상으로 바라보지도 않는다. 물질이란 정신의 맥락이며 정신은 물질적 변화에 대한 관념에 지나지 않는다. 이 점에서 포스트휴머니즘은 모든 존재와의 생태학적 공존을 추구한다. 트랜스휴머니스트에게 지식이 자연 정복과 자기 강화의 힘이라면, 포스트휴머니스트에게 지식은 타자와 공존하는 지혜를 추구하는 것이다.
(/ p.270)