동물 중에서 유일하게 인간에게만 있는 양심. 물론 같은 인간이라도 양심이 없는 사람도 있긴 하다. 그럼 양심이란 도대체 무엇일까. 간단히 말해서 '자기 행위에 대하여 옳고 그름과 선과 악의 판단을 내리는 도덕적 의식'(출처 네이버)이라 할 수 있다. 이런 양심은 물질이 아닌 정신이기에 당연히 AI에게는 존재할 수가 없다. 그렇다면 저자는 뻔한 사실을 왜 제목으로 선택했을까.
4차 산업혁명에서 가장 중요한 인공지능의 윤리를 다루는 이 책은 '인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로보기'에 대한 내용을 담고 있다.
인공지능을 뜻하는 AI는 이미 알게 모르게 인간의 삶 깊숙이 침투하였다. 일반인의 입장에선 그저 개발자가 만들어 출시한 제품을 통해 인공지능을 만날 뿐이다. 그럼에도 우리가 함께 인공지능의 윤리에 관심을 기울여야 하는 이유를 이 책을 통해 확인할 수 있었다.
'죽음'을 흔드는 AI, '존재'를 흔드는 AI, '신뢰'를 흔드는 AI를 통해 일상에서 접할 수 있는 AI의 존재를 만나보았다. 존재하지 않는 존재인 가상 인간으로는 인플루언서, 아나운서, 가수 등이 있다. 처음 가상 인간을 접했을 당시가 생각나는 데 신기하면서 묘한 느낌으로 솔직히 그리 실감 나진 않았다. 하지만 이 책 '인공지능과 혁신'편을 통해 생각보다 심각한 인공지능의 다양한 영역과 인간보다 뛰어남을 인식하면서 인간을 초월하는 스스로 진화하는 AI가 지닌 심각성에 다가갈 수 있었다.
... 그런데 이처럼 '신뢰할 수 있는' 인공지능을 확보하려면, 인공지능을 만들어내고 발전시키며 사회 전반에 이를 확산하는 주체인 '인간 자신'을 먼저 신뢰할 수 있어야 한다. 겉으로는 인공지능이 인간을 흔드는 것처럼 보이지만 결국 인간을 흔드는 것은 인간 자신이다. 인공지능은 인간으로부터 나오는 기술이기 때문이다.
-그래서 인공지능으로 인해 우리의 미래가 흔들리지 않으려면, 인공지능이 가져올 미래를 앞서서 바르게 준비하려면 '신뢰할 수 있는 인공지능' 확보라는 미션은 '신뢰할 수 있는 인간' 확보라는 미션으로 바뀌게 된다. 이는 곧 '인공지능과 관련해' 인간이 가지는 생각과 가치관, 의도와 행동을 먼저 신뢰할 수 있어야 함을 의미한다. 이를 이끌어가는 핵심이 바로 '인공지능 윤리'이다. p 214 ~ 5
인공지능의 윤리와 관련하여 강의나 토론 진행 시마다 청중으로부터 받아온 공통 질문을 소개한다. 그리고 그 질문 속에 담긴 오해를 풀며 인공지능의 윤리가 왜 중요한지 폭넓은 시각과 타당성으로 설명하며 이해시킨다. 그뿐만 아니라, 인터넷 윤리를 품은 인공지능 윤리와 인공지능 윤리 원칙의 도출, 공공성과 책무성 및 통제성과 투명성 이해하기를 통해 인공지능에게 윤리가 왜 중요하며 필요한지 납득할 수 있었다. 이를 통해 우리가 AI의 윤리에 대해 심각하게 고려해야 할 사항 등에 대해 접근하면서 왜 함께 관심을 기울여야 되는지 충분히 인식하게 되었다.
-이처럼 인류의 손을 거치지 않고 태어날 초지능은 매우 심각하게도 인류에게 우호적이지 않을 수 있다. P 161 ~ 2
-인공지능이 몰고 올 미래에 대해 인류 전체가 함께 '방어적 준비'를 해야만 한다. 그렇지 않으면 인공지능은 인류에게 특이점을 초래할 것이고 자연스레 발생할 초지능으로 인해 인류의 문명은 막을 내릴 것이라는 경고가 반복해 들려온다. P 169
일반인의 입장에서 AI와 관련된 정보를 수집하기가 쉽지 않은데 AI의 탄생 배경부터 성장까지 그 일련의 과정을 담고 있는 유익한 도서이다. 인류 마지막 기술이 될 수 있다는 인공지능, 그 양날의 검에 대해 알아가며 생각하는 시간이 흥미롭고 유익했다. 전공자, 비전공자 모두에게 필요한 도서이다, 강추!