추가 적립 안내

인공지능 기술의 발전은 단순히 좋고 나쁨으로만 판단할 수 없다. 인공지능 기술은 이미 우리 곁에 있고 우리가 나아가야 할 시대의 핵심이 되었다. 따라서 인공지능이 우리 사회에서 어떤 역할을 하는지 이해하고, 인공지능을 어떻게 대해야 하며, 나아가 새로운 기술의 출현 속에서 우리는 인간의 가치를 어떻게 바로 세울지 논의하는 노력이 절실하다.

인공지능 기술로 상상이 현실이 되는 시대
인공지능은 인간을 대신할까, 인간을 보완할까?

인공지능은 우리 삶에 선택이 아닌 필수가 되었다. 인공지능의 기술 발전은 우리 삶을 편리하게 하고 인류에게 새로운 미래를 열어주고 있다. 일상을 넘어 인간과 인공지능의 차별점이라 믿었던 예술의 경계까지 무너지는 등 인공지능 기술은 인간의 영역을 뛰어넘고 있다. 인공지능 기술로 상상이 현실이 되는 시대에 살고 있는 지금, 인공지능은 우리를 대신할까, 아리면 우리를 보완할까?
인공지능은 우리를 편리하게 하는 기술이지만 때로는 우리를 불편하게 하거나 예상하지 못한 사회적 또는 윤리적인 문제를 불러오기도 한다. 인공지능 기술의 발전에 따른 일자리 불안, 사생활 침해, 편향과 차별, 킬러로봇 개발 등 인공지능은 우리에게 새로운 문제와 고민을 안겨주고 있다.
이런 때일수록 우리에게는 사회적이며 윤리적인 기준이 필요하다. 기술의 편리함에 안주하기보다는 우리 스스로 기술의 주체가 되어야 하며, 기술 이전에 인간의 가치와 ‘사람이 중심이 되는 인공지능 시대’를 생각해야 한다.

인공지능 기술이 발전할수록
윤리적 문제 역시 간과할 수 없다

《인공지능의 생각》의 저자들은 법과 윤리 측면에서 인공지능을 들여다본다. 저자들은 이 책에서 인공지능 기술을 익히는 것만큼 그에 따르는 윤리적 경계선 역시 명확해야 한다고 강조한다. 인공지능에 대한 사회적 또는 윤리적인 기준과 합의는 해당 분야만의 이슈가 아니라 이미 우리 주변에서 일어나고 있고 우리에게 일어날 수 있는 일들에 대한 진지한 성찰이다.
인공지능 기술의 발전은 단순히 좋고 나쁨으로만 판단할 수 없다. 인공지능 기술은 이미 우리 곁에 있고 우리가 나아가야 할 시대의 핵심이 되었다. 따라서 인공지능이 우리 사회에서 어떤 역할을 하는지 이해하고, 인공지능을 어떻게 대해야 하며, 나아가 새로운 기술의 출현 속에서 우리는 인간의 가치를 어떻게 바로 세울지 논의하는 노력이 절실하다. 인공지능 관련 책들이 기술적 측면을 강조했다면, 이 책은 사회적 공유물인 인공지능이 우리와 함께 조화를 이루는 시대를 생각한다.

기술에 대한 선과 악의 기준이 아니라
기술을 대하는 우리 자신을 바로 세워야

인공지능은 인간의 행복과 편익을 위한 수단일 뿐이며, 인간을 위해 존재해야 한다. 기술 개발에만 몰두할 것이 아니라 그 기술이 우리에게 미치는 영향들을 살펴보고, 어떻게 하면 새로운 기술을 좀더 인간답게 개발하고 사용할 수 있을지 함께 이야기해야 한다.
인공지능 기술이 앞으로 어느 수준까지 이어질지는 가늠하기 어렵다. 어느 곳에서 어떤 새로운 기술을 개발하고 있는지 알 수 없으며, 그것이 나중에 윤리적으로 얼마나 큰 영향을 미칠지도 알 수 없다. 하지만 그것을 감시하고 올바른 길로 인도하는 것은 전문가가 아닌 깨어 있는 우리의 몫이다.
기술에 앞서 우리 자신을 바로 세우는 것이 먼저다. 더 많이 호기심을 갖고 더 많이 질문하면서 인공지능을 더 많이 알고, 인공지능의 현재와 미래를 함께 이야기하는 것, 진지하게 고민하고 성찰하며 스스로 길을 찾는 삶이 올바른 내일을 만든다. 깨어 있는 시민의식이 인공지능 시대를 살아가는 우리와 우리의 다음 세대를 위한 길이다.

1장__우리 곁에 온 미래
상상이 현실이 되는 시대 / 아이언맨을 만들 수 있다면 / 알고리즘이 낳은 고양이 / 인공지능이라고 말하는 기준

2장__생각하는 기계는 가능할까
겨울을 지나 딥러닝으로 / 우리가 그 안에 담아야 할 것 / 인공지능의 기계학습 / 데이터는 로봇의 밥 / 특이점을 넘어설 때

3장__인간과 기계 사이에서
인간을 대신할까, 인간을 보완할까 / 인간만이 할 수 있는 일 / 모라벡의 역설 / 권리와 의무의 주체라는 기준

4장__법감정과 인공지능
법감정에 대하여 / 법이 담지 못하는 것 / 법과 윤리, 사회적 가치 / 법과 기술은 함께 갈 수 있을까 / 법의 지도에서 찾는 삶 / 인공지능 시대, 법을 묻다

5장__인공지능은 윤리적일까
로봇에 윤리가 있을까 / 인간의 편견을 학습하다 / 데이터 윤리 / 인공지능은 공정할까 / 인공지능은 윤리를 학습할 수 있을까 / 인공지능 윤리는 언제 적용될 수 있을까 / 인공지능 윤리는 누구에게 필요할까

6장__인공지능을 위한 법정
문제가 생겼을 때 누가 책임질까 / 책임을 지는가, 책임을 지우는가 / 자율주행차 사고가 났을 때 / 하지만 이의 있습니다

7장__로봇을 구속할 수 있을까
상상 속에서 나타난 로봇 / 소설과 로봇 3원칙 / 킬러 로봇의 등장 / 로봇 맞춤형 형법 / 킬스위치를 눌러야 할 때 / 로봇이 일자리를 차지한다면

8장__인공지능 문해력은 충분합니까
인공지능 문해력이 필요한 이유 / 기술을 대하는 우리의 자세 / 나만의 능력을 키워야 할 때 / 기본소득과 로봇세 / 어떻게 갈등을 조정할까

9장__인공지능과 법에 묻고 싶은 것들

데이터나 알고리즘에 담긴 왜곡이나 편견은 개발자가 의도하지 않았고, 사회·문화적인 경험과 습관에 따라 반영될 가능성도 배제하지 못합니다. 스스로 의도하지 않거나 인식하지 못한 사항은 법적으로 다루기가 쉽지 않습니다. 그러므로 인공지능 윤리도 함께 다뤄야 합니다. 인공지능 윤리에 대한 사회적 합의가 마련되어야 인공지능에 제대로 된 법적 대응이나 평가도 뒤따를 것입니다. __ p.45

인간의 학습 과정에서도 인공지능처럼 편견을 학습하거나 악용된다면 한 사람의 인격과 인생이 바뀔 수 있습니다. 교육은 인간과 동물, 그리고 기계에도 치우침이 없어야 합니다. 잘못된 학습이 사회 전반적으로 문제가 될 수 있음은 이미 역사적으로 경험한 것이기도 합니다. 따라서 기계학습 과정은 제대로 이루어져야 하며, 이때 기준으로 제시하는 것이 인공지능 윤리입니다. __ p.47

인공지능은 아직 스스로 판단해 행동하거나 그 결과에 책임질 수 있는 능력을 갖추고 있지 않습니다. 인간이 초기 알고리즘에서 의도적으로 판단할 수 있는 기능을 부여해야 어느 정도 가능할 것입니다. 로봇을 구동하게 하는 시스템도 마찬가지입니다. 로봇은 스스로 인식해 필요에 따라 시동을 걸지 못합니다. 어떤 조건에 부합하도록 설계된 경우, 그 조건에 맞는 상황에 이르렀을 경우로 한정됩니다. 설계된 영역을 넘어설 때는 로봇이 스스로 판단할 수 있도록 프로그래밍 될 수 있겠지만, 로봇 스스로는 인간이 개입하지 않으면 작동하지 못하게 해야 합니다. 어떤 위험이 따를지 알 수 없기 때문입니다. __ p.68

인간이 갖는 수준의 법적 기준까지 윤리가 갖는 규범성을 인공지능에 요구할 수도 있습니다. 인간은 인공지능에 기술적으로 구현 가능한 최대한 높은 수준의 윤리를 요구할 가능성이 큽니다. 오랫동안 인간의 기술 의존도가 높아지고, 기술을 객관적인 가치로 이해해 왔으니까요. 이런 의존적인 현상을 엘리제 효과라고 합니다. 최근에는 반려동물 의존도가 높아지면서 반려동물이 죽은 뒤에 겪는 상실감 및 슬픔 등의 정신적 어려움인 펫로스 증후군이 생겨나기도 합니다. 로봇 의존도가 높아진다면 로봇을 바라보는 윤리적인 인식도 변하지 않을까 생각합니다. __ p.96

인공지능을 사용하는 과정에서 발생하는 다양한 문제에 따른 책임과 의무를 어떻게 지울지도 문제입니다. 기존 법률과는 다른 해결 방안이 제시되어야 합니다. 즉 새로운 입법을 위한 사회적 합의 과정이 필요하지만, 그 과정에서 다양한 이해관계자들의 충돌이 예견됩니다. 인공지능을 기획하는 사람, 제작하는 사람, 이용하는 사람, 소유하는 사람, 점유하는 사람 등 다양한 이해관계가 성립할 수 있으며, 이 과정에서 어떻게 해결 방안을 마련할지 등 쉽지 않은 법률문제가 제기되는 상황입니다. __ p.105

로봇도 마찬가지입니다. 로봇이 갖춰야 할 윤리를 학습시키는 것은 어쩌면 불가능한 일일지도 모릅니다. 하지만 인간과 공존해야 할 로봇을 야만 상태로 놓아두는 것은 바람직하지 않습니다. 야생동물이 가축화되었던 것처럼 인공지능도 인간을 위해 그 존재가치를 학습하는 것도 필요하지 않을까요. 로봇의 윤리적인 역할을 위해 로봇 윤리에 관한 논의가 활발해지고 있습니다. 그런 면에서 로봇에 윤리란 인간과의 공존을 위한 사회적 관계의 설정이라고 할 수 있습니다. __ p.110