추가 적립 안내

인공지능(AI), 가깝고도 먼 친구
불안과 행복 사이, 함께 살아가기 위한 탐구서

2016년 4월, 미국 캘리포니아에 ‘대드봇’이 등장했다. 제임스 블라호스란 사람이 암으로 죽어 가는 아버지를 기억하기 위해 제작한 인공지능(AI) 챗봇이다. 대드봇 덕분에 블라호스는 아버지의 죽음 이후에도 아버지의 역사와 가족의 이야기를 나누며 위안과 기쁨을 얻는다고 말한다. 2017년 개봉한 영화 <에이리언: 커버넌트>에는, 비록 미래의 일을 상상한 픽션이지만, 인간을 배신하는 AI 로봇이 등장한다. 어느새 우리 일상에 깊숙이 들어온 인공지능, 즉 AI의 명과 암을 보여 주는 두 가지 예다.

AI가 우리에게 어떤 미래를 펼쳐 줄지, AI와 함께 살아가는 일상에서 젠더 평등은 어떻게 실현될지… 예측되지 않는 미래에 대한 불안감이 스멀스멀 기어 나오는 요즘이다. 이 책은 이 같은 새로운 테크놀로지에 관한 막연한 불안을 덜고, 사람을 위한 AI, 우리와 행복하게 공존할 수 있는 AI의 의미를 찾아 가는 노력의 일환으로 기획되었다. 12명의 여성 커뮤니케이션학자들이 아직 발전 초기에 있는 AI가 우리 일상과 커뮤니케이션, 콘텐츠 생산 과정 그리고 사회 전반을 어떻게 바꿀지에 관한 이론적 논의와 실제 사례를 제공한다. 동시에 기술의 발달 과정에서 내재할 수 있는 문제들에 관해 비판적인 시각으로 정책적 함의를 제공한다.

이 책은 총 4부 12장으로 구성되었다. 1부는 “테크놀로지가 바꿔 가는 커뮤니케이션 문화”라는 제하에 AI와 인간의 관계 맺기, AI와 인간 커뮤니케이션 수단의 변화, 콘텐츠와 이용자 간의 관계 맺기 등의 변화 양상을 짚어 본다. 2부는 “AI가 만들어 가는 미디어 콘텐츠 생산 현장의 변화”라는 주제로 AI가 콘텐츠 생산 현장에 가져오는 변화를 다룬다. 뉴스 생산과 유통 현장부터 인공지능 작가의 등장까지 AI가 콘텐츠 생산을 어떻게 변화시키고 있는지를 살펴본다. 3부의 제목은 “포용적인 AI 문화를 향해서”다. 포용적인 AI 문화를 지향하기 위한 조건들을 살피고, 이를 위해 AI 문화가 내재하고 있는 차별적인 요소에 관한 기술적 논의와 현장 연구를 아우른다. 마지막 4부 “AI 시대, 우리의 대처”에서는 인공지능 시대의 도래와 함께 필요한 제도 및 정책적 차원의 논의를 담았다.

AI를 공부하는 학생, 연구자들뿐만 아니라 관련 업계 종사자 그리고 일반인들이 쉽게 접근해 깊이 있는 통찰을 얻을 수 있다.

이 책은 한국여성커뮤니케이션학회 회원들의 아이디어와 문제의식, 연구 역량이 총 집결된 결과물이다. AI(인공지능) 기술이 우리의 삶과 관계를 어떻게 바꾸어 나갈지 통찰하고 있다. 특히 여성의 관점에서 데이터의 왜곡과 불평등한 알고리즘은 어떤 젠더 편향적 현상들을 만들어 내는지 예리하게 지적한다. 나아가 인공지능이 차별이 아닌 포용, 문제 해결의 기술이 될 수 있도록 진지하게 고민을 나누고 있다. 인공지능 기술과 더불어 살아야 하는 세상, 성 평등한 인간의 가치를 되새겨 보는 여성 커뮤니케이션 연구자들의 훌륭한 합작품이라고 자부한다.
- 정회경 / 서울미디어대학원대학교, 한국여성커뮤니케이션학회 회장

머리말 : 사람 중심의 AI 시대를 위한 안내서 / 금희조 · 강혜원

1부 테크놀로지가 바꿔 가는 커뮤니케이션 문화
01 인공지능은 우리의 친구가 될 수 있을까? / 진보래
사회적 행위자로서의 컴퓨터 　
왜 컴퓨터를 사람처럼 생각할까? 　
인공 에이전트의 활용 　
인공 에이전트의 남용 　
인공지능의 마음
참고문헌

02 대화형 AI와 인간의 상호작용 / 신정아 　
AI 디제이와 한밤의 라디오 　
AI의 목소리, TTS 　
AI의 귀, 스마트 스피커
은밀한 엿듣기와 개인정보 유출 　
AI가 된 아버지, 대드봇(Dadbot)
오늘, 당신의 이름은 뭐죠?
참고문헌

03 AI와 함께 시청하기: 행위자 연결망 이론 관점에서 본 관계적 시청 / 최윤정 · 정유진 　
영상 미디어 시청과 온라인 대화의 결합 　
사회적 시청과 관계적 시청의 개념 　
행위자 연결망 이론과 사회적 시청 　
알고리즘과 함께 하는 사회적 시청
참고문헌

2부 AI가 만들어 가는 미디어 콘텐츠 생산 현장의 변화
04 저널리즘 · 알고리즘 큐레이션의 교차점에서 AI와 가치 개념 / 최수진 　
주목 경제(attention economy) 시대 　
큐레이션 유형 　
저널리즘 · 알고리즘 큐레이션 간의 상호작용과 부작용 그리고 대안 　
다시 기본으로: AI와 가치 개념 　
사회과학자의 역할 　
참고문헌 　

05 포털 사이트의 AI 편집 시스템과 연예 저널리즘의 생산 관행 변화 / 이재원 　
포털 사이트의 AI 편집 시스템 도입 　
알고리즘 저널리즘의 뉴스 가치 　
연예 저널리즘의 생산 관행 　
클러스터링 알고리즘 겨냥 장치의 등장 　
AI와 사람과의 헤게모니 전쟁 　
연예 저널리즘과 포털 사이트의 상생 　
참고문헌 　

06 인공지능 작가와 스토리 창작 / 윤현정 　
인공지능 스토리 창작 현황 　
인공지능 스토리 창작을 향한 도전들 　
인공지능 스토리 창작의 기본 원리 　
디지털 스토리텔링 창작 프로그램들 　
스토리 저작지원 프로그램 　
스토리 자동생성 프로그램 　
인공지능 작가는 탄생 가능한가? 　
참고문헌 　

3부 포용적인 AI 문화를 향해서
07 인공지능 젠더 편향성과 포스트휴먼 주체 / 이정현 　
인공지능의 기술적 양식 　
인공지능과 젠더 관념 (재)생산 　
젠더 관념의 선험적 조건으로서의 인공지능 　
인공지능과 더불어 살기 　
참고문헌 　

08 AI와 여성 개발자: 기술 산업이 갖는 젠더 불평등 / 이종임 　
개발자의 가치관과 직결되는 AI 　
중립적이고 객관적이라는 AI ‘신화’ 깨기 　
의사결정 과정에서의 AI와 젠더 차별 　
AI 관련 산업에서의 젠더 이슈 　
성평등이 반영된 인력 양성과 개발 환경 필요 　
참고문헌 　

09 디지털 공간-네트워크의 젠더 실천 / 강보라 　
디지털 공간-네트워크를 질문하기 　
‘스타트업에서 일하는 여성들’과 젠더 데이터의 공백
디지털 공간-네트워크의 젠더화 　
젠더화된 노동 경험에 대해 말하기 　
중층성의 연대를 향하여
참고문헌 　

4부 AI 시대, 우리의 대처
10 AI와 콘텐츠 규제: 자동화된 차단 기술의 문제들 / 홍남희 　
플랫폼과 사회적 요구들 　
플랫폼의 핵심 의무로서 콘텐츠 품질 관리 　
저작권 보호와 자동 차단 기술의 역사 　
플랫폼의 매체적 특성과 AI의 도입 　
AI 모더레이션의 문제들
팬데믹 상황과 AI 모더레이션 　
우리에게 남겨진 숙제는 무엇인가 　
참고문헌 　

11 AI 알고리즘의 편향과 차별에 대처하는 우리의 자세 / 채정화 　
AI 알고리즘 편향과 차별은 왜 일어나는가? 　
설명 가능한 AI 알고리즘, 공정한 AI 알고리즘을 위한 노력 　
편향과 차별로부터 이용자 보호를 위한 AI 윤리 원칙 　
이용자 신뢰 회복을 위한 기업의 AI 윤리 　
AI 알고리즘과 더불어 살기 위한 우리의 자세 　
참고문헌 　

12 AI와 미디어 리터러시 이슈 그리고 AI 윤리 / 박주연 　
AI와 미디어 산업 　
AI와 미디어 리터러시 이슈 　
AI 윤리
AI 리터러시 　
참고문헌

(인공)에이전트건 사람이건 감지한 상대 마음의 수준에 따라 편애할지 차별할지 결정될 것이다. 또 에이전트가 나의 친구가 될 수 있는지는 나에게 타인의 마음이 얼마나 필요한지에 달려 있기도 하다.
( '01 인공지능은 우리의 친구가 될 수 있을까?' 중에서)

음성 AI는 사생활, 자율성, 친밀함의 경계를, 인간관계와 디지털 관계, 사실과 허구, 삶과 죽음의 장벽 등 우리 삶의 여러 경계를 모호하게 만든다.
( '02 대화형 AI와 인간의 상호작용' 중에서)

한 사회를 구성하는 개념이나 행위는 최근에는 기계보다는 기계가 생성한 운영 시스템, 즉 알고리즘과 관계망을 형성하는 경우가 많다. 최근 AI가 시청 행위에 영향을 미치게 되면서 사회적 시청의 경우에도 AI와 결합하는 경우가 빈번하게 나타나고 있다.
( '03 AI와 함께 시청하기: 행위자 연결망 이론 관점에서 본 관계적 시청' 중에서)

알고리즘은 단순히 기계적인 처리 과정이 아니다. 그 이면에는 알고리즘을 소유하거나 개발한 사람들의 무수한 가치 판단들이 내재되어 있으며 그 결과물로 탄생한 것이다.
( '04 저널리즘 · 알고리즘 큐레이션의 교차점에서 AI와 가치 개념' 중에서)

뉴스의 유통에 알고리즘이 적용된다는 의미는 곧 뉴스를 취사선택하는 과정에 어떤 가치가 개입하느냐의 문제와 연결된다. (중략) 기존의 뉴스 가치로 여겨진 ‘공익성’, ‘공정성’ 등을 충족시키지 못하더라도 이용자의 습관이 곧 뉴스 가치가 될 가능성이 클 수밖에 없다.
( '05 포털 사이트의 AI 편집 시스템과 연예 저널리즘의 생산 관행 변화' 중에서)

인공지능이 소설 쓰기라는 인간의 고유한 정신적 창작활동을 경험하면서 일종의 자아 만족감을 충족하게 되고 인간에게 봉사하는 본연의 임무를 그만두게 된다는 <컴퓨터가 소설을 쓰는 날>의 내용은 흥미로운 동시에 섬뜩하다.
( '06 인공지능 작가와 스토리 창작' 중에서)

젠더 관념, 나아가 우리의 신체 및 경험의 선험적 조건으로 기능하고 있는 인공지능 기반 매체의 수행 결과들에 익숙해지기보다는 불편해져야 하며, 인간과 기술의 이분법이 아니라 그 연결과 접속의 지점에 관심을 두는 실천이 필요하다.
( '07 인공지능 젠더 편향성과 포스트휴먼 주체' 중에서)

개발자는 남성으로, 개발자가 구현하는 대상으로서의 AI는 여성으로 이미지가 선택되는 데에는 젠더에 대한 사회적 고정관념이 존재하기 때문이다.
( '08 AI와 여성 개발자: 기술 산업이 갖는 젠더 불평등' 중에서)

해러웨이가 여성들에게 “매우 다른 공동체들 사이에서 지식들을 부분적으로 번역할 수 있는 능력을 포함한, 지구 전체를 연결하는 네트워크가 필요”하다고 강조한 바와 같이 디지털 공간-네트워크는 여성들이 마주하게 되는 상황/국면에 언제든 긴장관계를 형성하고 개입할 준비가 되어 있어야 한다.
( '09 디지털 공간-네트워크의 젠더 실천' 중에서)

AI 시스템이 결코 중립적이거나 객관적인 것이 아니라 인간의 편향이 들어간 산물이며, 이것을 인정하고 교정하고자 하는 노력이 정의의 도래를 앞당길 것이다.
( '10 AI와 콘텐츠 규제: 자동화된 차단 기술의 문제들' 중에서)

건강한 AI 알고리즘 생태계를 조성하기 위해서는 알고리즘의 불완전성을 받아들이고, 사회적 불평등을 양산해 내는 AI 알고리즘에 대해 꾸준히 문제의식을 가지는 것이 사회적 차별의 재생산을 예방할 수 있는 최선의 방법이 될 것이다.
( '11 AI 알고리즘의 편향과 차별에 대처하는 우리의 자세' 중에서)

(AI 리터러시 역량은)인간과 기계의 소통 속에 개인정보 노출 여부를 인지하고, 자기결정권을 행사하며, 미디어 소비를 조절하고, 다른 사람과 소통하며 살아가는 전반에 해당되는 문제다.
( '12 AI와 미디어 리터러시 이슈 그리고 AI 윤리' 중에서)