추가 적립 안내

인공지능을 활용한 커뮤니케이션 기술이 증가하면서 미디어를 통한 범죄도 덩달아 늘고 있다. 인간의 편견이 알고리즘에 반영된 혐오표현이 증가하고 있으며 얼굴 사진이 딥페이크를 통해 조작돼 개인의 사생활 침해와 명예훼손이 발생하고 있다. 인공지능의 창작품에 대한 지식재산권이 논란이 되고 있으며 크롤링으로 수집한 데이터와 정보를 둘러싼 법적 분쟁도 이어지고 있다. 메타버스 환경에서 아바타에 대한 성범죄와 인격권 침해도 나타나고 있다. 이 책에서는 커뮤니케이션 측면에서 인공지능 기술 발달과 함께 발생할 수 있는 여러 가지 문제점을 짚어본다. 윤리와 법의 측면에서 이러한 문제를 어떻게 풀어나가고 개선될 수 있을지 생각해 본다.

인공지능 기술 활용 범죄 ‘백양백태’
혐오표현, 명예훼손, 성범죄, 저작권 침해까지 … 윤리기준 강화해야

2021년 미국 펜실베이니아 주에서는 딥페이크 기술로 여고생들의 음란물을 제작하여 유포한 자가 체포되었는데 범인은 피해자들의 친구 어머니였다. 자신의 딸의 경쟁자들을 치어리더 팀에서 쫓아내기 위해 딥페이크 기술을 악용한 것이다.
‘여기어때’ 직원들은 크롤링 기법으로 경쟁업체인 ‘야놀자’ 서버에 있는 제휴 숙박업소의 업체명, 주소, 할인금액 등의 정보를 대량복제했다. 검찰은 ‘여기어때’ 직원들이 246회에 걸쳐 데이터베이스를 무단으로 복제하여 제작자의 권리를 침해한 것은 저작권을 위반한 것으로, 1594만 회 이상에 걸쳐서 서버에 침입한 것은 정보통신망법 위반이라 판단했고, 이들이 정보를 복제하는 동안 다른 이용자들이 서버에 접속하지 못한 것은 업무방해라며 기소했다.

위 사례와 같이 인공지능을 활용한 커뮤니케이션 기술이 증가하면서 미디어를 통한 범죄도 덩달아 늘고 있다. 인간의 편견이 알고리즘에 반영된 혐오표현이 증가하고 있으며 얼굴 사진이 딥페이크를 통해 조작돼 개인의 사생활 침해와 명예훼손이 발생하고 있다. 인공지능의 창작품에 대해 지식재산권을 설정할 수 있을지, 그 주체는 누구이며 범위는 어디까지인지가 논란이 되고 있으며 크롤링으로 수집한 데이터와 정보를 둘러싼 법적 분쟁도 이어지고 있다. 메타버스 환경에서 아바타에 대한 성범죄와 인격권 침해도 나타나고 있다.
세계 각국은 인공지능 개발과 활용 과정에서 발생할 수 있는 인권침해와 차별을 방지하기 위해 노력하고 있으나 새로운 범죄 발생은 끊이지 않고 있다. 인간의 존엄성 및 개인의 자율성과 다양성 보장, 자기결정권 보장, 차별금지 등과 관련하여 인공지능 시대의 미디어 윤리는 더욱 강조돼야 한다.
이 책에서는 커뮤니케이션 측면에서 인공지능 기술 발달과 함께 발생할 수 있는 여러 가지 문제점을 짚어본다. 윤리와 법의 측면에서 이러한 문제를 어떻게 풀어나가고 개선될 수 있을지 생각해 본다. 또한 기술 대변혁이 찾아올 때마다 표현의 자유를 규제하려는 시도와 인간의 기본권으로서의 표현의 자유를 지키려는 노력도 되짚어 본다.

인공지능 시대의 도래

01 인공지능과 윤리
02 인공지능 규제
03 가짜뉴스, 허위정보의 위협
04 인공지능과 혐오, 차별
05 인공지능과 프라이버시
06 디지털 표현으로 인한 문제
07 디지털 기술과 법률적 이슈
08 인공지능과 지식재산권
09 메타버스와 인격권 침해

각국에서 인공지능을 규제하기 위한 노력이 행해지고 있다. 최근 발의된 유럽연합 인공지능 법안은 전 세계적으로 인공지능 규제의 방향을 제시할 가능성이 크다. 발전 방향을 예측하기 어려운 인공지능 개발과 활용에서 규범적 틀을 마련하기 위한 유럽연합의 움직임은 눈여겨볼 필요가 있다.
_ “02 인공지능 규제” 중에서

미국에서는 표현의 자유를 중시하여 단순한 혐오 표현은 처벌하지 않지만 혐오 범죄로 발전할 가능성이 있는 위험한 표현은 규제 대상으로 삼는다. 한국의 경우 인종이나 종교로 촉발된 혐오 표현에 대한 역사적 경험은 희박하다. 혐오 표현이 사회에서 본격적으로 논의된 경험도 다른 국가에 비해 상대적으로 적다.
_ “04 인공지능과 혐오, 차별” 중에서

카카오톡 대화로 인해 군인이 군형법 위반으로 기소된 사례도 있다. A는 자신이 속한 해군 교육사령부 75명이 함께 사용하는 카카오톡 단체 채팅방에서 생활 지도관 B가 목욕탕 청소 담당 교육생들에게 과실 지적을 많이 한다는 이유로 “도라이 ㅋㅋㅋ 습기가 그렇게 많은데”라는 표현을 썼다가 상관모욕죄로 기소되었다.
_ “06 디지털 표현으로 인한 문제” 중에서

‘여기어때’ 직원들은 크롤링 기법으로 경쟁업체인 ‘야놀자’ 서버에 있는 제휴 숙박업소의 업체명, 주소, 할인금액 등의 정보를 대량복제했다. 검찰은 ‘여기어때’ 직원들이 246회에 걸쳐 데이터베이스를 무단으로 복제하여 제작자의 권리를 침해한 것은 저작권을 위반한 것으로, 1594만 회 이상에 걸쳐서 서버에 침입한 것은 정보통신망법 위반이라 판단했고, 이들이 정보를 복제하는 동안 다른 이용자들이 서버에 접속하지 못한 것은 업무방해라며 기소했다.
_ “08 인공지능과 지식재산권” 중에서

메타버스 플랫폼에서 청소년들을 대상으로 하는 성범죄가 기승을 부리고 있다. 특히 온라인에서 호감을 산 뒤 상대방을 심리적으로 지배하여 성범죄를 저지르는 이른바 그루밍(Grooming) 범죄가 문제된다. 이 경우 피해자가 자신의 신체를 촬영하거나 스스로 가학적 행동을 하는 사진을 가해자에게 전송하는 등의 범죄가 발생한다.
_ “09 메타버스와 인격권 침해” 중에서