간편결제, 신용카드 청구할인
인터파크 롯데카드 5% (10,260원)
(최대할인 10만원 / 전월실적 40만원)
북피니언 롯데카드 30% (7,560원)
(최대할인 3만원 / 3만원 이상 결제)
NH쇼핑&인터파크카드 20% (8,640원)
(최대할인 4만원 / 2만원 이상 결제)
Close

딥페이크의 얼굴 : 기술이 만든 얼굴이 우리에게 묻는 것

소득공제

2013년 9월 9일 이후 누적수치입니다.

판매지수 12
?
판매지수란?
사이트의 판매량에 기반하여 판매량 추이를 반영한 인터파크 도서에서의 독립적인 판매 지수입니다. 현재 가장 잘 팔리는 상품에 가중치를 두었기 때문에 실제 누적 판매량과는 다소 차이가 있을 수 있습니다. 판매량 외에도 다양한 가중치로 구성되어 최근의 이슈도서 확인시 유용할 수 있습니다. 해당 지수는 매일 갱신됩니다.
Close
공유하기
정가

12,000원

  • 10,800 (10%할인)

    600P (5%적립)

할인혜택
적립혜택
  • S-Point 적립은 마이페이지에서 직접 구매확정하신 경우만 적립 됩니다.
추가혜택
배송정보
  • 7/25(목) 이내 발송 예정  (서울시 강남구 삼성로 512)
  • 배송비 : 2,500원
주문수량
감소 증가
  • 이벤트/기획전

  • 연관도서(97)

  • 상품권

AD

책소개

새로운 이미지와 새로운 얼굴의 시대다.
얼굴 불신의 시대 앞에서 물어야 할 것은 무엇인가?

새로운 기술 앞에서 사람들은 다가올 미래를 기대하기 마련이다. 그러나 딥페이크 앞에서는 달랐다. 정부와 기업, 개인은 모두 딥페이크의 부작용을 두려워한다. 허위정보의 범람, 포르노그래피로의 악용은 딥페이크의 폭력의 얼굴이다. 그러나 모든 기술이 그렇듯, 딥페이크 역시 양면적이다. 딥페이크를 통해 우리는 이미 세상을 떠난 배우의 연기를 볼 수 있고, 버추얼 인플루언서들은 기존의 얼굴로는 하지 못했던 새로운 시도를 만들어 나간다. 부작용 때문에 기술의 발전을 막을 수는 없는 노릇이다. 그래서 우리는 딥페이크의 진짜 얼굴에 대해 물어야 한다.

*북저널리즘은 북(book)과 저널리즘(journalism)의 합성어다. 우리가 지금, 깊이 읽어야 할 주제를 다룬다. 단순한 사실 전달을 넘어 새로운 관점과 해석을 제시하고 사유의 운동을 촉진한다. 현실과 밀착한 지식, 지혜로운 정보를 지향한다. bookjournalism.com

출판사 서평

새하얀 롱패딩을 입은 교황의 모습이 카메라에 찍혔다. 사진 속 교황은 허리춤을 벨트로 조인 형태의 흰색 롱패딩을 입고 바티칸 시국의 성 베드로 광장을 산책하고 있었다. 이상한 모습이었다. 항상 같은 옷만 입던 교황이 갑작스레 추위라도 탄 것일까? 생각이 덧붙는 차에, 묘하게 뭉개진 손이 눈에 띄었다. 옥에 티 같은 흐트러진 손은 이 사진의 전말을 드러냈다. 흰색 패딩을 걸치고, 반짝이는 십자가 목걸이를 한 교황의 모습은 이미지 생성 인공지능 모델인 ‘미드저니(Midjourney)’가 만든 가상의 이미지였다.

비슷한 시기에 논란이 됐던 또 한 장의 사진은 도널드 트럼프 미국 전 대통령이 경찰에게 체포돼 연행되고 있는 이미지였다. 트럼프의 다급한 표정을 담은 이 이미지는 소셜 미디어에서 “트럼프가 맨해튼에서 체포됐다”는 설명과 함께 퍼져 나갔다. 트럼프 전 대통령이 2016년 대선 직전, 한 배우와 성관계를 맺은 사실을 감추기 위해 회사 자금으로 합의금을 지급한 뒤 회계를 조작했다는 혐의를 받고 있던 터라, 해당 이미지가 가져온 파급력은 더욱 컸다.

과거의 사진이 순간을 포착해, 해당 순간이 ‘존재했다’는 진실을 증명하는 하나의 자료였다면, 지금의 사진은 그렇지 않다. 만들어진 이미지는 교묘하게 현실의 일면을 파고든다. 그럴듯한 이미지는 온전한 상상과 픽션보다 현실에 더 큰 힘을 발휘한다. 현실에서 태어난 가상의 이미지가 현실을 바꿀 수 있는 힘을 갖고 있는 셈이다. 증거의 힘이 사라진 이미지의 시대, 이 시대에서 현실의 믿음직스러움은 더 이상 건재하지 않다.

미국의 작가 ‘아메리칸 아티스트(American Artist)’는 2019년, 한 영상 작업을 내놓는다. 그의 작업 〈My Blue Window〉는 21분 56초간 인공지능 도구인 예측 치안 기술의 실행 화면을 보여 준다. 해당 영상에서 비추는 예측 치안 기술은 실제 미국 경찰에게 보급된 도구다. 이 시스템은 흑인과 이주민이 거주하는 동네를 지날 때 말이 많아진다. 범죄가 발생할 가능성이 높다는 의미다. 이유는 하나다. 흑인이 범죄를 저지를 확률이 백인의 범죄 가능성보다 높고, 이주민의 위험성이 그렇지 않은 이들보다 강력하다는 것이다. 경찰은 AI가 일러준 위험 지역을 더 오래, 더 샅샅이 순찰한다.

〈My Blue Window〉는 인공지능이 학습한 현실의 일면이 특정한 형태의 얼굴에 덧붙을 때의 나비효과를 연상시킨다. 인공지능은 결코 공평하지 않다. 이미 세상이 만들어 낸 모든 편견을 학습하고 있다는 의미에서 그렇다. 인공지능에게 흑인의 얼굴과 백인의 얼굴은 같은 무게로 다가오지 않는다. 인간은 의도적인 교육과 반복된 학습을 통해 편견을 보정하지만, 인공지능의 블랙박스에게는 그러한 보정 능력이 없다. 얼굴 인식 기술의 시대에서, 얼굴은 0과 1로 쪼개져 있고, 자잘한 픽셀의 모음으로 인식된다. 그러나 그 이미지가 현실에 던져지는 순간, 모든 픽셀들은 연결된다. 현실의 편견은 그 연결 속에서 공고해지고, 가속화된다. 이미지와 얼굴이 가진 폭력의 얼굴, 창작의 얼굴도 마찬가지다. 딥페이크를 통해 양산되는 수많은 포르노그래피적 이미지, 인공지능 생성 도구를 통해 만들어지는 여러 창작의 가능성들은 이미 존재했던 현실과 무관하지 않다. AI시대의 이미지들은 현실과 등을 붙이고 서 있다.

AI 시대의 이미지는 얼굴의 모양과 위상, 얼굴의 색, 얼굴의 출신을 묻는다. 이 질문에 담긴 얼굴에 ‘진실’과 ‘거짓’에 대한 질문은 무의미하다. 눈과 머리가 싸우는데, 진실과 거짓의 충돌이 무슨 소용이 있겠는가? 혹은 범죄 예방을 위해 위험 지역을 더 돌아다닐 뿐이라는, 철옹성처럼 보이는 진실 앞에서 우리는 어떤 거짓의 여지를 물을 수 있겠는가? 머지않아 현실이 될 수 있는 가상의 이미지 앞에서, 우리는 그 이미지를 어떤 죄목으로 판결대에 올릴 수 있을까? 현실을 먼저 매개해 대중의 눈앞에 선보였다는 사실은 충분한 근거가 되지 못할 것이다.

진실과 거짓을 구분하는 일의 무용함은 ‘딥페이크의 얼굴’에서도 제기되는 문제다. 우리는 이미 거짓 얼굴의 세상에 살고 있다. 모두가 일상적으로 사용하는 인스타그램의 AR 필터 역시 누군가의 얼굴을 조작하는 형태다. 혹자는 가상의 얼굴을 빚어내는 행위는 초상화의 시대에도, 암실의 시대, 심지어는 거울 앞에도 있지 않았나 물을 수 있다. 그러나 인스타그램의 작동 원리를 모르는 이도 클릭 한 번에 AR 필터를 쓸 수 있는 세계에서, 진실과 거짓이 뒤섞인 얼굴은 무엇이 물이고, 기름인지가 불분명한 기름띠 같은 형상일 수 있다.

최근 논란이 되는 딥페이크 기술은 이 기름띠를 극대화하는 도구다. 딥페이크는 메시지가 아닌 메신저를 바꿔 메시지가 갖는 힘을 증폭시키거나 와해시킨다. 얼굴이 일정 수준 이상의 정체성을 담보했던 과거와 달리, 딥페이크 시대 이후의 얼굴은 한 번 쯤 되물어야 하는, 의심해야 하는 대상이다. 딥페이크는 기술과 사람을 분리한다. 어떠한 지식도 없이, 특정인의 얼굴과 행동을 선택하기만 한다면 손쉽게 딥페이크 사진을 만들어 낼 수 있다. 얼굴은 0과 1로, 진실과 거짓으로, 예술과 기술로, 감시와 오해로 쪼개진다. 이 흐름을 막을 수 없다면, 우리는 결국 얼굴을 쪼개는 기술을 활용하고, 진실을 현명하게 묻는 법을 찾아야 한다. 《딥페이크의 얼굴》은 그 질문의 방법을 일러주는 책이다.

과연 딥페이크라는 기술 자체를 금지하면, 얼굴을 신뢰할 수 없는 시대의 부작용도 사라질까? 얼굴이 정체성을 보증하던 시기를 뛰어넘어, 우리는 얼굴을 다시 사유해야 하는 시대에 도착한 것일지도 모른다. 얼굴이 더 이상 믿을 수 있는 정체성을 담보하지 못할 때, 그리고 이미지가 명백히 존재했던 현실을 입증해 주지 못할 때, 새로운 메시지와 메신저의 시대가 열린다. 새로운 시대는 묻는다. 얼굴이 가진 무수한 가능성에서, 당신은 무엇을 취할 것이냐고. 세상이 포착할 수 있는 건 폭력의 얼굴일 수도, 한편으로는 창작의 얼굴일 수도 있다. 기술은 그 자신이 가진 불온함만큼의 가능성을 갖기 때문이다.

이 시대에 도착한 딥페이크가 범죄의 얼굴이 아닌, 창작과 창의의 얼굴이 되기 위해서는 우리는 지금 다시 물어야 한다. 조건 없는 금지는 다가오는 미래의 가능성마저 앗아 갈 수 있다. 거짓의 얼굴, 가능성의 얼굴 앞에서 질문과 답은 그 어느 때보다 신중하고, 입체적이어야 한다.

목차

프롤로그 ; 이 얼굴, 진짜일까?

1 _ 딥페이크, 얼굴을 바꾸다
딥페이크는 어떤 기술인가?
쉽고, 싸고, 빠른 딥페이크
딥페이크, 심층적 자동화의 기술

2 _ 딥페이크와 폭력의 얼굴
허위정보와 사실의 위기
포르노그래피와 조작된 정서
감춰진 얼굴이 묻다

3 _ 딥페이크와 창작의 얼굴
되살아난 인물, 비즈니스가 되다
진짜 얼굴 vs. 가상의 얼굴
가상의 얼굴이 묻다

4 _ 폭력과 창작 사이, 무엇을 해야 하나?
무엇이 문제인가?
무엇을 하고 있나?
무엇을 해야 하나?

에필로그 ; 새로운 가면 앞에서 물어야 할 것



북저널리즘 인사이드 ; 불온함만큼의 가능성을 가진 기술

본문중에서

“딥페이크는 전문가가 고가의 장비와 전문 지식을 활용해 수행하던 이미지 합성과 조작을 소프트웨어와 알고리즘이 대신 수행하도록 한다. 딥페이크는 전문가에 국한돼 있던 시각 미디어 조작의 주체를 ‘우리 모두’로 넓히며 비로소 ‘가내화(domestication)’된 셈이다. 디지털 이미지 시대의 포토샵이 그랬던 것처럼 딥페이크는 이제 가정에서 누구나 영상을 조작할 수 있게 해 준다. 그리고 딥페이크는 조작 과정이 자동으로 진행되기 때문에 사람의 손을 거쳐야만 최종 결과물이 생성되는 포토샵과 달리 모두가 영상 조작을 잘할 수 있게 만들어 준다. 시각 미디어 조작 기술이 드디어 예술의 영역에서 벗어나는 것이다.”

“러시아의 블라디미르 푸틴 대통령이 평화를 선언하는 모습을 담은 딥페이크 영상은 사람들이 곧잘 풍자로 받아들인다. 그러나 ‘건강 이상설’이 증폭되는 가운데, 푸틴 대통령이 건강한 모습으로 장기간 회의에 참석하는 모습이 영상으로 제공된다면 어떨까? 이는 사실일까, 허위일까, 혹은 풍자일까? 이를 판단하는 일은 너무나 어려우며, 딥페이크 기술이 일반화될수록 딥페이크를 통한 허위정보의 도전은 더욱 복합적으로 변화할 것이다. 이에 대한 정보 생산자들, 그리고 이용자들의 대응은 아직 요원해 보인다. 그 사이, 딥페이크 기술은 더욱더 정교해지는 중이다.”

“딥페이크 포르노그래피의 사례는 딥페이크가 정서적 측면에서 이전과는 다른 독특한 효과를 자아내고 있음을 보여준다. 지인이나 평소에 내가 동경하던 스타가 일어날 수 없는 일의 주체로 등장하거나 포르노 영상처럼 의외의 맥락에서 나타나는 고품질의 영상은 보는 이에게 전과는 다른, 극대화된 정서적 경험을 가져다준다. 내가 모르는 이의 얼굴이 아니라 내게 익숙하거나 평소 좋아했던 얼굴이 등장하는 영상은 해당 영상을 시청하는 개인에게만 의미 있는 특별한 경험으로 존재하기 때문이다. 이 점에서 딥페이크를 통한 영상 조작은 정보의 사실성과 신뢰성의 문제를 넘어 이용 수준에서 나타나는 정서적 효과와 밀접하게 관련됨을 알 수 있다.”

“〈웰컴 투 체첸〉의 감독 데이비드 프랑스(David France)는 딥페이크 기술을 사용하는 것이 다른 기법을 사용하는 것보다 훨씬 낫다고 본다. 그는 이 방식으로 “인터뷰 대상자들이 자신의 이야기를 설명할 수 있고, 다른 상황에서는 불가능했을 방식으로 그들의 인간성을 회복시켜 준다”고 말한다. 얼굴과 드러나는 표정을 통해 생각과 감정을 더 잘 전달할 수 있다는 말이다.”

“주체성이 있다고 설정된 버추얼 인플루언서는 사실 주체성을 가질 수 없다. 주체성은 주체가 되려는 노력의 ‘역사’를 통해 확립되는 것이기 때문이다. 하지만 만들어진 가상의 얼굴에는 역사가 있다는 주장만 있을 뿐 실제 시간이 흐르며 형성된, 주체가 형성돼 온 역사가 반영될 수 없다. 사람들은 역사가 있다는 주장을 실제 역사로 받아들일 만큼 어리석지 않다. 이것이 버추얼 인플루언서들이 비록 나름의 인기를 끌고, 마케팅 분야에서 어느 정도 자리를 잡아 가고 있다고 해도 인간 인플루언서, 모델을 완전히 대체할 수 없는 이유다.”

“새로운 기술과 서비스가 등장하면 사람들은 이에 대해 조금은 과도한 기대를 가진다. 가령, 트위터나 페이스북이 등장했을 때 사람들은 드디어 글로벌 차원에서 평등한 쌍방향 커뮤니케이션 채널이 마련됐다는 기대에 부풀었고, 앱스토어가 처음 마련됐을 때는 많은 사람들이 누구나 큰 자본 없이 디지털 콘텐츠 생태계의 제작자가 될 수 있다고 생각했다. 그러나 딥페이크의 경우, 대다수의 사람들이 기술의 가치보다는 부작용을 먼저 생각한다. 기술의 발전의 역사에서 이례적인 일이다. 딥페이크 기술이 존재감을 드러낸 첫 계기가 허위정보나 포르노그래피와 같은 부정적 사례였기 때문일 것이다. 기술을 제대로 바라보기 위해 우리는 딥페이크라는 기술이 만들어 내는 새로운 가치, 긍정적 사례에도 관심을 기울일 필요가 있다.”

“딥페이크 합성 이미지를 볼 때 우리는 ‘이 얼굴이 진짜인가?’라는 질문을 가장 먼저 던진다. 그간 우리는 가짜 얼굴이 전하는 정보를 우리가 믿는 것은 아닌지, 가짜 얼굴이 진짜 얼굴보다 더 경제적으로 영화를 찍을 수 있는 것은 아닌지를 물어 왔다. 그러나 딥페이크 이미지의 진위 여부를 가려내는 것보다 더 중요한 것은 이 얼굴에 숨은 내면과 역사, 정체성과 주체성의 변화를 이해하는 것이다. 이를 위해 우리는 딥페이크가 어떤 얼굴을, 왜 바꾸는지를 더 많이 물어야 할 것이다.”

관련이미지

저자소개

이소은 [저] 신작알림 SMS신청
생년월일 -

서울대학교 언론정보학과 졸업, 서울대학교 언론정보학과 석사, 박사, 현재: 부경대학교 미디어커뮤니케이션학부 교수

최순욱 [저] 신작알림 SMS신청
생년월일 -

연세대학교에서 신문방송학을 전공한 후 IT/미디어 기자로 활동했다. 서울대학교 대학원 언론정보학과를 거쳐 과학기술 분야 정책 컨설팅 기업 너비의깊이를 창업했다. 컨설팅과 미디어 연구를 병행한다. 디지털 문화, 저널리즘, 게임에 관심을 갖고 있다.

이 상품의 시리즈

(총 104권 / 현재구매 가능도서 98권)

선택한 상품 북카트담기
펼쳐보기

인문 분야에서 많은 회원이 구매한 책

    리뷰

    0.0 (총 0건)

    100자평

    작성시 유의사항

    평점
    0/100자
    등록하기

    100자평

    0.0
    (총 0건)

    판매자정보

    • 인터파크도서에 등록된 오픈마켓 상품은 그 내용과 책임이 모두 판매자에게 있으며, 인터파크도서는 해당 상품과 내용에 대해 책임지지 않습니다.

    상호

    (주)교보문고

    대표자명

    안병현

    사업자등록번호

    102-81-11670

    연락처

    1544-1900

    전자우편주소

    callcenter@kyobobook.co.kr

    통신판매업신고번호

    01-0653

    영업소재지

    서울특별시 종로구 종로 1(종로1가,교보빌딩)

    교환/환불

    반품/교환 방법

    ‘마이페이지 > 취소/반품/교환/환불’ 에서 신청 또는 1:1 문의 게시판 및 고객센터(1577-2555)에서 신청 가능

    반품/교환가능 기간

    변심 반품의 경우 출고완료 후 6일(영업일 기준) 이내까지만 가능
    단, 상품의 결함 및 계약내용과 다를 경우 문제점 발견 후 30일 이내

    반품/교환 비용

    변심 혹은 구매착오로 인한 반품/교환은 반송료 고객 부담
    상품이나 서비스 자체의 하자로 인한 교환/반품은 반송료 판매자 부담

    반품/교환 불가 사유

    ·소비자의 책임 있는 사유로 상품 등이 손실 또는 훼손된 경우
    (단지 확인을 위한 포장 훼손은 제외)

    ·소비자의 사용, 포장 개봉에 의해 상품 등의 가치가 현저히 감소한 경우
    예) 화장품, 식품, 가전제품(악세서리 포함) 등

    ·복제가 가능한 상품 등의 포장을 훼손한 경우
    예) 음반/DVD/비디오, 소프트웨어, 만화책, 잡지, 영상 화보집

    ·시간의 경과에 의해 재판매가 곤란한 정도로 가치가 현저히 감소한 경우

    ·전자상거래 등에서의 소비자보호에 관한 법률이 정하는 소비자 청약철회 제한 내용에 해당되는 경우

    상품 품절

    공급사(출판사) 재고 사정에 의해 품절/지연될 수 있음

    소비자 피해보상
    환불지연에 따른 배상

    ·상품의 불량에 의한 교환, A/S, 환불, 품질보증 및 피해보상 등에 관한 사항은 소비자분쟁해결 기준 (공정거래위원회 고시)에 준하여 처리됨

    ·대금 환불 및 환불지연에 따른 배상금 지급 조건, 절차 등은 전자상거래 등에서의 소비자 보호에 관한 법률에 따라 처리함

    (주)KG이니시스 구매안전서비스서비스 가입사실 확인

    (주)인터파크커머스는 회원님들의 안전거래를 위해 구매금액, 결제수단에 상관없이 (주)인터파크커머스를 통한 모든 거래에 대하여
    (주)KG이니시스가 제공하는 구매안전서비스를 적용하고 있습니다.

    배송안내

    • 교보문고 상품은 택배로 배송되며, 출고완료 1~2일내 상품을 받아 보실 수 있습니다.

    • 출고가능 시간이 서로 다른 상품을 함께 주문할 경우 출고가능 시간이 가장 긴 상품을 기준으로 배송됩니다.

    • 군부대, 교도소 등 특정기관은 우체국 택배만 배송가능합니다.

    • 배송비는 업체 배송비 정책에 따릅니다.

    • - 도서 구매 시 15,000원 이상 무료배송, 15,000원 미만 2,500원 - 상품별 배송비가 있는 경우, 상품별 배송비 정책 적용