추가 적립 안내

“21세기의 새로운 신은
우리의 몸과 마음을 들여다보고 통제하는
‘디지털 빅브라더’다!”
마음을 해킹하고 제한된 자유에 열광하게 만드는
새로운 전체주의의 등장

기술이 제공하는 편리함에 가려 과소평가되는 디지털 기술의 부정성을 파헤치고 팬데믹이 앞당긴 초감시사회로의 진입을 경고하는 교양서. 브런치북 8회 대상 수상작. 코로나19 팬데믹이라는 비상상황 아래 우리는 QR 코드를 인증하거나 안면 인식 체온 측정기에 얼굴을 들이미는 일을 당연하게 여긴다. 바이러스가 종식되면 이러한 기술들은 자연스럽게 사라질까? 아니면 우리 곁에 남아 감시와 통제의 도구로 사용될까?
우리가 믿고 있는 단단한 자유가 허물어지는 초감시사회의 중심에는 친절한 독재자 즉 디지털 빅브라더로 성장한 디지털 기업이 있다. 이들이 제공하는 서비스들은 삶을 더 편리하게 만들어준다는 미명 아래 인간의 몸과 마음을 데이터로 환원한다. 질병 예방을 약속하는 스마트헬스케어는 24시간 내내 건강 정보를 수집하고, 현금 없는 사회를 가능하게 하는 블록체인은 모든 경제 활동을 기록하며, 관심 콘텐츠를 추천해 주는 알고리즘은 품질 개선을 이유로 사용자의 온라인 활동을 저장한다.
『친절한 독재자, 디지털 빅브라더가 온다』는 팬데믹이 유발한 급격한 디지털 전환이 사람들의 일상, 금융 거래, 지도자 선정에 이르기까지 전방위적인 감시 패러다임을 형성하고 있고 그 선봉에는 우리의 일거수일투족을 교묘하게 감시하는 디지털 기업이 있음을 폭로한다. 디스토피아가 된 미래 사회를 경고하는 소설과 영화를 자유자재로 활용하며 개인의 자유가 축소되는 초감시사회의 위험을 이해하기 쉽고 생생하게 풀어낸 이 책은 무료로 서비스를 제공하는 디지털 기업의 민낯을 낱낱이 파헤치고 첨단기술의 시대를 살아갈 우리에게 사유를 확장하는 기회를 제공한다.

“편리한 기술인가, 효율적인 감시 체계인가?”
전자 출입 명부, 안면 인식 기기, 위치추적 앱….팬데믹이 앞당긴 초감시사회로의 진입을 경계하라!

2020년 5월 이태원 클럽에서 집단감염이 발생했을 때, 보건당국과 서울시는 이동통신 3사에 약 2주 동안 이태원 일대를 방문한 사람들의 정보 공유를 요청했다. 1만 905명의 정보가 제공되었고 당국은 이들에게 검사를 받으라는 안내 메시지를 보냈다. 그 과정에서 개인정보 이용에 관한 동의를 구하는 일은 생략됐다. 이후 개인정보 유출과 무단 활용에 대한 비판이 일었지만, 정부는 방역을 위해 어쩔 수 없는 조치라고 항변했다.
팬데믹은 우리의 일상을 송두리째 바꿨다. 변화 중 하나는 비상상황을 타개하기 위해 도입된 첨단기술과 기술 사용을 옹호하는 정책일 것이다. 갑작스럽게 도입된 기술과 정책은 편리함을 앞세워 일상에 자연스럽게 녹아들었다. 다중이용시설에 입장할 때 QR 코드를 인증하거나 안면 인식 체온 측정기에 얼굴을 들이미는 일은 이제 너무도 익숙한 일이 되었다. 그러나 스마트폰과 얼굴을 가져다 대면서 문득문득 이런 의문이 싹튼다. 우리는 언제까지 개인정보를 제공해야 할까? 이러한 기술들은 바이러스가 종식되면 자연스럽게 사라질까? 아니면 우리 곁에 남아 감시와 통제의 도구로 사용될까?
이 같은 의문에서 출발한 『친절한 독재자, 디지털 빅브라더가 온다』는 팬데믹이 유발한 급진적인 변화가 새로운 감시 패러다임을 형성하고 있으며 그 선봉에는 우리의 일거수일투족을 교묘하게 감시하는 디지털 기업이 있음을 밝혀낸다. 소설 『1984』에서 무소불위의 권력을 행사하는 지배자 ‘빅브라더’의 이름을 빌려 디지털 기업을 ‘디지털 빅브라더’라 명명한 이 책은 급격한 디지털 전환이 가져올 초감시사회의 민낯을 낱낱이 파헤치고 미래 사회에 대한 날카로운 통찰을 제시한다.

“디지털 기업은 어떻게
21세기의 새로운 신으로 등극했는가?”
검색엔진부터 SNS까지, 개인정보를 사용료로 지불하는 사람들이
포스트 코로나 시대에 알아야 할 불편한 진실

조지 오웰은 선경지명이 있는 예언가였다. 그의 불길한 예언은 오늘날 그대로 현실이 됐다. 빅브라더는 소설 속 허구의 존재가 아니다. 인터넷을 새로운 자유의 땅으로 여겼던 사이버 유토피안들이 ‘감시’가 돈이 되는 ‘비즈니스’란 것을 깨달은 뒤로 데이터 도굴꾼으로 전락했기 때문이다. 사용자를 팔리는 ‘상품’, 더 나아가 데이터를 생산하는 ‘노동자’로 여기기 시작한 그들은 무료로 서비스를 제공하는 척하면서 뒤로는 사용자의 개인정보를 사용료로 갈취한다. 『친절한 독재자, 디지털 빅브라더가 온다』는 검색엔진과 SNS로 시작한 디지털 기업이 어떻게 디지털 빅브라더로 변모했고 첨단기술의 발달이 어떻게 이들의 진화를 돕는지 생생하게 보여 준다.
저자는 디지털 빅브라더에 전지전능한 능력을 부여한 첨단기술에 대해 고발하면서도 디스토피아를 잘 그려낸 『1984』, 『멋진 신세계』 등의 소설과 〈트루먼 쇼〉, 〈마이너리티 리포트〉, 〈매트릭스〉등의 유명 영화를 끌어와 논지를 쉽고 흥미롭게 풀어낸다. 똑똑한 비서를 자처하며 집 안에서 우리의 일상을 엿듣는 스마트스피커는 『1984』 속 텔레스크린에, 사회를 보호하기 위해 곳곳에 설치된 CCTV와 안면 인식 기기는 〈마이너리티 리포트〉의 안면 인식 기술에 빗대는 등 우리가 과소평가하고 있는 기술의 부정성을 실체적으로 접근하여 독자들의 이해를 돕는다.
우리가 믿고 있는 단단한 자유가 허물어지는 초감시사회의 중심에는 디지털 빅브라더로 성장한 인터넷 기업이 있다. 질병 예방을 약속하며 24시간 내내 건강 데이터를 수집하는 스마트헬스케어, 현금 없는 사회를 만들며 모든 결제 활동을 데이터화하는 블록체인, 맞춤형 콘텐츠 추천이라는 명목 하에 편향된 정보만을 제공하는 알고리즘 등…. 기술이 인간의 마음을 해킹하고 있다는 섬뜩하고 불편한 진실을 상세하게 보고하는 이 책은 디지털 대전환을 준비하는 독자들에게 어떤 태도로 디지털 사회를 살아가야 하는지 알려 주는 든든한 이정표가 되어줄 것이다.

“자유롭다는 착각 속에 살고 있을 뿐
우리는 모두 알고리즘이 허락한 만큼만 자유롭다!”
감시와 통제의 무대가 된 디지털 사회에서
인간다움, 자유의지, 민주주의를 지키는 법

대면 접촉이 어려워진 시대에 사람들은 현실을 고집하는 대신 가상현실, 즉 메타버스로 자리를 옮겼다. 최근 몇몇 대학교는 메타버스로 축제를 열어 폭발적인 호응을 얻었다. 캠퍼스를 그대로 구현한 가상현실에 각종 전시회와 공연은 물론 스포츠 대회 등 다양한 콘텐츠가 마련되었고, 실제 캠퍼스의 축제보다 더 공감할 수 있다고 말하는 사람도 있었다. 미국에서는 청소년들이 인스타그램, 유튜브보다 로블록스라는 메타버스에서 더 많은 시간을 보낸다. 주목할 점은 로블록스에서의 주요 활동이 게임 그 자체보다 ‘대화’라는 데 있다. 가상현실이 현실을 대신하는 사례가 늘어날수록 메타버스를 창조한 디지털 빅브라더의 힘도 더욱 강력해진다.
현실에서는 개별 대상을 하나하나 감시하고 통제해야 하지만 인터넷, 혹은 메타버스에서는 세계 자체를 감시하고 통제하는 것이 가능하다. 인터넷과 디지털 기술을 활용해 전면적인 감시와 통제, 그리고 시민들의 사상 개조가 성행한 디지털 독재의 발판을 마련하는 것이다. 우리는 가상현실 안에서 마음대로 돌아다니고, 하고 싶은 일을 하고, 친구들과 즐거운 시간을 보내며 자유롭다고 느끼지만 사실은 알고리즘이 허용한 만큼의 자유만을 누릴 수 있다. 친절한 독재자는 그렇게 시민들 위에 군림하게 된다.
결국 이 책은 인간이 인간답게 사는 법에 대해 말하는 책이다. 이 책을 통해 침묵하며 방관하는 대신 감시를 감시하고 용기 있게 투쟁하게 된다면 민주주의가 무너지는 디스토피아는 쉽게 오지 않을 것이다. 미래 사회에도 인류는 자유를 보장받을 수 있을까? 그것은 우리 손에 달려 있다.

프롤로그 나는 고발한다

1장 디지털 빅브라더의 탄생
감시와 권력의 역사
닷컴버블이 남긴 위대한 유산
중국의 만리방화벽과 디지털 민족주의
9.11 테러 이후 미국의 감시사회
디지털 냉전의 서막
데이터 도굴꾼이 된 사이버 유토피안
더 볼거리

2장 디지털 빅브라더의 횡포
필터 버블, 맞춤형 서비스의 함정
생각을 멈추게 만드는 합법적인 마약
인스타그래머블한 모두의 ‘트루먼 쇼’
어떻게 인터넷은 민주주의를 위협하는가
포켓몬고 열풍이 시사하는 감시 자본주의의 미래
더 볼거리

3장 감시와 통제를 돕는 첨단기술들
블록체인과 현금 없는 사회
생체 정보까지 파악하는 스마트헬스케어
스마트스피커가 당신의 일상을 염탐한다
마음을 읽는 안면 인식 기술
우주 정복을 꿈꾸는 감시 자본가들
더 볼거리

4장 포스트 코로나, 초감시사회의 도래
파놉티콘, 바놉티콘, 스마트 옵티콘
마음을 해킹당한 알고리즘의 노예들
디지털 전체주의, 같은 것의 지옥
메타버스, 현실을 가상화하는 세계
디지털 독재와 민주주의의 위기
더 볼거리

에필로그 감시를 감시하라
참고문헌

나는 고발한다. 코로나19로 전방위적인 디지털 감시가 정당화됨에 따라 새로운 형태의 전체주의가 부상하고 있음을. 우리가 진정으로 경계해야 할 것은 바이러스가 아니라 인간의 어리석음이다. 코로나19는 언젠가 종식될 것이다. 그러나 포스트 코로나 시대는 결코 이전과 같지 않을 것이다. 다가올 초감시사회에 우리들의 몸과 마음은 모두 데이터로 환원되어 감시당할 확률이 높다. 데이터를 수집하고 활용할 권한을 가진 디지털 빅브라더들이 우리의 생각을 통제하고, 특정한 행동을 유도하고, 더 나아가 우리의 마음을 들여다보고 해킹하는 일은 더 이상 공상과학영화만의 이야기가 아니다. 디지털 빅브라더는 포스트 코로나 시대의 초감시사회를 지배하는 ‘친절한 독재자’로 군림할 것이다.
_〈나는 고발한다〉 p.13

사이버 유토피아의 가능성을 보여준 인터넷도 감시의 역사가 증명하는 법칙, ‘모든 기술은 권력자가 지배하는 감시체계 발전에 활용된다’에서 결코 예외가 될 수 없음이 증명됐다. 한때 자유와 평등의 가치를 신봉하던 인터넷기업들은 우리의 일거수일투족을 감시하며 데이터를 게걸스럽게 먹어치우는 ‘디지털 빅브라더’로 변질됐다. 한때 후드티를 입고 차고에서 밤새 코딩을 하던 청년들은 시간이 흘러 이제 제국의 근엄한 권력자들이 되었다. 이토록 소수에게 이토록 다수를 감시할 수 있는 권한이 부여된 것은 감시의 역사상 전례 없는 일이다.
_〈닷컴버블이 남긴 위대한 유산〉 pp.33~34

미국 정보기관 NSA의 전 요원 에드워드 스노든의 폭로로 세계는 혼란에 휩싸였다. 우리가 매일 사용하는 주머니 속 스마트폰이 알고 보니 정보기관의 감시장치였다는 사실에 사람들은 경악했다. 그러나 이에 반감을 가진 것도 잠시, 사람들은 금세 편리한 스마트폰에 다시금 길들여졌고 개인정보가 노출되고 제3자에게 감시당하는 것을 대수롭지 않게 여겼다. 인터넷기업들은 단 1분이라도 더 사용자를 붙잡아 두기 위해 갖가지 중독적인 장치(뇌의 도파민을 자극하는 빨간색 알림, 추천 콘텐츠, 팝업 정보 등등)를 고안해 냈고 우리는 스마트폰에 점점 종속되었다.
_〈디지털 냉전의 서막〉 p.52

필터 버블에 갇힌 것은 정보의 바다에 위치한 작은 무인도에 고립된 것과 같다. 그것도 망원경이 없는 채로 말이다. 무인도에 고립된 사람은 이곳이 세계의 전부라고 착각한다. 가보지 않은 미지의 영역이 지도에 ‘아직 모름’으로 표시되는 것과 ‘존재하지 않음’으로 표시되는 것은 완전히 다른 이야기이다. 필터 버블은 사용자에게 익숙하지 않은 정보를 차단함으로써 미지의 영역을 지도에서 깔끔하게 제거해 버린다. 맞춤형 서비스를 이용하는 인터넷 사용자들은 ‘필터 버블 너머의 세계’를 상상하고 탐험할 기회를 박탈당한다. 상상의 거세는 곧 창의성 저하로 이어지고 몰개성과 획일화를 낳는다.
_〈필터 버블, 맞춤형 서비스의 함정〉 pp.69~70

기술은 중립적이지만 이를 활용하는 사람은 그렇지 않다. 다이너마이트를 건축에 사용하는 이도, 전쟁에서 사용하는 이도 모두 사람이다. 마찬가지로 인터넷을 어떻게 활용할지를 결정짓는 주체도 사람이다. 모든 사람에게 선의를 기대하기는 어렵다. 누군가는 분명 자신의 이익을 위해 딥 페이크, 필터 버블, 타깃 광고와 같은 기법을 활용해 민주주의에 흠집을 내려 할 것이다. 그 결과, 우리는 선거 조작, 대량학살과 같은 부조리한 일이 다시금 발생하는 것을 목도해야 할 수도 있다. 이러한 위험에 대해 디지털 빅브라더가 무책임하게 방관하는 한, 앞으로 민주주의는 반복적으로 훼손될 위기에 처할 가능성이 높다.
_〈어떻게 인터넷은 민주주의를 위협하는가〉 pp.94~95

블록체인에 대한 큰 오해 중 하나는 블록체인이 디지털 빅브라더를 와해할 기술이라는 기대이다. 탈중앙화를 지향하는 블록체인 기술로 디지털 빅브라더의 기득권을 깨고 사이버 유토피아를 구축할 수 있다는 것이 이상주의자들의 생각이다. 그러나 이는 순진한 생각이다. 블록체인은 돈의 흐름을 감시하고 통제할 권력이다. 모두가 들여다볼 수 있는 분산 장부에 거래 내역을 기록한다는 것은 그만큼 감시체계가 고도화될 수 있다는 뜻이다. 블록체인은 디지털 빅브라더들의 권력을 해체하는 것이 아니라 오히려 그들에게 더욱 큰 권한을 부여할 것이다.
_〈블록체인과 현금 없는 사회〉 pp.109~110

스마트스피커는 디지털 빅브라더의 감시를 질적으로 개선하는 데 혁혁한 공을 세우고 있다. 디지털 빅브라더가 기존에 데이터를 수집하는 경로는 인터넷뿐이었고 감시 범위 또한 사용자의 다양한 온라인 활동에 국한됐었다. 그러나 이제 디지털 빅브라더는 스마트스피커를 통해 음성 데이터를 상시적으로 추출해 내고, 사용자의 오프라인 일상을 감시하는 것이 가능해졌다. 『1984』 속 텔레스크린처럼 말이다. 스마트스피커는 인터넷과 스마트폰을 사용하지 않을 때에도 당신을 감시하고 있다. 당신이 집에서 밥을 먹거나, 소파에서 텔레비전을 보거나 심지어 침실에서 자는 순간까지도 말이다.
_〈스마트스피커가 당신의 일상을 염탐한다〉 pp.126~127

중국 정부는 시민들로부터 수집한 얼굴 데이터를 기반으로 안면 인식 알고리즘을 고도화한다. 또한 CCTV뿐 아니라 여타의 안면 인식 기기를 아파트, 학교, 공중화장실, 쇼핑몰, 호텔, 대중교통 출입구, 은행, 관공서 등에 설치해 시민들을 감시한다. (…) 중국의 안면 인식 확산 기세가 무서운 것은, 이 기술이 초감시사회에 악용될 소지가 다분하기 때문이다. 중국 정부가 안면 인식 기술을 시민의 편의성 증진과 범죄자 색출의 목적으로만 사용할 것이라고 믿는 것은 순진한 발상이다. 얼굴 데이터 등록이 의무화됨에 따라 중국 정부는 체제에 불만을 품은 세력, 소수민족, 홍콩 민주화운동 지지자들을 실시간으로 감시하고 통제하는 것이 손쉬워졌다.
_〈마음을 읽는 안면 인식 기술〉 pp.133~134

가장 완벽한 지배는 피지배자가 자유의지를 잃지 않았다고 착각한 상태에서 실현된다. 이런 측면에서 미루어 봤을 때 알고리즘의 지배는 무척 정교하다. 마음을 해킹당한 사람들은 자신이 알고리즘의 노예라는 사실을 전혀 깨닫지 못할 테니 말이다. ‘나는 누구인가?’라는 오래된 철학적 질문은 미래에는 구식 취급을 받을지도 모른다. 21세기에 보다 걸맞은 철학적 질문은 바로 ‘알고리즘은 내가 무엇이 되기를 원하는가?’이다.
_〈마음을 해킹당한 알고리즘의 노예들〉 pp.166~167