추가 적립 안내

연결, 소통, 참여가 만들어낸 ‘멋진 신세계’
연결시킬 뿐 책임지지 않는다! 소셜미디어가 만들어내는 위험하고도 양극화된 현재와 미래

소셜미디어에서 더 많이 연결되고 더 많이 소통할수록 세상이 나아질 줄 알았다. 그런데 현실은 어떠한가? 가짜 뉴스를 내세운 선전선동이 퍼져 나가고 분노는 서로를 찌르는 무기가 되었다. 각자가 좋아할 만한 콘텐츠를 끊임없이 추천해주는 알고리듬에 갇혀 확증편향에 빠진 탓에, 건전하고 다양한 소통은 오히려 찾아보기 힘들다. 게다가 페이스북, 트위터, 유튜브 같은 거대한 테크 기업들은 이 사태를 방관하며 수익 창출에만 골몰한다. 저자는 이 모든 흐름에 ‘소셜온난화(Social Warming)’라는 이름을 붙이고, 이 책을 통해 전 세계에서 소셜미디어로 인해 벌어지는 비극들을 낱낱이 밝히며 우리 모두에게 호소한다. ‘눈을 뜨라’, ‘깨어 있으라’.

당신은 소셜미디어를 믿습니까?
〈가디언〉 출신 저널리스트 찰스 아서가 야심 차게 내놓은 ‘서늘한 고발장’!
★★★ 디지털 칼럼니스트 박상현 추천

“누구도 이런 일이 일어나게 하려 하지 않았다.
하지만 그런 일이 벌어지고 있다. 소셜온도가 올라가고 있다.”
소셜미디어가 등장했을 때, 많은 사람들은 낙관했다. 다수 시민이 자신의 목소리로 자유롭게 의사를 표현하고 다양한 사람들과 관계를 맺을 수 있는 열린 광장이 되어주리라 기대했다. ‘아랍의 봄’ 시위에서 민주주의를 갈망하는 목소리가 소셜미디어를 통해 전 세계에 널리 알려졌을 때, 이런 희망이 실현되는 듯 보였다.
하지만 지금 우리가 겪고 있는 현실은 어떠한가? 소셜미디어에서 우리는 즉흥적으로 서로를 부정하며 계속해서 충돌한다. 잘못된 정보와 허위 정보를 내세운 선전선동이 빛의 속도로 퍼져 나가고 분노는 무기가 되어 서로를 찌르는 데 이용된다. 검증된 지식과 건전한 토론이 사라진 상황에서 사람들은 무기력하게 휘둘린다. 내가 좋아할 만한 콘텐츠를 끊임없이 추천해주는 알고리듬에 갇혀 확증편향에 빠져버리고 말았다. 페이스북, 트위터, 유튜브 같은 거대한 테크 기업들은 이 사태를 수수방관하며 수익 창출에만 골몰하고 있다.
저널리스트이자 작가로서 과학과 테크놀로지 분야만 30년 넘게 파고든 저자 찰스 아서는 이 모든 흐름에 ‘소셜온난화(Social Warming)’라는 이름을 붙였다. 폭발적인 성장과 발전을 불러온 산업혁명 이후 쉴 새 없이 배출된 온실가스가 기후변화를 일으켜 지구온난화, 나아가 기후재앙으로 이어지고 있다. 마찬가지로 소셜미디어를 통해 더 쉽게 표현하고 연결된 탓에 이성적이고 합리적인 게이트키퍼 대신 사람들의 분노를 이용하려는 세력이 득세하며 사회의 온도를 올리고 들끓게 만들고 있다.

끓어오르는 분노와 양극단에서 과격해지는 사람들
대관절 소셜미디어에서 무슨 일이 벌어진 걸까?
소셜온난화는 세 가지 요소가 상호 작용하면서 발생하고 있다. 첫째, 2007년 아이폰이 등장한 이후 불과 10여 년 만에 스마트폰을 가진 사람이 거의 없던 시대에서 전 세계 인구 가운데 절반 이상이 스마트폰을 보유한 시대로 바뀌었다. 스마트폰은 담배의 완벽한 대체재가 되었다. 사람들은 시간이 빌 때면 어김없이 스마트폰을 들여다보면서 텍스트, 사진, 동영상, 댓글이 뜨는 화면을 휙휙 넘긴다. “그것을 주머니에서 꺼내 들고, 그것에 불이 들어오는 것을 지켜보고, 그것을 빨아들이면서 긴장을 푼다.” 그리고 스마트폰 사용자 대부분은 소셜네트워크에 접속할 수 있으며 페이스북, 트위터, 왓츠앱(한국에서는 카카오톡으로 대체할 수 있겠다), 유튜브 등을 쓰지 않으면 어느 정도 사회적 단절을 감수해야 하는 지경에 이르렀다.
둘째, 소셜미디어 플랫폼들이 사람들의 ‘주목(attention)’을 끌어들이는 게시물이 뭔지 알아내서 적극적으로 추천하고 ‘참여(engagement)’를 유도하는 알고리듬을 개발했다. 이는 상단에 노출된 콘텐츠들을 계속 증폭시키는 한편, 사용자들을 더 자주 로그인하게 하고 더 오래 연결 상태에 머무르게 만든다. 문제는 알고리듬에 인간과 같은 도덕 관념이 없다는 점이다. 알고리듬은 그저 사람들의 감정을 자극해 가장 큰 반응을 보일 만한 콘텐츠만을 무작정 찾아서 상단에 추천한다. 그리하여 각자의 관심사에 따라 추천된 게시물을 중심으로, 극단주의자들은 서로를 더 잘 찾을 수 있게 되고 분노한 사람들끼리 더 열렬히 동조하게 된다. 예전 같으면 세력화할 수 없었던 사람들이 규합하여 실제 행동에 나서는 데 이른 결과, 소셜미디어에 각종 혐오 발언과 과격 행동이 넘쳐난다.
셋째, 이런 현상에 대한 규제나 제약이 존재하지 않는다. 그래야 비즈니스가 유지되고 성장을 담보할 수 있고, 또 한편으로는 ‘검열’을 금지하는 법 조항과 방침이 존재하기 때문이다. ‘무료’라는 이름으로 포장된 소셜미디어 플랫폼들의 주된 돈벌이 수단은 광고다. 그렇기 때문에 광고가 최대한 잘 노출될 수 있는 환경을 구축하는 것이 그 기업들에는 매우 중요한 과제다. 사람들의 주목과 참여를 극대화하는 과정에서 가짜 뉴스가 퍼져 나가고 선전선동이 난무한다고 해도, 그 알고리듬을 손봄으로써 손해를 봐야 한다면 기꺼이 눈을 감을 수밖에 없다. 게다가 1996년에 통과된 미국의 통신품위법 제230조가 게시물의 주인은 글쓴이지 사이트 운영 주체가 아니라고 규정함에 따라, 플랫폼 사업자들은 ‘선의’로 콘텐츠를 관리할 수는 있으나 이용자들이 적법하지 않은 내용을 올렸다고 해도 그에 대한 ‘책임’은 지지 않아도 된다. 그리하여 페이스북 CEO 마크 저커버그는 공식적으로 “혐오 그룹을 절대로 용납하지 않는다”라고 항변하면서도 그런 콘텐츠들에 적극적인 제재 조치를 취하지 않는다. 그런 콘텐츠들에 광고가 더 많이 붙기 때문에.

소셜미디어는 어떻게 선거를 망치고 정치를 양극화하는가?
코로나19 팬데믹에서 안티백서는 어쩌다 세상을 혼란에 빠뜨렸는가?
급기야 소셜미디어에서 형성된 여론이 실제 선거에 영향을 미치는 일이 벌어졌다. 2016년 영국의 브렉시트 국민투표, 미국과 필리핀의 대통령 선거 등이 대표적인 경우다. 이런 첨예한 정치 이벤트가 있을 때, 소셜네트워크는 편가르기의 장으로 돌변해버린다. 정치가 발전할수록 대부분 양당제로 귀결되는 정치 체제 아래서 이쪽 후보를 뽑을 것인가 저쪽 후보를 뽑을 것인가. 어떤 의제에 대해 찬성할 것인가 반대할 것인가. 이런 상황에서 분노에 찬 정치인이 논란이 될 만한 극단적인 발언을 소셜미디어에 쏟아낼수록 그는 더 큰 반응을 얻고 주목을 받는다. 그리하여 사실 검증과 타협적 토론은 실종되고 격정적이고 조직화된 정치적 양극단이 서로를 비난하며 과격화된 입장들 사이의 전투가 벌어지고 만다.
정치 세력들은 이런 현실을 절묘하게 이용한다. 2016년 미국 대선에서 도널드 트럼프 캠프는 전례 없이 대규모로 소셜미디어를 활용한 캠페인을 펼쳤다. 트럼프는 끊임없이 트위터에서 존재감을 과시했고 그의 캠프는 공격적으로 디지털 광고를 집행했다. 그리고 그 콘텐츠들은 소셜미디어 알고리듬의 영향으로 엄청나게 증폭되었고 중도층의 투표에 실제로 영향을 주는 데 성공했다. 트럼프 진영 디지털 캠페인 책임자였던 브래드 파스케일이 “페이스북과 트위터 덕분에 우리가 승리했다”라고 공공연히 이야기할 정도다.
비슷한 비극이 코로나19 백신접종을 둘러싸고도 발생하고 있다. 소셜미디어에서 백신 반대 커뮤니티가 조직되었고, 그들은 중력장 비슷한 역할을 해서 백신을 믿지 못하는 사람들, 백신의 역사나 백신의 중요성을 이해하지 못하는 사람들을 끌어들인다. 그렇게 그들을 끌어들여 ‘백신접종을 망설이는’ 또는 ‘백신접종에 회의적인’ 사람들로 만들었다가 결국 일부는 열렬한 안티백서가 되게 한다. 안티백서들은 기본적으로 기관들, 재단들, 과학 공동체들의 신뢰성을 끊임없이 공격하면서 사람들의 불안을 이용하고 의심을 불러일으킴으로써 사회를 분열시킨다.
선거에 미치는 영향과 관련해 한없이 유보적인 태도를 보였던 소셜미디어 기업들은 팬데믹이라는 초유의 사태 앞에서 입장을 바꿨다. 코로나19에 대한 거짓 정보를 적극적으로 차단하고 공인된 내용을 더 잘 보이도록 하겠다고 발표한 것이다. 하지만 그런 조치만으로는 ‘우회하는’ 콘텐츠로 사람들의 주목을 끌어모으는 경우들을 통제할 수 없다. 다른 음모론이나 유사과학을 추종하는 사용자들이 결집하여 코로나19 및 백신과 관련된 허위 정보를 공유하고 퍼뜨리는 흐름을 막기에는 역부족이다. 다시 말해 증폭의 알고리듬과 바이럴이 결합하는 현재 상황을 방치하면서 땜질 처방만 내놓는 한, 소셜온난화 문제는 절대 해결할 수 없다.

소셜온난화, 돈 버는 사람 따로 있고 대가를 치르는 사람 따로 있는 불공평한 재난
이제 ‘고장 난 도구를 재설계하고 개조’해야 할 때!
이 책의 추천사를 쓴 디지털 칼럼니스트 박상현은 이 모든 흐름을 ‘소셜온난화’라 부른 것은 아주 적절하면서도 영리한 명명(命名)이라 평하면서 지구온난화와 소셜온난화의 공통점을 조목조목 설명한다. 두 개의 온난화 모두 단순한 오염 혹은 현상에서 끝나지 않으며 되돌리기 힘든 재난이 되어가고 있다. 전 세계에서 산발적으로 나타나는 듯 보이지만 전 지구적으로 영향을 미치고 있다는 점도 비슷하다. 또한 정작 온난화에 덜 기여한 가난한 나라들이 더 큰 피해를 입고 있다는 특징도 있다. “돈 버는 사람 따로 있고, 대가를 치르는 사람 따로 있는 불공평한 재난”인 셈이다. 그렇다고 해서 선진국이 안전지대라고 장담할 수 없으며, 몇 년 후에는 선진국도 두 개의 온난화의 영향으로 각종 위협에 적나라하게 노출될 가능성이 높다.
매일 약 18억 명이 페이스북에 로그인한다. 인스타그램과 왓츠앱 사용자까지 더하면 한 달에 총 사용자 수는 중복을 제외하고도 30억 명 이상이다. 트위터에는 매일 전 세계에서 1억 9000만 명이 접속한다. 유튜브에서는 매일 약 50억 편의 동영상이 시청되며 한 달 동안 20억 명 이상이 그 사이트를 방문한다. (우리나라에서 가장 많이 사용되는 모바일 앱인 카카오톡 월간 사용자 수는 4500만 명이 넘는다.) 이 수많은 사용자들의 힘으로 테크 대기업들은 막대한 수익을 올리는 데 성공했지만 그로 인한 부작용, 즉 소셜온난화는 외면하고 있다. 이 대목에서 애플의 매킨토시 프로젝트의 초기 구성원이자 스티브 잡스의 고문이었던 조애나 호프먼이 한 말은 묵직한 울림을 남긴다. “아시다시피, 이건 담배 같은 거예요. 아편과 다를 게 없어요. 우리는 분노에 중독성이 있다는 걸 알고, 사람들을 충분히 열받게 만들면 우리 플랫폼에 끌어와서 참여하게 할 수 있다는 걸 압니다. (중략) 제가 묻고 싶은 건 이겁니다. 얼마나 엉망이고, 얼마나 무지하고, 얼마나 기만적인 건가요?”
물론 스마트폰과 소셜네트워크가 존재하지 않았던 과거로 되돌아갈 수는 없다. 다만 이대로 손을 놓고 있어서는 안 된다. 소셜온난화에 관심을 기울여야 하고 지금 무엇을 해볼 수 있을지 논의하기 시작해야 한다. 저자는 소셜네트워크의 규모를 무제한으로 늘리려는 소셜미디어 플랫폼들의 행보에 제동을 걸어야 한다고, 지나치게 많은 권한을 갖고 있는 테크 대기업들에 규제를 가해야 한다고 주장한다. 그리고 기업들은 ‘위험한’ 광고나 콘텐츠를 걸러내는 알고리듬을 개발해서 (추가 고용 없이) 문제를 손쉽게 해결하려 할 것이 아니라 엄격하고 윤리적인 가이드라인을 숙지하고 있는 사람들을 적극적으로 고용하는 노력을 기울여야 하며, 사람들의 경쟁 심리와 말초적인 감정을 자극하는 각종 ‘숫자 표시’ 기능을 덜 써야 한다고 제언한다. 더 늦기 전에, 우리는 “고장 난 도구를 재설계하고 개조”해야 한다. 이 책은 우리 모두에게 경종을 울리고 행동을 촉구하며 이렇게 호소한다. ‘눈을 뜨라’, ‘깨어 있으라’.


?

박상현(디지털 칼럼니스트, 오터레터 발행인)
저자 찰스 아서가 이 책의 제목을 《소셜온난화》로 정한 것은 아주 적절한 선택이었다. 지난 10년 동안 소셜미디어가 만들어낸 문제들이 지구온난화(혹은 기후 위기)와 더불어 21세기 인류의 생존을 위협하는 가장 심각한 이슈라는 점에서 이 둘을 결합한 건 영리한 명명(命名)이다.
인류는 이 새로운 위기도 궁극적으로 극복할 수 있을까? 그렇게 믿고 싶다. 하지만 “비행기를 만드는 사람은 사고를 감수해야 한다”라는 저커버그식의 자세로는 안 된다. 라이트형제는 자신들이 만든 비행기를 직접 타고 실험했지만, 소셜미디어 기업들은 이윤만 챙기고 그들의 ‘실험’에 들어가는 비용은 사회와 사용자들이 대신 지불하고 있기 때문이다.
무엇보다 ‘온난화’는 되돌릴 수 없는(irreversible) 피해를 만들어내는 재난임을 기억해야 한다. 지구는 일정 온도를 넘어서면 과거 상태로 돌아갈 수 없다는 점을 과학자들이 누누이 강조하고 있고, 사회를 지탱하는 제도와 구성원 사이의 신뢰 역시 한번 무너지면 다시 일으켜 세우는 게 불가능에 가깝다는 사실을 인류 역사가 잘 보여주고 있기 때문이다.

가디언
서늘한 고발장.

이언 던트(영국 정치 매체 〈폴리틱스〉 에디터)
날마다 우리가 사용하는 앱들이 우리 정치와 사회를, 심지어 우리 존재까지도 어떻게 망치고 있는지 알려주는 안내서. 마치 SF처럼 읽힌다. 지금 여기, 우리가 살고 있는 세상을 설명하고 있다는 점만 아니라면.

도리언 린스키(작가, 팟캐스트 진행자)
소셜미디어는 우리를 가까이 모으려 했다. 하지만 그 대신에 우리를 갈라놓았다. 저자는 오만과 탐욕이 우리를 어떻게 우리를 이런 난장판에 몰아넣는지, 어떻게 우리가 거기서 벗어날 수 있을지 명확히 설명한다. 재기 넘치고, 매섭고, 화재 경보만큼 급박하다.

영국 매체 〈미러〉
몇 안 되는 소셜미디어 플랫폼이 어떻게 사회를 지배하게 되었는지, 자신들이 일으킨 피해를 어떻게 축소했는지 설득력 있게 설명한다. “이 서비스들이 만들어지기 전으로 상황을 되돌려놓을 수는 없기” 때문이다.

추천의 글 (박상현)
한국 독자들에게

1장 서문: 문제 구체화하기
2장 초기: 장밋빛 약속과 파워
3장 증폭과 알고리듬: 스크린 뒤에 숨은 감시자
4장 격분과 편가르기 진술: 부족적 사고방식
5장 최악의 시나리오: 페이스북은 미얀마를 어떻게 혼란에 빠뜨렸나
6장 분열된 선거: 소셜미디어는 어떻게 정치를 양극화하는가
7장 팩트에서 페이크로: 미디어 생태계는 어떻게 붕괴되었나
8장 위험에 빠진 민주주의: 소셜미디어가 선거를 망치는 이유
9장 팬데믹: 진실 예방접종
10장 규제: 문제를 적당한 크기로 나누기

감사의 글
주

소셜네트워크가 널리 사용되면서 페이스북은 집단학살에 연루되었고, 트위터는 여성 혐오 캠페인을 위한 전쟁터가 되면서 현실 세계에서도 심각한 위협과 공격이 이어졌으며, 유튜브는 처음에는 무슬림 무장 조직들을 과격해지게 했다는 비난을, 나중에는 우파 백인 남성들이 계속해서 살인을 저지르게 했다는 비난을 받았다. 여성들은 지폐 속 인물에 여성을 넣자는 캠페인을 벌였다는 이유로 살해 및 강간 위협을 받았다. 익명의 열두 살짜리들이 유명 축구선수들을 인종차별의 표적으로 삼았다. 또한 같은 주제에 관심이 있다고 파악한 알고리듬 덕분에 의기투합한 두 남성이 페이스북 그룹에서 소통하기 시작했고 행동에 나서기로 결심했다. 그들의 관심 주제는 내전을 일으키자는 것이었고 그들의 행동은 경찰관을 살해하자는 것이었다.
이들이 유별난 게 아니다. 의도된 대로, 설계된 대로 이용될 경우 소셜네트워크들은 이런 결과로 이어진다. 결국 생각이 비슷한 사람들끼리 연결되기 마련이다.
소셜네트워크와 연관된 비슷한 유형의 사건들이 계속해서 발생한다. 작은 차이가 더 큰 의견 충돌로 증폭되며, 상반되는 입장을 취하는 사람들은 극단적인 신념이나 극단적인 행위로 치닫는다. 이들 소셜네트워크는 우리의 주목을 끄는 데 최적화되어 있고 분노와 양극화를 추구하는 타고난 성향을 이용하려는 소프트웨어로부터 동력을 얻는다.
소셜네트워크들이 현재의 설계 방침을 유지하는 한 이런 사건들은 계속해서 일어날 것이며 소셜네트워크 사용자 수가 증가할수록 더 악화될 것이다. 그리고 5년 후면 스마트폰 사용자가 10억 명 더 늘어날 것이다.

우리는 ‘소셜온난화’의 시대를 살아가고 있다. 소셜온난화는 인간의 삶을 보다 편리하게 하려는 기술이 진보하면서 의도와 다르게 나타난 부작용이다.
‘온난화’라고 부르는 이유는, 이것이 점진적이기 때문이다. 점진적이라는 건, 상황이 악화되는 순간을 알아차리지 못한다는 뜻이다. (27~28쪽)

모두가 모두의 친구가 될 수 있다니! 모두가 트윗을 올릴 수 있고 다른 사람의 트윗에 답할 수도 있다니! 개방적이고 투명한 세상이 손짓해 부르고 있었다. 하지만 아무도 지라르의 모방 행동 이론에 담긴 또 다른 요소에는 별다른 주의를 기울이지 않았다. 피터 틸도 예외는 아니었다. 다른 사람이 가진 것을 보고 그것을 갖고자 하는 욕망, 그리고 실제로 그런 사람이 되고자 하는 욕망이 계속해서 좌절되면 결국 사람들은 수시로 성난 군중이 되어버린다. 이들 성난 군중은 적이 누구인지 또는 무엇인지 일단 합의가 되기만 하면 이 적을 파괴하려 든다. 르네 지라르는 이를 ‘희생양 삼기(scapegoating)’라고 했다. (62~63쪽)

더욱 나쁜 것은, 페이스북에서 극단주의자 그룹에 가입한 사람들 가운데 3분의 2가량이 페이스북의 자체 추천 알고리듬에 의해 가입 권유를 받았다는 사실이 그 조사에서 밝혀졌다는 점이다. 그 알고리듬은 사람들의 ‘관심사’라고 파악한 사항과 그룹에 이미 소속된 사람들의 관심사가 얼마나 잘 들어맞는지를 근거로 가입을 권유했다. 페이스북은 극단주의자들끼리 서로 접촉하게 해주면서 극단주의의 온상이 되었다. 필리핀에서, 브렉시트 국민투표에서, 미국에서, 이 세 가지 놀라운 투표 결과와 관련해 페이스북의 콘텐츠와 광고가 상당히 중요한 역할을 했지만, 그에 대한 면밀한 후속 조사가 이루어졌을 때 페이스북이 극단주의를 없애려 했다는 메시지는 거의 찾을 수 없었다. (98쪽)

트위터가 소셜온난화에 특징적으로 기여한 바가 있다면 그것은 바로 누구든 갑작스럽게 희생자가 될 수 있도록 만든 방식이었다. “트위터에는 날마다 주인공(공격 대상)이 하나 있다. 목표는 절대로 그 주인공이 되지 않는 것이다.” 트위터 계정명 ‘Maple Cocaine’의 이런 설명은 사건의 본질을 포착해낸다. 팔로워가 많고 적고는 중요하지 않았다. 누구든 갑작스럽게 순전한 증오의 집중 포화 대상이 되어서 전에는 말도 섞어본 적 없는 성난 사용자들의 공격에 시달릴 수 있었다. 그렇지만 미담에 대해서는 이런 일이 거의 일어나지 않는 듯했다. 사람들이 칭찬 세례를 받는 경우는 거의 없었다. 분노와 멸시가 훨씬 두드러졌다. (107쪽)

알고리듬의 영향력을 투명하게 공개하라고 요구하면서 그는 연구를 수행했다. ‘지구온난화는 진짜인가?’라고 검색해보면 구글 검색 결과의 약 25퍼센트, 유튜브 검색 결과의 약 15퍼센트가 지구온난화는 거짓이라며 잘못된 정보를 알려주었다. 하지만 유튜브 ‘추천 영상’에 로그인한 사용자들만 놓고 보면 그 수치는 70퍼센트가 넘어갔다.
왜 이렇게 큰 차이가 날까? ‘추천’의 의도는 시청자를 계속 보게 만드는 것일 뿐, 질문에 마땅한 답을 내놓을 필요는 없기 때문이다. 어떤 동영상이 ‘좋아요’보다 ‘싫어요’가 더 많다고-즉 사람들이 실제로 자신들은 이 콘텐츠를 좋아하지 않는다고 말한다고-해도 그건 중요하지 않을 수 있다. 알고리듬은 사람들이 계속해서 유튜브를 보게 만들어서 광고들도 보게 하려는 것이었기 때문이다. “유튜브의 추천 알고리듬 일을 하면서 저는 (중략) 그것이 거짓 정보로 선동하는 데 적극적인 역할을 하고 있다는 결론에 이르렀습니다”라고 샤슬롯은 말했다.
또 다른 문제는 톱니효과(ratchet effect)였다. 즉 누군가 토끼굴에 빠지고 나면 기어 올라올 가능성이 별로 없다. 일단 어떤 음모론을 믿기 시작한 사람은 바깥에서 벌어지는 모든 일이 사실이 아니라는 데 점점 더 설득된다. 유튜브에서 그런 견해를 강화하는 동영상을 점점 더 많이 보게 된다. 게다가 사람들 간의 거리를 허물어뜨리는 인터넷의 능력 때문에 생각이 비슷한 사람들끼리 서로를 온라인에서 찾을 수 있고, 따라서 현실에 맞닥뜨려도 그 같은 믿음을 지탱할 수 있다. 인터넷 이전에는 음모론을 지속해나가기가 훨씬 더 어려웠다. 음모론 지지자들이 자기 생각에 동의하는 다른 사람들을 잘 만날 수 없었기 때문이다. 온라인 세상에서는-양치기 개가 양 떼를 몰고 가듯이 잘 속는 사람들을 한데 몰아넣는 알고리듬이 거들기 때문에-음모론을 피할 수 없다. 음모론에 대한 확신이 커지는 것 자체가 소셜온난화, 즉 알고리듬 시스템이 가져온 달갑지 않은 부작용의 한 형태다. (117~118쪽)

소셜미디어의 문제점을 스크린 뒤에서 감시하는 알고리듬 탓으로만 돌릴 수는 없다. 소셜온난화는 사람들이 이 시스템을 사용하는 방식 때문이기도 하다. 어떤 사람들이 가장 잘 몰입하는지, 어떤 사람들이 가장 많은 피드백을 남기는지를 가려내기 위해 소셜네트워크들이 개발한 시스템은 어떤 종류의 콘텐츠가 사람들의 관심을 가장 많이 끌게 될지 전혀 개념이 없다. 알고리듬은 무엇을 키우고 증폭시킬까? 아기 고양이나 뛰어다니는 강아지 사진? 대담한 모험을 담은 감동적인 이야기? 성취를 자극하는 이야기? 아니면 더 음험한 것?
불행하게도 ‘더 음험한’ 것일 때가 꽤 있다. 가끔 그런 음험함이 우리 내면에 자리 잡기 때문이다. 소셜온난화가 보여주는 건, 알고리듬이 개입하지 않더라도 우리가 감정-특히 부정적인 감정-을 그 어느 때보다 더 빠르게 옮기고 더 많은 사람들에게 전파할 수 있다는 점이다. (129쪽)

핵심은 설득이 통하지 않는다는 것이 아니다. 그 영향은 불규칙적이고 무관심과 뒤섞여 있어 가려내기가 어렵다. 후보로 나온 정치인이나 정치에 대한 의견을 아무도 바꾸지 않는다고 하면 정권이 바뀌는 일은 없겠지만, 그런 일이 일어난다.
특정 인물이나 견해를 지정해서 사람들의 견해가, 그리고 투표가 이 광고 때문에 또는 저 바이럴 콘텐츠 때문에 흔들렸다고 하는 건 불가능한 일이다. 그건 어쨌든 이 과정이 작동하는 방식은 아니다. 소셜온난화는 정교하게 균형 잡힌 상황에서 티핑포인트가 발생하기 쉽게 하고, 양극단을 서로에게서 더욱 멀어지게 만든다. 국경과 통치 체제가 그대로 유지되는 지역의 정치에서 소셜온난화는 반대 의견을 점점 더 많이 마주하게 되고 싫어하는 정치인-소속 정당의 정치를 점점 더 극단적인 형태로 몰아감으로써 흥하게 된 사람들-이 집권하게 된다는 뜻이다. 특히 소셜미디어에서 노골적인 발언이 더 많은 주목을 끄는 식으로 보상을 받는 한 이런 악순환은 계속될 것이다. 또한 소셜네트워크 회사들이 혐오를 조장하는 정치인을 막을 의무보다 수익에 더 가치를 둔다면 상황은 더 나빠질 것이다. (270쪽)

극단주의자의 의제를 밀어붙이려는 사람들이 게이머게이트 이후 몇 년 동안 배웠던 정치권과 운동권의 메시지는 간단했다. 온라인 캠페인의 성공은 진실을 기반으로 할 필요가 없었다. 논란거리를 찾아내고 주목을 추구하는 알고리듬을 자기편으로 조작할 수 있을 정도로 헌신적인 사람들의 그룹을 보유하고 있느냐가 중요했다. 온라인 캠페인에서는 그 일에 모든 시간을 쏟아부으려는 사람이 몇 명 있는 편이 가벼운 관심을 보이는 사람들이 많이 있는 것보다 훨씬 가치 있다. 이는 의견 충돌이 있을 때에도 마찬가지다. 가장 완강한 사람들이 우세할 것이다. 부분적인 이유는 알고리듬이 이들의 콘텐츠를 이쪽도 저쪽도 아닌 사람들에게 보여줄 것이기 때문이다. 또한 가짜 계정을 만들어서 이런 콘텐츠를 증폭시킬 수 있다면 알고리듬도 따라올 것이다. 기계는 그것이 진짜가 아니란 걸 알지 못한다. (349쪽)

음모론, 특히 그것을 잘 믿는 사람들을 걱정해야 할 또 다른 이유가 있었다. 런던 킹스 칼리지가 2020년 4월 내놓은 연구에 따르면, 그런 이들은 코로나19 확산의 위험을 최소화하기 위해서 손을 잘 씻으라든지, 집에 머물라든지, ‘사회적 거리두기’를 하라는 정부의 과학적 권고를 따르려 하지 않는 사람들이었다. 이 연구에서 무작위로 뽑은 성인들(가중치를 두？