추가 적립 안내

“팩트만으로는 가짜 뉴스를 이길 수 없다”
정보가 무기가 되어버린 시대에 꼭 필요한 책!

- 거짓 정보는 어떻게 퍼져나갈까?
- 누군가에게는 말도 안 되는 루머가, 왜 어떤 이에게는 신념이 되는 걸까?
- 우리는 거짓 신념을 옳은 신념으로 바꾸기 위해 무엇을 할 수 있을까?

거짓 정보는 우리의 신념을
어떻게 오염시키는가

14세기 중반, ‘타타르의 식물성 양’이라는 나무가 중세 사람들의 상상력을 자극했다. 여행기에 기록된 것 말고는 아무런 증거도 없었음에도 유수의 학자들이 이 나무가 실제로 있다고 주장했다. 직접 나무를 연구하고, 열매 속 양털까지 확인했다는 이들도 있었다. 17세기까지 이런 주장이 이어졌지만, 사실 그런 나무는 존재하지 않았다. 믿을 만한 사람들의 거짓 정보에 대중의 판단력이 흐려진 결과였다.
이러한 상황은 지금도 마찬가지다. 우리는 상업광고의 만들어진 이미지를 보고 물건을 구매한다. 선거 때만 되면 출처 없는 가짜 뉴스가 모든 이슈를 장악한다. 지구가 평평하다거나, 혈액형으로 성격을 구분하는 식의 유사 과학도 여전히 성행 중이다. 대기업의 횡포는 또 어떠한가. 담배, 지구, 온난화, 살균제 등을 둘러싼 기업들의 교묘한 선전 전략은 지금껏 막대한 피해를 감춰왔다. 우리는 언론 플레이, 마케팅, 새빨간 거짓말이 판치는 오정보(misinformation)의 시대에 살고 있다고 해도 과언이 아니 것이다.

《거짓은 어떻게 확산되는가》는 거짓 정보가 우리 인간의 신념을 어떤 방식으로 조작하는지 적나라하게 파고드는 책이다. 저자 케일린 오코너와 제임스 웨더럴은 ‘당신이 무엇을 믿는가는 당신이 누구와 알고 지내는가에 달려있다’는 사실을 과학적 근거를 바탕으로 설득력 있게 풀어낸다. 이들은 거짓 신념이 퍼지는 이유를 이해하기 위해 개인의 심리보다는 사회적 요인들에 주목한다. 이들은 게임이론가이자 물리학자, 수리행동과학연구소 연구원으로 수학적 모형을 통해 사회적 관계망 속에서 우리가 신념을 어떻게 형성하고 갱신하는지 드러낸다. 생각을 공유하는 집단 속에서 사람들의 학습에 영향을 미치는 요인을 분석해 거짓 정보가 우리의 신념을 얼마나 쉽게 오염시킬 수 있는지를 보여준다.

저자들의 진단에 따르면 ‘인간의 합리성’이라는 그림은 위험할 만큼 왜곡돼 있다. 자신이 속한 집단에서 주변인들에게 들은 정보를 아무리 합리적으로 해석해도 올바른 신념을 형성하는 데 실패할 수 있다. 아무리 합리적인 개인이 모여도 전혀 합리적이지 않은 집단을 형성할 수 있는 것이다. 담배 산업계의 선전 전략, 트럼프와 힐러리의 대선을 앞두고 쏟아졌던 가짜 뉴스들과 러시아의 개입, 기후변화를 둘러싼 양극화된 대립을 따라가다 보면 가짜 뉴스가 우리 사회를 오염시키는 상황이 현재진행형임이 여실히 드러난다.

누군가에게는 말도 안 되는 이야기가,
왜 어떤 이에게는 신념이 되는 걸까?

우리는 ‘내일도 태양은 뜬다’라고 말할 수 있을까? 데이비드 흄은 ‘아니오’라고 단호하게 대답한다. 매일 뜨는 태양도 언젠가는 팽창해 지구를 집어삼킬 것이다. 우리가 알고자 하는 대상의 모든 것을 경험해볼 수 없기에 모든 추론은 틀릴 가능성이 있다. 이를 ‘귀납의 문제’라 부른다. 그럼에도 우리가 확보할 수 있는 최선의 증거를 바탕으로 신념을 갖는 것이 게 무의미한 것은 아니다. 우리가 진실이라 믿는 것들은 지금까지 세상이 진보하는 데 확실한 공을 세워왔기 때문이다. 확실성에 대한 요구들은 무시하고 중심을 잡는 것이다. 흄이 말했듯 ‘현명한 사람은 자신의 신념을 증거에 조화시킨다’.

이러한 전제를 바탕으로 저자는 증거와 신념의 관계를 나타내는 베이즈 정리 모형을 제시한다. 베이즈 정리에 따르면 조건에 따른 확률을 고려해 신념을 갱신할 수 있다. 예컨대 증거로 인해 A라는 결과가 나타날 확률이 50% 이상이라면 우리는 A가 참이라 믿을 수 있는 것이다. 이 모형을 바탕으로 삼은 다양한 모형들과 변수를 들면서 저자는 우리 신념이 변할 수 있는 다양한 가능성을 증명한다.

그 가능성 중 하나가 동조 편향이다. 예시를 들어보자. 첫 백악관 기자회견에서 당시 트럼프 행정부의 대변인은 “트럼프 대통령이 취임식에서 사상 최대 규모의 청중을 맞았다”고 발표했다. 그러나 지하철 승객 수와 상공에서 찍은 사진들로 추정한 청중 수는 사상 최대가 아니었다. 이를 두고 연구한 한 학자는 약 14,000명의 미국 성인들에게 도널드 트럼프와 버락 오바마의 취임식에 참석한 군중의 사진을 나란히 보여주고 어느 쪽 사진에 사람이 더 많냐고 물었다. 놀랍게도 트럼프의 지지자들 가운데 15%는 한눈에 보기에도 확연히 적은 트럼프 쪽 사진을 선택했다. 그들은 눈앞에 있는 뚜렷한 증거를 무시하고 트럼프 정부 대변인의 의견에 동의했던 것이다.

동조 편향 때문에 잘못된 신념을 형성한 사례다. 우리는 증거를 기반으로 신념을 형성한다. 하지만 눈앞에 너무도 명확한 증거가 있음에도 불구하고, 여기에 눈앞에 증거를 보고 있는 자신보다 자신이 신뢰하는 사람들의 판단을 신뢰하는 경향이 나타나면 순식간에 모든 사회적 연결망에 거짓인 신념이 확산될 수 있다.

신념을 조작하는 선전가의
교활한 도구들

1952년 12월, 미국 월간지 〈리더스 다이제스트〉에 ‘한 갑씩의 암’이라는 제목의 글이 실렸다. 여기엔 흡연과 폐암의 연관성에 대한 증거를 담겨 있었다. 논조는 거침이 없었다. 1920년부터 1948년까지 폐암으로 인한 사망이 10배 증가했으며, 45세 이상의 흡연자 집단에서는 폐암의 발병 위험성이 피운 담배 개비 수와 비례해 증가한다고 주장했다. 흡연율이 ‘엄청 나게 증가’하고 있기 때문에 폐암은 곧 인류가 걸리는 암 가운데 가장 흔한 암이 될 것이라는 의학 연구자의 말도 인용했다. 이 기사는 담배 업계에는 사형 선고와 마찬가지였다. 그들은 이러한 증거를 뒤집거나 논점을 바꾸는 전략에 착수했다. 담배와 폐암의 연관성을 연구하는 과학자들에게 담배 업계의 선전가들이 접근하기 시작했다.

담배연구소라는 단체가 뉴스레터 〈담배와 건강〉을 정기적으로 발간하면서 흡연과 폐암 사이에는 아무런 연관이 없음을 보여주는 연구 내용을 퍼뜨리기 시작했다. 흡연의 위험성에 관한 과학적 증거에 흠집을 내는 것이 목적이었다. 담배의 타르 성분이 쥐의 몸에 피부암을 유발했다는 연구에 대응해 〈담배와 건강〉은 같은 팀이 진행한, 암 발병률이 더 낮게 나타난 연구들을 지적했다. 이 뉴스레터는 실제로 담배 성분의 암 유발 사례를 보고한 연구가 몇 건이나 있었는지는 언급하지 않은 채 ‘5건의 담배-동물 연구에서 암 유발 사례가 없었음’ 같은 헤드라인을 내걸었다.

이러한 전략에서 선전가는 과학적 과정에 전혀 개입하지 않는다. 과학자들을 매수하지도 않고 과학적 연구에 기금을 대지도 않는다. 다만 우연히 오답을 낸, 연구 결과들만 취해 대중과 정책 입안자들에게 보낼 뿐이다. 과학이 작동하는 방식에서 대중이 오해하고 있는 면을 활용한 전략이었다. 우리는 대개 개별적인 과학 연구들이 하나의 가설에 대한 증거 또는 확증을 제시한다고 생각한다. 그러나 과학은 이런 이상과는 거리가 멀며, 어떤 연구든 잘못된 결과를 동반한다. 거대 담배 업계는 이 사실을 자신들의 입맛에 맞게 이용한 것이다. 이것이 선전가의 ‘선택적 공유’ 전략이다. 선전가는 과학계에서 산출해낸 결과들을 뒤져 본 뒤 자신들의 의제를 지지하는 결과들만 널리 알려 결국 정책 입안자들이 잘못된 신념을 갖도록 유도한다.

가짜 뉴스의 시대에
우리는 어떻게 대처해야 하는가

저자는 이제 ‘사상의 시장(marketplace of ideas)’이 거짓 정보를 효과적으로 골라낼 수 있다는 생각을 버려야 한다고 말한다. 중요한 것은 권력을 가진 이들이 언론에 의도적인 영향력을 행사해 대중에게 실질적인 해를 가할 수 있다는 사실을 깨닫는 것이다. 근거 없는 견해를 옹호하는 것은 단지 이상적인 ‘시장’에 무해한 무엇인가를 더하는 일이 아니라 시장 전체를 망가뜨릴 수 있는 잘못된 일로 여겨져야 한다.

그 방법 중 하나로 저자는 과학계가 위조된 연구 결과가 나올 가능성을 줄이는 공표(publication) 규범을 제안한다. 과학자들은 연구 결과를 공표할 때 그 안에 내재된 위험성도 고려해야 하며 자신이 수행한 연구의 사회적 결과와 이를 공표함으로써 얻는 이득을 저울질해보아야 하는 것이다. 과학자의 임무는 단지 과학을 하는 것이 아니다. 사회적으로 민감한 연구일 경우 최소한 그 결과의 공표를 선택하기 전에 특별히 높은 기준에 결과를 맞출 책임이 있다. 특히 산업계의 선전가들이 활동하는 분야에서 연구 결과를 공표한다면 사회에 미칠 위험성이 높기 때문에 과학자들은 의사결정을 할 때 반드시 그 결과를 고려해야만 한다.

《거짓은 어떻게 확산되는가》는 우리가 올바른 신념을 갖고 견지하기에는 너무나도 취약하다는 사실을 일깨워준다. 이는 자연스레 어떤 정보로 누가 이득을 보는지, 우리가 더 예민해져야함을 방증한다. 자신도 모르게 누군가의 이익에 기여하는 선전가가 되고 싶은 사람은 없다. 복잡한 정보망에 숨어있는 각종 가짜 뉴스와 음모, 유언비어와 괴담에 어떤 의도가 숨어있는지 한 번 더 의심해야만 한다. 수많은 정보의 진위를 파악하기에 인간의 한계는 명확하다. 그럼에도 이 책이 말하고 있는 신념의 작동방식, 조작의 도구들을 이해할 때 우리는 거짓된 믿음을 거부할 첫걸음을 내딛을 수 있을 것이다.

앨버트 라슬로 바라바시(《링크 Linked : 21세기를 지배하는 네트워크 과학》 저자)
“가짜 뉴스와 네트워크가 한데 뒤엉켜 세상을 어떻게 바꿔놓고 있는지 보여주는 시의적절하고 매력적인 서사.”

조지 머서(〈사이언티픽 아메리칸 Scientific American〉 편집자)
“정보가 무기가 되어버린 시대에 꼭 필요한 책.”

앨런 M. 브랜트(담배의 세기 Cigarette Century》 저자)
“증거, 사실 그리고 무엇보다도 진실을 지키는 데 결정적인 철학적 실마리를 제시한다.”

존 호건(스티븐스공과대학 과학저술센터장)
“전염병처럼 퍼지는 가짜 뉴스에 대처하기 위해 무엇을 할 수 있는지에 관한 최고의 책.”

서문. 타타르의 식물성 양
제1장. 진실이란 무엇인가?
제2장. 양극화와 동조
제3장. 인류의 복음화
제4장. 사회적 연결망
미주
참고문헌
찾아보기

세계는 신념에 반응한다. 만일 덩치 큰 심해어의 수은 함량이 높다는 이야기나 수은이 몸에 해로운 물질이라는 사실을 믿지 않는 사람이라면 임신을 하고도 생선회를 먹을 것이다. 그 결과 태아의 수은 중독 가능성은 커질 것이다. 만일 높은 국가채무가 경제를 좀먹는 요인이라고 믿으면 금리가 낮더라도 부채를 줄이는 정책을 지지할 것이다. 공공 서비스나 경기부양에 필요한 재정 지출을 줄이는 한이 있더라도 말이다. 이런 맥락에서 보면 거짓 신념이 우리를 해칠 수도 있다. 그리고 이런 이유 때문에 거짓 신념이 지속될 경우 문제는 더욱 커진다. _서문, 11쪽

대개 과학자들이 합리적인 행동을 바탕으로 확실하지 않은 데이터를 수집하는 경우에 증거를 공유하면 처음에는 회의적이던 이들까지 설득해 집단 전체가 옳은 신념에 도달할 수도 있다. 그러나 이 과정은 기대와는 정반대되는 효과를 내기도 하고, 과학자들의 신념을 거짓 신념으로 향하게 할 수도 있다. ‘식물성 양’ 이야기를 떠올려보자. 학식 있는 전문가들 사이에 의사소통이 없었더라면 이 기이한 믿음은 절대 퍼지지 않았을 것이다. 증거의 공유(“내가 그 엄청난 것을 맛봤다니까!”)는 올바른 신념을 지니고 있던 다수마저 틀린 것을 참이라고 믿도록 설득하는 역할을 했다. _2장, 91쪽

담배 업계에서는 난리가 났다. 실존적 위협을 감지한 미국의 주요 담배 회사들은 단합하기 시작했다. 자신들이 파는 제품이 소비자들을 죽이고 있다는 [올바른] 인식이 커져가는 상황에 대응하고자 홍보 캠페인을 마련하기 위해서였다. 시장에서 담배의 대량 염가 판매가 이루어진 후 2주간 담배 업계 간부들은 뉴욕 플라자호텔에서 연이어 만났다. 그 자리에는 유명한 홍보회사 힐&놀튼(Hill&Knowlton)의 공동 창업자 중 한 명인 존 힐이 함께했으며, 확실한 사실과 과학적 결과들로 구성된 반대 행진을 꾸준히 이어갈 수 있는 언론 매체 전략을 수립하는 회의가 진행되었다.
《의혹을 팝니다》에서 오레스케스와 콘웨이가 적었듯, 담배 업계가 짠 혁신적인 새 전략(‘담배 전략 Tobacco Strategy’) 이면의 핵심 아이디어는 ‘과학과 싸우는 최선의 방법은 더 많은 과학’이었다. _3장, 135쪽

사회 분열을 조장하고 민주주의 제도를 약화시키는 것이 러시아의 목표였다는 주장은 러시아의 지원을 받은 단체들이 선거기간동안 소셜미디어를 이용한 방식을 통해서도 뒷받침된다. 트럼프 후보에게 힘을 실어주려고 했던 것 같지만, 그들이 겨냥했던 것은 잠재적인 트럼프 지지층이나 그 외 정치적 우파만은 아니었다. 러시아 단체들은 LGBTQ(성 소수자) 커뮤니티 구성원을 비롯해 흑인 민권운동 활동가, 총기 소유권 옹호론자, 열성적인 이민 반대론자, 심지어 동물 애호가에 이르기까지 다양한 집단에 영향력을 발휘하기 위해 다양한 성격, 목소리, 입장을 담아 정교하게 구성됐던 것으로 알려져 있다. _4장, 235쪽

거짓 신념이 사회적으로 확산되는 것을 최소화하려면 저널리스트들이 과학 및 전문가 의견에 관한 글을 쓸 때 다양한 기준에 맞출 필요가 있다. 앞에서도 주장했지만, 공정하려는 노력은 종종 대중이 보는 과학적 증거를 편향시킨다. 과학에서 소수 의견에 ‘공정한 조치 fair shake’를 부여하면 주변 요소들이나 전적으로 나쁜 행위자들에게 권한과 권력을 부여하는 일이 생길 수 있다. 그래서 저널리스트는 이용 가능한 증거의 표본을 편향되지 않게 대중에게 전달하고자 애써야 한다. 만일 흡연이 위험하지 않다는 연구 결과 1건과위험하다는 연구 결과 99건이 있다면 저널리스트는 흡연이 위험하지 않다고 생각하는 사람 1명당 위험하다고 생각하는 99명의 과학자들에게 연락을 취해야 한다. _4장, 251쪽