추가 적립 안내

거짓 정보는 우리 인간의 신념을 어떤 방식으로 조작하는가?

민주주의를 위협하는 가짜 뉴스의 시대, 우리는 민주주의를 지키기 위해 거짓된 정보에 대처해야만 한다. 『가짜 뉴스의 시대』는 우리가 올바른 신념을 갖고 견지하기에는 너무나도 취약하다는 사실을 일깨워주며, 우리의 신념이 어떻게 형성되고 거짓 정보는 이 과정에 어떤 방식으로 교묘하게 파고드는지, 그 작동 방식부터 이해할 수 있도록 도와준다.

두 저자는 모든 시민이 다양한 정보를 기반 삼아 신념을 형성하고 그 신념이 모여 민의가 형성되는 민주주의 구조 아래서 가짜 뉴스를 비롯한 거짓된 정보는 올바른 민의를 형성하는 데 치명적일 수밖에 없다고 이야기하며 가짜 뉴스를 비롯한 오염된 정보에 맞설 수 있는 여러 방안을 이 책은 제시한다.

담배 산업계의 선전 전략, 트럼프와 힐러리의 대선을 앞두고 쏟아졌던 가짜 뉴스들과 러시아의 개입, 기후변화를 둘러싼 양극화된 대립을 따라가며 가짜 뉴스가 우리 사회를 오염시키는 상황들을 생생하게 보여주고, 눈앞에 너무도 명확한 증거가 있음에도 불구하고 눈앞에 증거를 보고 있는 자신보다 자신이 신뢰하는 사람들의 판단을 신뢰하는 경향이 나타나면 순식간에 모든 사회적 연결망에 거짓인 신념이 확산될 수 있음을 보여준다.

이처럼 거짓 정보가 우리 인간의 신념을 어떤 방식으로 조작하는지 적나라하게 파고드는 이 책에서 저자들은 우리가 무엇을 믿는가는 우리가 누구와 알고 지내는가에 달려있다는 사실을 과학적 근거를 바탕으로 설득력 있게 풀어내고, 우리는 주변의 정보로 신념을 형성하고 그 신념이 모여 민의가 되는 민주주의에 이러한 오염된 진실은 그 근본을 흔들 수 있다는 사실을 자각해야 한다는 깨달음을 전한다.

● 거짓 정보는 어떻게 퍼져나갈까?
● 누군가에게는 말도 안 되는 루머가, 왜 어떤 이에게는 신념이 되는 걸까?
● 왜 많은 사람이 자신이 믿는 것이 정말 진실인지에는 관심이 없는 걸까?

“오염된 정보에 맞서기 위해서는
그 영향력이 작동하는 방식부터 이해해야 한다”

▼ 가짜 뉴스의 작동방식을 해부해 ‘실체적 진실’에 다가서다!
거짓 정보가 우리의 신념을 어떻게 오염시키는가에 관한 최초의 과학적 고찰

그야말로 가짜 뉴스의 시대다. 최근 정치권을 둘러싸고 불거진 논쟁은 결국 시민들로부터 가짜 뉴스 퇴출이란 열망을 불러냈다. 이는 우리나라만의 문제가 아니다. 트럼프 미국 대통령은 취임 당시부터 가짜 뉴스와의 전쟁을 선포했고, 각국 정부와 국제기구는 가짜뉴스에 대응하기 위한 로드맵을 마련하기 위해 분주하다. 가짜 뉴스는 이제 민주주의를 위협하고 있다. 모든 시민이 다양한 정보를 기반 삼아 신념을 형성하고 그 신념이 모여 민의가 형성되는 민주주의 구조 아래서, 가짜 뉴스를 비롯한 거짓된 정보는 올바른 민의를 형성하는 데 치명적일 수밖에 없다. 이제 우리는 민주주의를 지키기 위해 거짓된 정보에 대처해야만 한다. 이를 위해선 우리의 신념이 어떻게 형성되며 거짓 정보는 이 과정에 어떤 방식으로 교묘하게 파고드는지, 그 작동 방식부터 이해해야만 한다.

《가짜 뉴스의 시대》는 거짓 정보가 우리 인간의 신념을 어떤 방식으로 조작하는지 적나라하게 파고든다. 케일린 오코너와 제임스 웨더럴은 ‘당신이 무엇을 믿는가는 당신이 누구와 알고 지내는가에 달려있다’는 사실을 과학적 근거를 바탕으로 설득력 있게 풀어낸다. 이들은 거짓 신념이 퍼지는 이유를 이해하기 위해 개인의 심리보다는 사회적 요인들에 주목한다. 이들은 게임이론가이자 물리학자, 수리행동과학연구소 연구원으로 수학적 모형을 통해 사회적 관계망 속에서 우리가 신념을 어떻게 형성하고 갱신하는지 드러낸다. 생각을 공유하는 사람들의 집단을 닮은 프로그램은 그 집단 내 사람들의 학습에 영향을 미치는 요인을 분석해 거짓 정보가 우리의 신념을 얼마나 쉽게 오염시킬 수 있는지를 보여준다.

그 결과는 섣부른 짐작을 뛰어넘는다. 저자들의 진단에 따르면 ‘인간의 합리성’이라는 그림은 위험할 만큼 왜곡돼 있다. 자신이 속한 집단에서 주변인들에게 들은 정보를 아무리 합리적으로 해석해도 올바른 신념을 형성하는 데 실패할 수 있다. 아무리 합리적인 개인이 모여도 전혀 합리적이지 않은 집단을 형성될 수 있는 것이다. 담배 산업계의 선전 전략, 트럼프와 힐러리의 대선을 앞두고 쏟아졌던 가짜 뉴스들과 러시아의 개입, 기후변화를 둘러싼 양극화된 대립을 따라가다 보면 가짜 뉴스가 우리 사회를 오염시키는 상황이 현재진행형임이 여실히 드러난다.

《가짜 뉴스의 시대》는 우리가 올바른 신념을 갖고 견지하기에는 너무나도 취약하다는 사실을 일깨워준다. 이는 자연스레 어떤 정보로 누가 이득을 보는지, 우리가 더 예민해져야함을 방증한다. 자신도 모르게 누군가의 이익에 기여하는 선전가가 되고 싶은 사람은 없다. 복잡한 정보망에 숨어있는 각종 가짜 뉴스와 음모, 유언비어와 괴담에 어떤 의도가 숨어있는지 한 번 더 의심해야만 한다. 수많은 정보의 진위를 파악하기에 인간의 한계는 명확하다. 그럼에도 이 책이 말하고 있는 신념의 작동방식, 조작의 도구들을 이해할 때 우리는 거짓된 믿음을 거부할 첫 걸음을 내딛을 수 있을 것이다.

“가짜 뉴스와 네트워크가 한데 뒤엉켜 세상을 어떻게 바꿔놓고 있는지 보여주는시의적절하고 매력적인 서사.”
- 앨버트 라슬로 바라바시, 《링크 Linked : 21세기를 지배하는 네트워크 과학》 저자

“정보가 무기가 되어버린 시대에 꼭 필요한 책.”
- 조지 머서, 〈사이언티픽 아메리칸 Scientific American〉 편집자

“증거, 사실 그리고 무엇보다도 진실을 지키는 데 결정적인 철학적 실마리를 제시한다.”
- 앨런 M. 브랜트, 《담배의 세기 Cigarette Century》 저자

“전염병처럼 퍼지는 가짜 뉴스에 대처하기 위해 무엇을 할 수 있는지에 관한 최고의 책.”
- 존 호건, 스티븐스공과대학 과학저술센터장

▼ 누군가에게는 말도 안 되는 이야기가, 왜 어떤 이에게는 신념이 되는 걸까?

우리는 ‘내일도 태양은 뜬다’라고 말할 수 있을까? 데이비드 흄은 ‘아니오’라고 단호하게 대답한다. 매일 뜨는 태양도 언젠가는 팽창해 지구를 집어삼킬 것이다. 우리가 알고자 하는 대상의 모든 것을 경험해볼 수 없기에 모든 추론은 틀릴 가능성이 있다. 이를 ‘귀납의 문제’라 부른다. 그럼에도 우리가 확보할 수 있는 최선의 증거를 바탕으로 신념을 갖는 것이 게 무의미한 것은 아니다. 우리가 진실이라 믿는 것들은 지금까지 세상이 진보하는 데 확실한 공을 세워왔기 때문이다. 확실성에 대한 요구들은 무시하고 중심을 잡는 것이다. 흄이 말했듯 ‘현명한 사람은 자신의 신념을 증거에 조화시킨다’.

이러한 전제를 바탕으로 저자는 증거와 신념의 관계를 나타내는 베이즈 정리 모형을 제시한다. 베이즈 정리에 따르면 조건에 따른 확률을 고려해 신념을 갱신할 수 있다. 예컨대 증거로 인해 A라는 결과가 나타날 확률이 50% 이상이라면 우리는 A가 참이라 믿을 수 있는 것이다. 이 모형을 바탕으로 삼은 다양한 모형들과 변수를 들면서 저자는 우리 신념이 변할 수 있는 다양한 가능성을 증명한다.

그 가능성 중 하나가 동조 편향이다. 예시를 들어보자. 첫 백악관 기자회견에서 당시 트럼프 행정부의 대변인은 “트럼프 대통령이 취임식에서 사상 최대 규모의 청중을 맞았다”고 발표했다. 그러나 지하철 승객 수와 상공에서 찍은 사진들로 추정한 청중 수는 사상 최대가 아니었다. 이를 두고 연구한 한 학자는 약 14,000명의 미국 성인들에게 도널드 트럼프와 버락 오바마의 취임식에 참석한 군중의 사진을 나란히 보여주고 어느 쪽 사진에 사람이 더 많냐고 물었다. 놀랍게도 트럼프의 지지자들 가운데 15%는 한눈에 보기에도 확연히 적은 트럼프 쪽 사진을 선택했다. 그들은 눈앞에 있는 뚜렷한 증거를 무시하고 트럼프 정부 대변인의 의견에 동의했던 것이다.

동조 편향 때문에 잘못된 신념을 형성한 사례다. 우리는 증거를 기반해 신념을 형성한다. 하지만 눈앞에 너무도 명확한 증거가 있음에도 불구하고, 여기에 눈앞에 증거를 보고 있는 자신보다 자신이 신뢰하는 사람들의 판단을 신뢰하는 경향이 나타나면 순식간에 모든 사회적 연결망에 거짓인 신념이 확산될 수 있다.

▼ 신념을 조작하는 선전가의 교활한 도구들

1952년 12월, 미국 월간지 〈리더스 다이제스트〉에 ‘한 갑씩의 암’이라는 제목의 글이 실렸다. 여기엔 흡연과 폐암의 연관성에 대한 증거를 담겨 있었다. 논조는 거침이 없었다. 1920년부터 1948년까지 폐암으로 인한 사망이 10배 증가했으며, 45세 이상의 흡연자 집단에서는 폐암의 발병 위험성이 피운 담배 개비 수와 비례해 증가한다고 주장했다. 흡연률이 ‘엄청 나게 증가’하고 있기 때문에 폐암은 곧 인류가 걸리는 암 가운데 가장 흔한 암이 될 것이라는 의학 연구자의 말도 인용했다. 이 기사는 담배 업계에는 사형 선고와 마찬가지였다. 그들은 이러한 증거를 뒤집거나 논점을 바꾸는 전략에 착수했다. 담배와 폐암의 연관성을 연구하는 과학자들에게 담배 업계의 선전가들이 접근하기 시작했다.

담배연구소는 단체가 뉴스레터 〈담배와 건강〉을 정기적으로 발간하면서 흡연과 폐암 사이에는 아무런 연관이 없음을 보여주는 연구 내용을 퍼뜨리기 시작했다. 흡연의 위험성에 관한 과학적 증거에 흠집을 내는 것이 목적이었다. 담배의 타르 성분이 쥐의 몸에 피부암을 유발했다는 연구에 대응해 〈담배와 건강〉은 같은 팀이 진행한, 암 발병률이 더 낮게 나타난 연구들을 지적했다. 이 뉴스레터는 실제로 담배 성분의 암 유발 사례를 보고한 연구가 몇 건이나 있었는지는 언급하지 않은 채 ‘5건의 담배-동물 연구에서 암 유발 사례가 없었음’ 같은 헤드라인을 내걸었다.

이러한 전략에서 선전가는 과학적 과정에 전혀 개입하지 않는다. 과학자들을 매수하지도 않고 과학적 연구에 기금을 대지도 않는다. 다만 우연히 오답을 낸, 연구 결과들만 취해 대중과 정책 입안자들에게 보낼 뿐이다. 과학이 작동하는 방식에서 대중이 오해하고 있는 면을 활용한 전략이었다. 우리는 대개 개별적인 과학 연구들이 하나의 가설에 대한 증거 또는 확증을 제시한다고 생각한다. 그러나 과학은 이런 이상과는 거리가 멀며, 어떤 연구든 잘못된 결과를 동반한다. 거대 담배 업계는 이 사실을 자신들의 입맛에 맞게 이용한 것이다. 이것이 선전가의 ‘선택적 공유’ 전략이다. 선전가는 과학계에서 산출해낸 결과들을 뒤져 본 뒤 자신들의 의제를 지지하는 결과들만 널리 알려 결국 정책 입안자들이 잘못된 신념을 갖도록 유도한다.

▼ 가짜 뉴스의 시대에 우리는 어떻게 대처해야 하는가

저자는 이제 ‘사상의 시장(marketplace of ideas)’이 거짓 정보를 효과적으로 골라낼 수 있다는 생각을 버려야 한다고 말한다. 중요한 것은 권력을 가진 이들이 언론에 의도적인 영향력을 행사해 대중에게 실질적인 해를 가할 수 있다는 사실을 깨닫는 것이다. 근거 없는 견해를 옹호하는 것은 단지 이상적인 ‘시장’에 무해한 무엇인가를 더하는 일이 아니라 시장 전체를 망가뜨릴 수 있는 잘못된 일로 여겨져야 한다.

그 방법 중 하나로 저자는 과학계가 위조된 연구 결과가 나올 가능성을 줄이는 공표(publication) 규범을 제안한다. 과학자들은 연구 결과를 공표할 때 그 안에 내재된 위험성도 고려해야 하며 자신이 수행한 연구의 사회적 결과와 이를 공표함으로써 얻는 이득을 저울질해보아야 하는 것이다. 과학자의 임무는 단지 과학을 하는 것이 아니다. 사회적으로 민감한 연구일 경우 최소한 그 결과의 공표를 선택하기 전에 특별히 높은 기준에 결과를 맞출 책임이 있다. 특히 산업계의 선전가들이 활동하는 분야에서 연구 결과를 공표한다면 사회에 미칠 위험성이 높기 때문에 과학자들은 의사결정을 할 때 반드시 그 결과를 고려해야만 한다.

이밖에도 가짜 뉴스를 비롯한 오염된 정보에 맞설 수 있는 여러 방안을 이 책은 제시한다. 하지만 이러한 규제들이 정보의 조작을 일삼는 사람들보다 앞서서 그들의 모든 의도를 통제하기에는 절대 녹록치 않으리라는 사실도 고백한다. 결국 우리는 주변의 정보로 신념을 형성하고 그 신념이 모여 민의가 되는 민주주의에 이러한 ‘오염된 진실’은 그 근본을 흔들 수 있다는 사실을 자각해야 한다. 저자는 이러한 자각이 어쩌면 민주주의의 새로운 메커니즘에 대한 고민으로 향할 수 있다는 근원적 질문을 독자에게 던지며 끝을 맺는다.

서문. 타타르의 식물성 양
제1장. 진실이란 무엇인가?
제2장. 양극화와 동조
제3장. 인류의 복음화
제4장. 사회적 연결망
미주
참고문헌
찾아보기

궁극적으로 의사결정을 할 때 과학 지식에 의존하는 이유는 과학자들이 합리성rationality이라는 정상에 올라서서 변하지 않을 진리를 말하는 성직자 같은 존재여서가 아니다. 그보다는, 동원할 수 있는 모든 증거를 조직적으로 수집하고 평가하는 데 과학자들이 최상의 위치에 있기 때문이다. 자세히 말하면, 환경에 관한 문제, 각종 약물과 의약품의 안전성과 효용성, 신기술에 부수적으로 따르는 위험 등 대중이 궁금해하는 사안들에 대해 과학자들의 견해가 특별 대우를 받는 것은 과학자들의 권위 때문이 아니라 그들의 견해 자체가 인간이 현재 확보할 수 있는 최상의 증거를 기반으로 한 것이기 때문이다. _1장, 64쪽

양극화의 대표적 현상 중 하나는 어느 사안에 관한 논쟁이 진전될수록 사람들이 합의에 근접하기보다는 양측으로 더 멀어져 가는 것이다. 정치적 양극화의 사례들을 보면 의견이 다른 사람들 사이에 도덕적 불신이 싹트고, 때로는 스티브 스컬리스를 향한 총격이나 헤더 하이어의 사망 같은 폭력 사태로까지 이어지기도 한다.
만성라임병의 경우도 마찬가지다. 마치 정치적 신념을 두고 공동체가 갈리듯이 과학계 역시 일련의 과학적 신념들을 두고 양극화되었다. 여기서도 상황은 폭력적인 위협으로 치달았다. _2장, 100쪽

담배 업계에서는 난리가 났다. 실존적 위협을 감지한 미국의 주요 담배 회사들은 단합하기 시작했다. 자신들이 파는 제품이 소비자들을 죽이고 있다는 [올바른] 인식이 커져가는 상황에 대응하고자 홍보 캠페인을 마련하기 위해서였다. 시장에서 담배의 대량 염가 판매가 이루어진 후 2주간 담배 업계 간부들은 뉴욕 플라자호텔에서 연이어 만났다. 그 자리에는 유명한 홍보회사 힐&놀튼Hill&Knowlton의 공동 창업자 중 한 명인 존 힐이 함께했으며, 확실한 사실과 과학적 결과들로 구성된 반대 행진을 꾸준히 이어갈 수 있는 언론 매체 전략을 수립하는 회의가 진행되었다.
《의혹을 팝니다》에서 오레스케스와 콘웨이가 적었듯, 담배 업계가 짠 혁신적인 새 전략(‘담배 전략 Tobacco Strategy’) 이면의 핵심 아이디어는 ‘과학과 싸우는 최선의 방법은 더 많은 과학’이었다. _3장, 135쪽

담배 전략은 다양한 방식으로 전개되었지만, TIRC 및 유사 집단들이 과학을 활용해 과학에 맞서 싸우는 특정 방식이 몇 가지 있었다. 첫 번째는 ‘편향된 산출 biased production’이라는 전술이다. 뻔해 보일 법한 이 전략에는 연구 자금 지원이 포함되며, 경우에 따라서는 업계가 연구를 후원한다. 이런 방식으로 산업계의 영향력이 연구 성과를 통제하게 되면 무엇을 공표하고 무엇을 폐기 또는 무시할지 그들이 선택할 수 있고, 업계의 입맛에 맞는 결과들이 나오게 된다.
담배 회사들은 TIRC 설립 이후 그렇게 할 수 있는 연구에 막대한 투자를 했다. 자체 추산에 따르면 1986년까지 이들은 1억 3,000만 달러가 넘는 돈을 쏟아부어 관련 연구를 후원했으며, 그 결과 2,600편의 연구 논문을 게재할 수 있었다. _3장, 147-148쪽

가짜 뉴스는 특히 미국에서 역사가 길다. 예를 들면, 미국의 독립혁명 직전과 직후 수십 년간 온갖 당파들은 소책자들을 통해 상대편을 공격했는데, 그 소책자들은 의심스러운 주장과 노골적인 거짓말 등 악의적인 내용으로 가득 채워질 때가 많았다. 마찬가지로, 가짜 뉴스는 스페인과 미국 간에 전쟁을 촉발한 것으로 보인다. USS 메인Maine호(1898년에 쿠바가 스페인에 저항하며 봉기하자 미국이 자국 이익을 지키기 위해 아바나에 파견했던 미국 전함)가 아바나항에서 알 수 없는 이유로 폭발한 뒤 몇몇 미국 신문에서는 폭발의 책임을 스페인 측에 돌리며 보복전을 요구하는 자극적인 기사들을 싣기 시작했다. 그중 〈뉴욕 월드New York World〉나 〈뉴욕 저널New York Journal〉이 가장 두드러졌다(그 당시는 물론이고 지금까지도 메인호의 폭발 원인에 대해서는 논란의 소지가 있지만 스페인이 연관돼 있다는 구체적 증거는 나온 바 없다). 종국에 미국 정부는 쿠바를 포기하든가 아니면 전쟁을 불사하라는 최후통첩을 스페인에 보냈다. 어느 정도는 뉴스 매체들의 압력에 떠밀린 면도 있었다. 이에 스페인은 미국을 상대로 전쟁을 선포했다. 그리고 스페인은 석 달이 못 가 강화講和를 요청했다. _4장, 212쪽

이런 종류의 편향은 대중과 공유되는 증거를 적극적으로 편향시키려는 사람이 없어도 일어날 수 있다. 증거를 선택적으로 유포하는 메커니즘만으로도 충분하기 때문이다.
저널리스트들이 새롭고, 놀랍고, 서로 상충하는 이야기들, 즉 사람들의 이목을 끌고, 사람들 사이에 논란을 일으키며, 널리 읽히고 공유될 법한 이야기에만 관심을 가질 때 이런 사태가 발생한다. 저널리스트들이 흥미진진하다고 여기거나 독자들이 흥미로워할 내용을 공유할 때, 설령 실제 사건에 대해서만 보도할지라도, 그들은 대중이 한쪽 방향만 보게 만들어 궁극적으로는 잘못된 방향으로 이끌 수 있다. _4장, 218쪽