추가 적립 안내

왜 기술이 발전할수록 인간은 무능해지는가?

스마트폰을 안 가져온 날, 당신의 모습을 어떠한가? 네비게이션이 제대로 작동하지 않은 날, 당신의 모습은 어떠한가? 지난 10여 년간 디지털 기기에 종속된 인간의 사고방식과 삶을 끊임없이 성찰한 세계적 디지털 사상가 니콜라스 카는 디지털 기술의 편리함 뒤에 숨겨진 불편한 진실을 폭로한다. 생각하지 않고, 말하지 않고, 움직이지 않아도 되는 디지털 시대, 우리에 어떤 일이 벌어진 걸까?

검색 엔진으로 대표되는 인터넷 환경이 어떻게 우리의 집중력과 사고 능력을 떨어뜨리는지 조명했던 전작 《생각하지 않는 사람들》에 이어, 이 책은 컴퓨터와 소프트웨어 등을 통해 가속화되고 있는 자동화가 인간의 삶을 어떻게 바꾸고 있는지 파헤친다. 디지털 기기에 종속된 인간의 사고방식이 어떻게 변화해왔는지 문학과 예술, 심리학, 신경과학, 사회학 등 온갖 분야와 다양한 사례를 근거로 제시한다.

★ 세계적 디지털 사상가 니콜라스 카 4년 만의 신작!
★ 2014년 9월, 전 세계 동시 출간!

세계적 디지털 사상가 니콜라스 카
기술 맹신에 빠진 인류에게 던지는 날카로운 경고

“기술이 준 편리한 삶은 우리를 가둬두는 감옥이 될 수 있다!”

자동화 테크놀로지 시대, 우리의 삶은 더 풍요로워졌는가?
우리는 직장이나 가정에서 더 적게 일하고, 더 편하게 일상생활을 영위하기 위해서 컴퓨터에 의존한다. 어떤 일을 하기 위해 컴퓨터 모니터 앞에 앉고, 랩톱을 켜고, 스마트폰을 꺼내고, 이마나 손목에 찬 인터넷이 연결된 액세서리를 활용한다. 그밖에 디지털 스크린의 도움을 받거나 디지털화된 목소리로부터 직접 조언을 듣기도 한다. 기술의 자동화로 우리의 생활은 더 편리해졌고, 잡다한 일에 대한 부담은 줄어들었다. 제한된 시간에 더 많은 일을 하거나, 또는 과거에는 할 수 없었던 일도 할 수 있게 되었다. 우리의 일상을 기계가 대신하는 자동화 테크놀로지 시대에 삶은 편리해졌지만, 과연 인간다운 삶을 살고 있을까?
자동화 시대에 길들여진 우리 모두에게 세계적 디지털 사상가인 니콜라스 카는 날카로운 질문을 던진다. “왜 기술이 발전할수록 인간은 무능해지는가?” 전작 《생각하지 않는 사람들》이 검색 엔진으로 대표되는 인터넷 환경이 어떻게 우리의 집중력과 사고 능력을 떨어뜨리는지 조명했다면, 이 책은 컴퓨터와 소프트웨어 등을 통해 가속화되고 있는 자동화가 인간의 삶을 어떻게 바꾸고 있는지 파헤친다. 디지털 기기에 종속된 인간의 사고방식이 어떻게 변화해왔는지 문학과 예술, 심리학, 신경과학, 사회학 등 온갖 분야와 다양한 사례를 근거로 제시한다. 저자의 날카로운 통찰과 질문은 이제껏 경험을 통해 알고 있었지만 애써 외면해온 불편한 진실과 조우하게 한다. 스마트폰이 없으면 아무 일도 하지 못하고, 내비게이션이 없이 운전하지 못하는 우리 모두에게 필요한 책이다.

디지털 기기에 갇힌 삶
니콜라스 카는 인터넷, 인공지능, 웨어러블 디바이스, 빅데이터 등을 통해 점점 가속화되고 있는 자동화가 인간의 삶을 황폐하게 만들고 있다고 지적한다. 스마트폰, 내비게이션, 로봇 청소기처럼 일상생활 속 기기는 물론 의료, 항공, 전쟁 등 우리 사회 전체를 뒤덮은 자동화의 이면을 똑바로 봐야 한다고 말한다.
지금까지 컴퓨터의 능력을 평가할 때 알고리즘화의 가능성 여부를 기준으로 삼았다. 알고리즘화 할 수 있는 형식지는 컴퓨터로 하여금 대신 수행하게 할 수 있지만, 암묵지는 그럴 수 없다고 여겼다. 암묵적 지식은 학습과 경험을 통해 체화되고 어느 시점에 이르면 일부러 생각하지 않고도 할 수 있는 일들을 가리킨다. 상황에 대한 인식과 신속한 판단 능력은 이러한 암묵적 지식의 영역에 속한다. 반면 형식지는 정확한 형태의 명령어 집합이기 때문에 암묵지와 달리 문서나 매뉴얼로 정리할 수 있다. 전문가들은 지금까지 컴퓨터가 형식지에 의존하는 기술을 복제할 수는 있어도 암묵지에 해당하는 기술에는 그다지 능숙하지 않다고 가정해왔다. 과연 그럴까? 아래의 자동화 사례들은 이러한 주장의 설득력을 약화시킨다.

소프트웨어가 운전하는 자동차
2010년 10월 9일, 구글의 로봇 기술자 세바스찬 스런은 자신의 블로그를 통해 특별한 발표를 했다. 구글이 ‘스스로 운전할 수 있는 자동차들’을 개발했다는 것이다. 레이더와 수중 음파 탐색기인 소나 송신기, 동작 탐지기, 비디오카메라, 위성 위치 확인 시스템 수신기를 장착한 구글의 무인 자동차는 주변 상황을 세세하게 감지하고 운행 위치를 파악할 수 있다. 또 운전자들이 실제 도로 주행 시 접하는 수많은 돌발 상황에 유연하게 대처할 수 있다. 문제는 무인 자동차가 접하게 될 수많은 법적, 문화적, 윤리적 문제들이다. 예를 들어 소프트웨어가 조종하는 자동차가 사고를 일으켜 사상자가 발생했다면, 이러한 과실에 대한 책임은 누구에게 있을까? 자동차의 소유자에게 있을까, 소프트웨어를 만든 프로그래머들에게 있을까? 예상치보다 훨씬 더 복잡한 인간 세상에서 컴퓨터는 과연 인간의 모든 결정을 대신할 수 있을까?

조종사가 없는 비행기
2013년 미국연방항공국(FAA)은 항공사들에 일제히 안내문을 발송했다. 내용은 ‘적절한 때에 조종사들에게 수동 비행을 홍보할 것을 권장한다’라는 것이었다. FAA는 조종사들이 자동조종장치에 과도하게 의존할 경우 비행기를 비정상적 상태에서 신속히 원상태로 돌려놓을 수 있는 능력이 저하될 수 있다고 경고했다. 2009년 콜건항공 소곡의 여객기 Q400의 추락 사고는 그 대표적인 사례다. 비행기의 추락 위험을 알리는 실속 경고에 조종사들은 적절히 대응하지 못했다. 자동조종이 중단된 조종간을 제대로 컨트롤하지 못했고, 통제력을 잃은 비행기는 지상으로 곤두박질쳤다. 같은 해 일어난 에어프랑스의 에어버스 A330기 추락 사고 역시 실속 상태에 빠진 비행기를 제대로 수동 조종하지 못한 조종사들의 과실로 인해 벌어졌다. A330기는 대서양 한복판에 떨어졌고, 승무원과 탑승객 228명 전원이 사망했다. 과연 무엇이 조종사들의 조종 능력과 대처 능력을 빼앗아갔을까?

모니터와 대화하는 의사들
의료업계도 자동화의 영향을 피해가기 어려웠다. 1990년대 후반부터 방사선 전문의들은 유방 촬영술이나 엑스레이 상 의심스런 부위를 확인해주는 컴퓨터 지원 감지 시스템을 사용하기 시작했다. 스캔된 디지털 이미지를 컴퓨터에 입력하면, 검사가 필요한 부분들을 자동으로 알려준다. 이런 표시들은 의사들이 놓칠 수 있는 암 발병 가능성을 찾게 해준다. 하지만 소프트웨어의 지시 때문에 편향에 사로잡힌 의사들은 초기 단계의 종양이나 다른 비정상적 징후들을 간과하는 실수를 저질렀다. 이미지 내에 표시가 안 된 부분들을 건성으로 보게 되면서, 오히려 소프트웨어가 의사들의 판독 능력을 저해한 것이다.
미국은 10여 년 전부터 전자의료기록의 자동화를 추진하기 시작했다. 병원과 의사들이 진료 기록 작성을 자동화할 경우 건강관리 시스템에 들어가는 810억 달러를 절감하고, 치료 수준도 높일 수 있다는 이유 때문이었다. 조지 부시, 오바마 대통령과 정부는 자동화 시스템 구입을 장려하기 위해 수백 만 달러의 보조금을 풀었다. 그러나 진료 기록의 자동화가 건강관리 비용을 크게 줄여줬다거나 환자들의 육체적 정신적 건강을 개선했다는 증거는 어디에도 없다. 오히려 의사와 환자 사이에 컴퓨터 스크린을 집어넣음으로써 그들 사이의 거리를 더 벌려놓았으며, 환자들에 대한 의사의 정확한 진단을 방해하고 있다.

살인 로봇, 드론
미국의 국방부는 전쟁터에서 생사와 관련된 결정을 내릴 권한을 기계에게 넘겨주는 방법과 그로 인한 결과를 연구해왔다. 프레데터(Predator)와 리퍼(Reaper) 같은 무인 드론(사람이 타지 않고 무선전파의 유도에 의해서 비행하는 비행기)에 의한 미사일과 폭격 공격은 이 분야의 격렬한 논쟁거리다. 찬성론자들은 드론이 보병과 조종사들을 위험으로부터 보호해주고, 정확한 공격을 통해서 전통적인 전투와 폭격으로 인해 생기는 희생자들과 피해를 줄여주는 효과를 낸다고 지적한다. 반면에 반대론자들은 드론의 폭력을 국가가 후원하는 암살 행위로 간주한다. 그들은 드론 폭격으로 인해서 민간인 사상자가 자주 발생한다는 사실을 지적한다. 현재 드론이 스스로 비행하고 정찰 임무를 수행할 수 있지만, 무기 발사 결정은 컴퓨터 앞에 앉아서 현장 상황을 실시간으로 감시하는 군인들이 내린다. 이 군인들은 또한 상관이 내린 엄격한 명령에 따라서 움직인다. 하지만 머지않아 컴퓨터가 방아쇠를 당기는 시기가 온다면, 과연 어떤 일이 벌어질까?

누구를 위한 자동화인가
자율형 자동차, 살인 로봇 등의 사례는 결코 먼 미래가 아니다. 구글의 무인 자동차는 실제로 50만 마일이 넘는 거리를 주행했으며, 기술적 문제들이 남아 있긴 하지만 10년 내에 상용화될 것이라는 낙관적인 견해도 있다. 또 기술적으로만 따지면 100퍼센트 자동화되고 컴퓨터가 통제하는 살인 기계를 제작할 수 있다. 인간의 삶 깊숙이 파고든 자동화의 향방은 우리에게 중요하지만 불안한 질문을 던진다. “소프트웨어는 수많은 변수들을 헤아려 가장 옳은 선택을 할 수 있을까?” 편리하다는 이유로 기계에 모든 통제권과 선택권을 넘긴다면, 우리는 과연 무엇을 할 수 있을까?
인간 요인 전문가들은 지금까지의 기술 제1주의에서 벗어나 ‘인간 중심의 자동화’를 추구해야 한다고 말한다. 인간 중심의 기술은 기계의 능력에 대한 판단이 아니라 기계를 조작하고 그것과 상호작용하게 될 인간이 가진 장점과 한계를 면밀히 평가하는 일에서부터 출발한다. 이러한 접근 방식의 가장 흥미로운 사례는 ‘적응형 자동화’다. 이 시스템에서 컴퓨터는 조작자인 인간의 행동을 예의 주시하도록 프로그램된다. 예를 들어 조작자가 까다로운 일을 처리해야 한다는 것을 감지한 컴퓨터는 그 외의 다른 일들을 처리해줄 수 있다. 이로 인해 다른 신경 쓸 일들이 사라진 조작자는 그 까다로운 일에 백 퍼센트 집중할 수 있게 된다. 그 외의 일상적인 상황에서 컴퓨터는 더 많은 일을 맡김으로써 조작자가 현재 상황을 인식하고, 갖고 있는 기술을 연마할 수 있도록 업무 부담을 늘려줄 것이다.
적응형 자동화는 컴퓨터가 가진 분석 능력을 인간적으로 사용할 수 있게 해줌으로써 인간이 인지 과부화 또는 저부화에 빠지지 않도록 한다. 아무리 고도로 자동화된 시스템이라도 여전히 인간이라는 조작자의 개입이 요구되는 한, 인간과 기계 사이의 소통과 조율은 반드시 필요하다.

몸은 세상을 이해하는 가장 좋은 도구다
니콜라스 카가 자동화 테크놀로지에 대해 비판적인 좀 더 근본적인 이유는 그것이 우리의 삶에서 중요한 무엇인가를 빼앗아가기 때문이다. 사회심리학자들의 연구에 따르면, 인간의 행복과 만족감은 실제로 세상에서 무언가 의미 있는 일을 직접 할 때 얻을 수 있다고 한다. 그런데 우리의 주의 집중이 온통 컴퓨터 스크린과 스마트폰 액정에 향하는 순간 세상과 동떨어지게 되고, 그것이 삶의 행복과도 멀어지는 영향을 준다는 것이다.

사실은 노동이 알고 있는 제일 달콤한 꿈이다.

프로스트의 시 《풀베기》의 한 구절은 삶을 능동적으로 살고 또 앎을 추구하기 위해서 행동하는 것이 얼마나 중요한지 깨닫게 한다. 이 시에서 프로스트는 뜨겁고 조용한 여름날에 힘들게 일하는 농부가 되어 낫을 들고 풀을 베는 노동에 대해 얘기한다. 풀을 베는 행위에 온전히 몰입할 때, 세상과 진정으로 소통하게 된다고 말한다. 육체와 정신 중 어떤 것이건 노동은 일을 해내는 방법 이상의 의미를 갖는다. 노동은 사색의 과정이며, 세상을 유리가 아니라 직접 대면하는 방법이라는 것이다.
몸이나 머리를 사용하는 일을 할 때 우리는 보통 실질적이고 가시적인 목표를 정해놓는다. 이때 우리는 자신이 한 일의 결과에 예의주시하게 된다. 하지만 결국 내가 처한 상황을 더 깊이 이해하게 되는 건 그 일 자체를 통해서다. 풀을 베고 난 뒤에 남은 건초더미가 아니라 풀베기라는 행위가 가장 중요한 것이다. 반복된 일상이 주는 안정감, 땀 흘린 노동이 주는 만족감, 훈련과 연습이 주는 몰입감, 노력한 결과가 가져다주는 보람, 몸을 움직이고 열심히 무언가를 나르는 삶이 주는 행복감을 우리는 잃게 될지도 모른다. 우리가 하던 일을 기술에 모두 맡길 때, 이러한 감정들 대신 디지털 문명이 주는 공허함으로 채우게 될지도 모른다.

스크린이 아닌 세상과 마주보라
기술은 우리에게 삶에서 무엇이 중요한지, 또 인간이란 무엇인지 생각해보게 한다. 100여 년 전 프로스트가 이야기했듯이 인간을 인간답게 만드는 것은 ‘일’이다. 하지만 자동화는 수단과 목적을 분리한다. 우리가 원하는 것을 더 쉽게 얻도록 해주지만, 내가 누구인지 자기 자신을 알아가는 과정을 차단한다. 스크린의 피조물로 전락하지 않기 위해서는 스스로에게 질문을 던져야 한다. “나는 기술의 주인인가, 노예인가?”
신중하게 사용한다면 기술은 단순한 생산이나 소비 수단 이상의 의미를 갖는다. 기술은 경험의 수단이 되고, 우리에게 풍부하고 참여적인 삶을 살 수 있는 더 많은 방법을 알려준다. 테크놀로지의 사용자이자 제작자로서 우리는 기술을 지금보다 인간답게 만들 필요가 있다. 그리고 자동화 맹신의 대가로 빼앗긴 삶의 행복감과 만족감을 되찾아야 한다.
각종 테크놀로지 도구들을 단순한 생산 수단이 아닌 우리 자신의 일부이자 경험의 수단으로 복귀시킴으로써 서로 균형과 조화를 이룰 때, 기술은 우리에게 디지털 시대에서 누릴 수 있는 진정한 자유를 제공해줄 것이다.

추천의 글

로봇이 노동을 대체해버린 자동화 시대에 당신의 ‘삶의 질’은 더 높아졌냐고, 죽비로 뒤통수를 치듯 따져 묻는 책이 때마침 출간됐다. 잠시라도 손에서 스마트폰을 놓으면 불안해하는 당신이 꼭 읽어야 할 책이다.
-정재승 KAIST 바이오및뇌공학과 교수

우리는 기술 자체가 목적이 된 우울한 시대를 살고 있다. 기술의 편의성 뒤에 가려진 위험성을 망각한 채 인간 중심의 기술 발달을 고민하지 않는다면 자동화 시대의 우울은 더 깊어질 수밖에 없다.
-정기영 삼성경제연구소 소장

컴퓨터는 무어의 법칙에 따라 빠르게 진화하지만 다윈의 법칙을 따르는 인간의 진화 속도는 더디기만 하다. 저자는 뒤처져 있는 우리에게 묻는다. 그럼에도 불구하고 기술의 노예가 될 것인가, 주인이 될 것인가?
-김상헌 네이버 대표이사

기술이 준 혜택을 누리면서 유리감옥에서 벗어날 수 있는 방법은 없을까? 니콜라스 카는 기술을 인간답게 만들고, 자동화 맹신에 빠지지 않도록 냉혹한 칼날을 겨눠야 한다고 일침을 가한다. 디지털 시대에 사는 우리들이 반드시 읽어야 할 필독서다.
-이성규 유암코 사장

절제된 객관성을 바탕으로 썼지만 어떤 공상과학 스릴러만큼이나 섬뜩한 책이다.
-미하이 칙센트미하이,《 몰입의 즐거움》저자

니콜라스 카는 가장 해박하고 똑똑한 기술 비평가다. 그가 갈구하는 인간 중심적인 기술의 미래는 당신이 실제로 살고 싶다고 생각하는 미래다.
-케빈 켈리, 《기술의 충격》저자

압도적이고 매력적이면서 유익한 이 책에서 카는 기술이 우리의 생활방식과 우리가 존재하는 세상을 어떻게 바꿔놓고 있는지 묘사한다.
-[퍼블리셔스위클리]

책속으로 추가

개썰매 대신에 설상차를 타고 다니기 시작했던 이누이트 족 사냥꾼들은 길을 찾기 위해서 컴퓨터로 제작된 지도와 방향에 의존하기 시작했다. 어린 이누이트 족들은 특히 신기술 사용에 관심이 많았다. 과거에 어린 사냥꾼들은 길 찾기 기술을 익히기 위해서 오랫동안 어른들로부터 힘든 훈련을 참아내며 받아야 했다. 그런데 이제 저렴한 GPS 수신기를 구입하면 이런 훈련을 받지 않아도 됐고, 수신기에 의존해 길을 찾아다닐 수 있었다. (......) GPS 기기를 사용하는 이누이트 족이 늘어나면서 사냥 도중 심각한 사고가 일어나서 사상자가 발생했다는 이야기들이 퍼지기 시작했다. 사고는 종종 위성에 과도하게 의존하다가 일어난 것으로 파악됐다. GPS 수신기가 고장이 나거나 배터리가 얼어붙을 경우, 강력한 길 찾기 기술을 개발한 적 없는 사냥꾼들은 아무런 특징이 없는 황무지에서 쉽게 길을 잃고, 무방비 상태로 당할 수 있다. p.189

구글은 글래스가 내세운 야망 중에 가장 위대한 야망을 성취할 것이다. 바로 머릿속에 정보의 흐름이 자동적으로 흘러들어 가게 만드는 것이다. 구글 서제스트의 자동 완성 기능은 잊어라! 브린은 동료인 레이 커즈와일의 말을 반복하며, 이마 위에 글래스를 끼운 이상 사람들은 더 이상 인터넷을 검색하지 않아도 될 것이라면서 “질문을 만들거나 검색 결과들을 뒤지거나 링크의 자취들을 따라갈 필요가 없어질 것이다. 필요한 정보는 늘 얻을 수 있을 것이다”라고 말했다. 컴퓨터의 편재성에 전지全知가 첨가된다는 것이다. p.294

2013년〈사이언스〉지에 실린 설치류에 대한 연구 결과를 보면, 동물들이 실제 세상에서 길을 찾아다닐 때보다 컴퓨터가 인위적으로 만든 환경 속에서 길을 찾아다닐 때 뇌의 장소 세포들은 훨씬 덜 활성화됐다. UCLA의 신경물리학자인 마양크 메타는 “뉴런들의 절반이 비활성화됐다”라고 말했다. 그는 이처럼 정신 활동이 둔화된 이유는 “디지털 시뮬레이션 공간 속에서 장소에 대한 단서를 제공해주는 주변 환경의 냄새, 소리, 감촉 같은 ‘근접한 단서들’이 부족해서 일어난 결과일 수 있다”라고 믿었다. p.322

추천의 글 _자동화 테크놀로지 시대, 우리의 삶은 더욱 풍성해졌는가?
머리글 _자동화 맹신에 던지는 경고

1장. 승객, 자동화에 빠진 사람들
스스로 운전할 수 있는 자동차
내 자동차의 승객이 된다는 것
희망 오류에 빠지다
자동화의 농간

2장. 문 앞에 서 있는 로봇
낯선 창조물을 둘러싼 갈등
기술 유토피아의 도래
기계와 일자리를 경쟁하다
누름 버튼 통제의 힘
어디에나 있는 로봇

3장. 자동 비행의 시대
조종사가 없는 비행기
최첨단 유리 스크린에 갇힌 조종석
비행하는 법을 잊어버리고 있다
라이트 형제의 선택

4장. 게을러지는 두뇌
자동화에 대한 안심과 편향
기억력의 퇴화
활발하게 적응하는 뇌
자동화의 역설

5장. 화이트칼라 컴퓨터의 등장
예측과 상반된 부작용들
재활용되거나 복제되다
기계에 통합되는 숙련 기술
생각하는 기계에 밀려난 엘리트
직관을 대체하지 못한 컴퓨터

6장. 세상이 스크린에 갇히다
GPS, 여신의 등장
길을 잃어버린다는 것
창조적 컴퓨터에 매료된 예술가들
창의성이 잘려진 손
생각은 몸과 분리될 수 없다

7장. 누구를 위한 자동화인가
인간이 배제된 기술 최우선주의
사람들에게 참여 공간을 만들어주다
인간 중심인가, 기술 중심인가
기술이 우위에 서다
마찰 없는 공유와 단순함

8장. 당신 안에 숨겨진 드론
자율조종로봇, 살인 기계의 탄생
심각한 자동화 세상에 살다
구글 글래스로 바라본 세상
기술에 길들여질수록 사라진다
비밀 부호 속에 감춰진 의도

9장. 인간의 마음이 통하는 기술
도구가 주는 즐거움
누가 주인이고, 노예인가
슈쉬왑 부족
저항은 부질없는 짓이 아니다

컴퓨터는 물리적 · 사회적 차원에서 우리가 세상을 항해하고 조종하고 이해하는 데 필요한 ‘만능’ 도구가 되고 있다. 스마트폰을 잃어버렸거나 인터넷 접속이 끊겼을 때 사람들에게 어떤 일이 벌어질지 상상해보자. 디지털 기기의 도움을 받지 못하는 사람들은 무기력해진다. 듀크 대학의 문학과 교수 캐서린 헤일즈는 2012년 저서《우리는 어떻게 생각하는가 HowWe Think》에서 “컴퓨터가 고장 나거나 인터넷 접속이 되지 않을 때, 나는 낙담하고 혼란스럽고 일을 할 수가 없다. 사실상 나는 내 두 손이 모두 절단된 것 같은 느낌을 받는다”라고 말했다. p.34

기계 파괴 운동은 1811년부터 1816년 사이에 영국의 중부와 북부 직물공업지대에서 일어났던 러다이트 운동을 통해 정점에 이르렀다. 지역별로 소규모로 조직되어 있는 자신들의 가내 공업이 파괴될까 봐 두려워한 방직공과 편물공들은
대형 직물공장들이 기계 방직기와 틀을 설치하거나 갖추지 못하도록 게릴라 부대를 만들었다. 러다이트들은 야밤에 공장을 급습했고, 새로운 기계를 파괴하기도 했다. 수천 명의 영국군이 이들과 맞서 싸워야 했으며, 군인들은 수많은 사람들을 죽이고 감금하면서 무자비하게 반란을 진압했다. p.49

영국의 경제학자인 존 메이너드 케인스는 1930년에 “우리는 아직까지 이름조차 들어보지 못한 일부 독자들도 있겠지만, 앞으로는 실컷 듣게 될 ‘기술 발달에 따른 실업’이라는 신종 질병에 감염되고 있다”라고 말했다. 인간의 일자리를 빼앗아 갈 수 있는 기계의 능력은 인간이 할 수 있는 새롭고 가치 있는 일자리를 창조할 수 있는 능력을 초월했다는 것이다. 하지만 케인스는 독자들에게 이 문제가 “일시적인 부적응 단계”에서 나타나는 증세에 불과하다고 말했다. 머지않아 성장과 번영의 시대가 돌아오고, 1인당 소득도 늘어나며, 기계 노예들의 천재성과 효율성 덕분에 인간이 일자리에 대해 전혀 걱정할 필요가 없어진다는 것이다. p.54

로봇은 1950년대에는 공장 문 앞에 서서 지키는 일밖에 하지 못했을지 모른다. 하지만 최근 들어서는 인간의 질서, 즉 사무실과 매장과 집으로 진입해왔다. 오늘날 위너가 ‘판단 대체 유형’이라고 명명한 소프트웨어가 우리의 책상으로부터 호주머니로 이동해 들어오자, 마침내 자동화가 인간이 하는 일의 대상과 방법을 전환시킬 수 있는 가능성들이 보이기 시작했다. 한마디로 모든 것이 자동화되고 있다. 또는 세계 최초의 상용화 웹브라우저인 넷스케이프의 창업자이자 실리콘밸리의 유명인인 마크 앤드리슨이 말한 대로 “소프트웨어가 세상을 먹어치우고 있다.” p.73~74

자동화에 대한 편향은 자동화에 대한 안심과 밀접하게 관련되어 있다. 사람들은 모니터를 통해 들어오는 정보에 과도한 무게를 둘 때 이런 식의 편향에 빠진다. 정보가 틀렸거나 잘못됐더라도 무조건 믿어버리는 것이다. 소프트웨어를 맹신하다 보면 본인의 감각 등 다른 정보 출처를 무시하거나 폄하해버린다. GPS나 그 외의 다른 디지털 지도 안내 시스템에 오류가 있거나, 옛날에 있었으나 지금은 사라진 길을 무작정 따라가다가 길을 잃고 같은 자리를 맴돌아본 경험이 있다면 당신은 자동화에 대한 편향이 초래하는 결과들을 느껴봤을 것이다. p.112~113

컴퓨터를 사용하고 있는 의사들은 표준 문안을 정기적으로 방문 환자의 진료 기록부에 “잘라서 붙인다”라고 말했다. (......) 문구의 ‘재활용’ 내지 ‘복제’에 대한 의사들의 의존도가 커지는 현상은 전자 기록을 채택함으로써 발생한 자연스러운 결과다. 오래전 문서 작성 프로그램이 도입된 후 작가들의 글쓰기와 편집자들의 편집 방식이 바뀌었듯이 EMR 시스템들은 의사들의 기록 방법을 바꿔놓고 있다. 전통적인 구술과 작문 방식은 그들이 주는 혜택 유무와 상관없이 잘라 붙이기, 끌어놓기, 마우스 이용 등의 편리함이나 빠른 속도와 경쟁할 때 더디고 귀찮은 일처럼 느껴진다. p.154~155

월 가는 현재 상관관계를 파악하는 컴퓨터와 그런 컴퓨터를 프로그램하는 금융시장 분석가들에 의해 사실상 장악된 상태다. 월 가의 기업들이 종종 기록적인 이익을 내고 있지만, 2000년과 2013년 사이 뉴욕 시에서 증권 딜러와 트레이더로 일하는 사람들의 숫자는 15만 명에서 10만 명으로 3분의 1이나 줄었다. 한 금융산업 분석가는 블룸버그 통신과의 인터뷰에서 “증권사와 투자 은행들에게 가장 중요한 목표는 시스템을 자동화하고 트레이더들을 없애는 것이다”라고 말하기도 했다. 남아 있는 트레이더들의 경우“그들이 오늘날 할 수 있는 일이라곤 컴퓨터 스크린을 보고 버튼을 누르는 것뿐이다.” p.174