추가 적립 안내

데이터 알고리즘 뒤편에서 작동하는 권력과 자본의 음모
기술 혁신의 수혜는 누구의 몫이어야 할까?
제4차 산업혁명은 누구를 위한 기술일까?
시민 중심의 기술사회를 위한 비판적 가이드라인

“알고리즘 자동화 기계의 대체로 인해 노동 기회를 박탈당한 인간의 노동권과 생존권에 대한 사회적 책무는 무엇인가. 이제까지 성장 지상주의만큼이나 기술 혁신의 최종 수혜자가 또다시 힘 있는 재벌의 몫이어야만 하는가. 우리 사회의 기술혁신 모델이 왜 굳이 미국 실리콘밸리식 시장주의의 구상에 머물러 있어야만 하는가. 보다 본질적으로는, 제4차 산업혁명은 누구의 그리고 누구를 위한 기술이고 재편인가. 우리는 질식할 정도로 많은 제4차 산업혁명의 구호들 앞에서 이 같은 질문들을 진지하게 던지는 이를 쉽게 찾지 못하고 있다.”

제4차 산업혁명, 빅데이터와 공유경제, 인공지능으로 인한 노동의 종말……. 기술사회의 미래를 예견하는 용어들이 주변에 난무하지만, 무엇 하나 현실적이거나 구체적이지 않다. ‘기술 과잉의 시대’에 만들어진 무심한 공백과 사라진 맥락을 채워줄 사회적 상상력이 필요한 시점, 빅데이터 및 테크놀로지 문화 연구가 이광석 교수는 『데이터 사회 비판』을 통해 혁신이라는 의도에만 치중해 그동안 등한시되었던 기술이 어떻게 우리 일상에 영향을 미치고 있는지 되살피면서, 불안한 기술사회에서 살아남기 위한 구체적인 독법을 제안한다.

기술 과잉 시대의 아이러니
_ 기술이 중립적일 수 있을까?

아이러니하게도 인간을 위한 기술이 차고 넘칠수록 미래에 대한 불안은 더욱 커지고 있다. 기술이 미래에 대한 투명성을 증대시키기보다는 우리 자신도 어찌 못하는 어두컴컴한 ‘암흑상자’가 되어가고 있는 것이다. 포털 엔진의 검색창에 검색어를 입력하면, 마치 주술과 같이 검색의 최종 결과만이 나타날 뿐 저쪽 너머 기술의 작동 과정은 전혀 알 수가 없다. 일반인들은 네모반듯한 단순한 검색창 뒤에는 숨어 있는 알고리즘 암흑상자에 접근할 수 없지만, 당연하게도 그 안에서 발생하는 데이터 코딩 과정에 어떠한 편견과 오염도 기입되지 않았을 거라 생각한다. 그러나 과연 기술이 중립적일 수 있을까?
이 책은 기술 과잉의 현실을 방관해온 한국 사회 혹은 우리들의 무기력증을 비판하고 스스로를 성찰하도록 한다. 저항의 소멸은 대안이 부재하거나 도래하지 않을 것이란 오판에서 기인한다. 저자는 자본주의 말기로 접어들면서 더욱 짙어지는, 기술을 불변의 상수로 두고 현실을 정의하려는 사피엔스의 고약한 관성을 멈춰야 한다고 주장한다. 그럴 때에만 대중 자신의 손과 몸으로 도발하고 기술에 인간의 얼굴을 아로새기는 새로운 대안적 흐름을 만들 수 있다고 말이다.

데이터 권력과 알고리즘 통치
_ 지금 우리에겐 호신술과 독법이 절실하다!

『데이터 사회 비판』은 이전 기술혁명만큼이나 더 크고 더 기괴한 기술, 특히 데이터 기술이 현실을 재구성하고 있다는 비판적 가정과 물음을 바탕으로 논의를 시작한다. 우리가 유튜브, 페이스북, 인스타그램, 트위터 등의 플랫폼에 매일의 일상을 찍어 올리고 공유하고 반응하는 사이, 쏟아내는 말뿐만 아니라 말로 내뱉기 전의 머릿속 정서와 감정이나 표정, 생체리듬까지 우리가 인지하지 못한 채 데이터화되어 가상의 세계를 떠돌아다닌다. 사람들은 이러한 데이터 흐름에 맞춰 정보 생체 기계로 점점 진화하고 최적화된다. 휴대폰이 인간의 몸과 뇌 속으로 숨어들고 칩 등으로 이입되어 생체 정보를 재생산한다.
데이터의 양이 많다는 것은 형식적 변화의 조건일 뿐, 정말 중요한 것은 매일의 감정과 정서의 흐름, 생체리듬까지 데이터로 전환해 이를 바탕으로 권력을 재생산할 수 있는 사회의 조건 변화이다. ‘알고리즘’은 이러한 데이터를 분석하는 명령어 프로그램이자 데이터 쓰나미를 분석하는 자동 기계이다. 즉, 대중의 데이터 활동을 배양하는 ‘플랫폼’은 데이터와 알고리즘이 구성하는 새로운 기계 장치에 크게 의존한다고 볼 수 있다. 데이터를 분석하는 알고리즘 기술과 플랫폼은 오늘날 자본과 권력의 핵심 통치수단이자 유용한 연장이 되고 있다. 예컨대, 구글은 자체 제작하는 콘텐츠 없이도 이용자 데이터를 수시로 채집하는 브로커 지위를 이용해 수익을 만들어내는 전형적인 플랫폼 업자다. 구글 검색, 구글 메일, 구글 문서 등에서 작동하는 데이터 알고리즘들은 전 세계 이용자의 데이터를 실시간으로 분석하고, 알고리즘 광고 프로그램인 ‘애드센스’를 통해 이용자에게 맞는 게릴라형 맞춤형 광고를 제공하며 이윤을 만들어낸다.
권력의 경우도 마찬가지다. 현대 권력이 호출하고 자동 통제하는 개인 정보 수집 능력은 범죄 기록, 생활기록부, 주민등록 정보, 건강보험 정보, 납세 정보 등 공식화된 데이터베이스의 통제 정치를 넘어선다. 통치 권력의 능력은 아직까지 국민의 사회적 통계 능력을 세분화하고 통합하는 능력에 달려 있지만, 사실상 데이터 알고리즘 사회의 통치 능력은 이제 사적으로 은밀한 곳에서 뿜어내는 시민들의 비정형 데이터 배설과 데이터 부스러기의 수집과 관리에 좌우된다. 이렇듯 데이터 알고리즘 사회에서는 거대 데이터 더미를 수집하고 처리하는 일이 중요해지고, 그로 인해 새로운 계급 격차가 발생할 확률이 높다. 빅데이터의 소유와 접근 정도, 최적 데이터 알고리즘의 생산과 분석 능력, 데이터의 지속적 접근과 통제 능력 정도에 따라 계급 격차가 발생해 이른바 ‘데이터 계급’이 탄생하는 것이다.

시민 주도의 기술정치학
_ 기술과 인간의 공생을 위한 지침

‘빅데이터 사회’, ‘스마트 지식사회’, ‘지능 정보사회’ 등등 기술 과잉과 관련한 미끈한 언어들이 대체로 놓치는 점은, 미래에 계속해 짊어져야 할 것들, 배제되는 것들 혹은 악화일로에 있는 것들에 관한 무심과 공백들이다. 저자는 기술과 인간의 공생을 위해서는 알고리즘 장치를 무기 삼아 데이터를 탈취하는 데이터 권력으로부터 시민들이 데이터 통제력을 되찾아 오는 일이 중요하다고 강조한다. 인간 데이터 생산 활동, 알고리즘 장치, 플랫폼 시장의 독점이나 신종 통치 행위에 대응해 시민들이 주도적으로 기술의 미래를 어떻게 준비할 것인지 고민해야 한다는 것이다.
저자는 무차별 빅데이터 수집을 규제하기 위해서는 시민들의 기술 인권, 즉 데이터 프라이버시를 보호하는 합당한 법과 규제안이 뒷받침되어야 함을 강조한다. 또한 플랫폼 재설계나 기본소득을 이용해 노동과 자원을 민주적으로 공유할 수 있는 방안을 고안하며, 더 나아가 ‘메이커 운동’을 바탕으로 대중 스스로가 자본화된 기술 체제에 의해 죽어가는 제작과 수리 문화의 감각을 되찾아 암흑상자와 같은 기계와 기술의 작동 원리를 파악함으로써, 우리 모두가 인류 문명의 제작자가 되는 것에 관심을 가져야 한다고 말한다.
저자가 『데이터 사회 비판』을 통해 대중의 데이터 생산을 매개해 구성되는 권력의 문제에 이어서, 플랫폼 자본, 정보와 데이터로 기록되는 신체, 데이터 권력과 프라이버시, 메이커 운동과 성찰적 기술 감각, 테크노 타자, 포스트휴먼, 기본소득, 노동과 인공지능, 공유지 운동, 핵티비즘, 플랫폼 조합주의, 기술-몸의 앙상블, 데이터 기술의 시민주도형 설계 등 여러 비판적 쟁점들을 다루는 것은, 결국 데이터 알고리즘 사회의 자율적 인간 주체들을 위한 비판 능력과 지혜, 즉 불안한 기술 사회의 독법을 제시하기 위함이다.
오늘날 기술의 진화 방향은 점점 평범한 사람들의 삶과 멀어져 가고, 산업 기계와 디지털 정보 시절처럼 시민 대중은 그저 인공지능 시대에도 단순 노동이나 데이터를 제공하는 노예와 같은 무기력한 존재인 듯 보인다. 시간이 흐를수록 자본주의의 미래가 대중의 집합지성에 의존해 이윤을 수취한다고 본다면, 인공지능 설계에서도 또한 시민 대중의 기술 개입에 관한 사회적 상상력이 적극 삽입되어야 한다. 미래의 진단이 그저 학자연하는 기술 엘리트들만의 가상 시나리오가 되지 않으려면, 무엇보다 기술사회의 미래를 논할 ‘시민의 기술정치학’이 필요한 시점인 것이다.

[책속으로 이어서]
국내 유통 시장의 틈새를 밀고 들어와 우후죽순 격으로 생성되고 있는 플랫폼 사업자들, 예컨대, 여기어때, 직방, 요기요, 배달통, 배달의 민족, 알바천국, 알바몬 등은 중소 상인들과 이용자를 연결해 유통 수익을 남기는 새로운 유형의 O2O 기업들이다. 이들 플랫폼들은 대체로 이미 존재하는 시장에 브로커로 참여해 유통 효율성을 증대시키면서도 이윤 배분의 옥상옥 구조를 만들어내고 있다. 더 우려되는 부분은 O2O 플랫폼을 위해 오토바이 배달과 알바 일을 하는 수많은 프리랜서들이다. 알바 노동자들은 밑바닥 노동을, 그리고 대부분의 중소 가맹 점주들은 본사의 ‘갑질’은 물론이고 플랫폼 사업자가 강요하는 유통 수수료의 큰 부담까지 떠안게 되었다. _134쪽, 「시민사회 상상력 안에서의 제4차 산업혁명」 중에서

메이커 문화는 사회적 지배 권력이 강요하는 블랙박스의 암흑 논리를 벗어나 기술 대상을 뜯어보고 요리조리 살펴 우리의 성찰적 설계를 행하는 행위, 즉 또 한 번 이른바 ‘역설계’의 지혜와 맞물린다. 역설계는 디지털 문식과 관련해서 앞서 짚어본 것처럼, 닫혀 있는 상업 기술과 기계의 설계 방식을 이해하고 이를 주체적 의도에 맞게 완전히 새롭게 재설계하는 행위를 지칭한다. 이와 같은 역설계의 현대적 장인 감각을 키우는 일은 향후 인간의 생존과 연결된 지속가능한 기술의 생성적 지혜를 키우는 데 필수적이다. 역설계는 오직 소비만을 강요하는 자본주의 시장 상품 논리를 우회해 우리 스스로 만들고 고치고 쓸 수 있는 자생의 메이커 문화를 추동한다는 점에서 급진적 함의를 지닌다. _183쪽, 「기술-인간 공생의 사회 디자인」 중에서

머리말_ 넘쳐나는 데이터에 숨겨진 권력과 자본의 코드 읽기

1장 기술은 왜 정치적인가
온라인혁명과 퇴행의 반복적 시간 여행 | 기술주의의 역사적 반복에 세뇌된 우리들 |
기술이 중립적일 수 있을까? | 하이테크 시장에 대한 환상 | 기술은 정치다

2장 데이터 알고리즘 사회의 형성
빅데이터라는 신세계 | 플랫폼 경제에 숨겨진 욕망 | 플랫폼 자본주의의 양면성 |
알고리즘을 통한 이윤 메커니즘

3장 포스트휴먼, 데이터 계급의 탄생
모두가 데이터가 되는 세상 | 데이터 계급의 탄생

4장 데이터 권력의 등장
‘제로(0) 프라이버시’ 그 이후 | 사회적 차원에서의 감시와 프라이버시 | 첨단 기술 장치에 의한 일상의 감시 |
데이터 권력의 등장 | 데이터 참여와 놀이를 즐기는 위기의 현대인들 | 빅데이터 시대의 ‘표현의 자유’ |
데이터 과잉 뒤에 숨어버린 진실 | 알고리즘 권력에 의한 데이터 소외

5장 시민사회 상상력 안에서의 제4차 산업혁명
혁명의 슬로건 뒤에 가려진 것 | 시민의 상상력과 제4차 산업혁명 | 데이터 알고리즘 사회와 데이터 인권 |
가상ㆍ증강 현실 속에서 사회적 감각 찾기 | 인공지능, 테크노 타자와의 공생 | 공유경제와 대안적 플랫폼의 구상 |
메이커 운동과 성찰적 기술 감각의 회복 | 시민사회 ‘기술 인권’의 필요성

6장 인공지능과 노동, 그리고 기본소득
기업주의와 인공지능의 동거 | 인공지능 시대 인간중심주의의 문제 | ‘노동의 종말’의 시대가 다가올까? |
실리콘밸리에서 기본소득이 환영받는 이유 | 데이터 노동 시대의 기본소득 | 인공지능, 사회적 공론화가 필요한 시점 |
인공지능의 걸림돌 | 시민 주도의 기술정치학

7장 기술-인간 공생의 사회 디자인
‘비판적’ 메이커 문화의 부상｜손과 몸으로 기술을 해부하다　| 데이터 인권 101 | 기술과 인간의 공생을 위한 지침

색인

일단 기술주의의 망상을 머릿속에서 과감히 지워내려면, 우리의 뇌리에 자명하게 자리 잡고 있는 ‘기술은 무고하다’, ‘기술은 순결하다’는 기술 중립론을 지워내야 한다. 기술은 너무 좋고 쓸 만한데 이용하는 특정 인간들이 문제라고 지적하는 당신의 순진함에서 벗어나야 한다. 알고 보면 기술은 온갖 사회적 맥락과 권력 관계 사이 촘촘하게 연결된 망들 한가운데 놓여 있다. 예컨대, 오늘의 자본주의 사회에서 스마트폰만큼 복잡한 물건이 어디 있겠는가. 하드웨어만 두고 보아도 디자인, 표준과 특허 전쟁, 국제 노동 분업에 의한 중국 공장 노동자의 자살과 ‘죽임’(사회적 타살), 통신사의 약정계약 종속 등 스마트폰의 정치경제학이 그 안에 처절하게 자리하고 있다. 소프트웨어 측면에서 보면, 앱 시장 경쟁, 운영 체제 전쟁, 이용자 해킹과 탈옥 문제, 저작권과 로열티 배분 등이, 그리고 기술문화 면에서는 신모델 출시와 소비 구매의 지칠 줄 모르는 욕망, 언제 어디서든 가능한 연결에 관한 신화, 이동하는 기계-신체의 수렴(이른바 포스트휴먼의 탄생), 자발적 감시의 일상화 등이 이 작은 모바일 전자기계에 웅크리고 있다. _27∼28쪽, 「기술은 왜 정치적인가」 중에서

오늘날 우리가 눈여겨보는 데이터는 기존의 공식적 지식과 상징적 질서에서 논의되었던 의미를 구성하는 최소 단위들을 넘어선다. 오히려 인간 내면의 은밀한 감정과 표정의 비정형적 흐름이 전자적으로 치환된, 누군가에 의해 분석을 기다리는 새로운 형식값에 가깝다. 이들 데이터는 공식화하고 객관화된 지식을 구성하는 요소라기보다는 끊임없이 갱신되고 조합될 운명의 불안정한 개성 없는 재료들과 같다. 즉, 개별로는 특정의 의미를 지니지 못하지만 쌓이고 관계 맺으면서 지식 이상의 값을 만든다. 데이터는 이를 근간으로 기업 이익을 산출하는 시장 안에서 암묵적으로 홀대받던 지위로부터 벗어난다. 데이터는 이제 자본의 가치 기제를 떠받치는 새로운 비물질 에너지가 되고 있다. _42∼43쪽, 「데이터 알고리즘 사회의 형성」 중에서

데이터 알고리즘 사회는 인간을 포스트휴먼의 단계에 적정한 생체-정보기계로 진화하도록 유도하면서, 동시에 말과 글로 발화되지 않는 인간의 생체리듬 깊숙한 부분까지도 데이터 신호로 포착되도록 변형한다. 몸의 땀, 수분, 혈압, 맥박, 뇌파, 감정의 기복, 생체리듬, 건강 상태 등 모두가 실시간 데이터로 전환된다. 이들 생체 데이터는 개별 신체와 연결된 생체-정보기계 알고리즘에 의해 해석되기 위해 저 멀리 어딘가로 흘러들어 집적된다. 이러한 생체 정보는 디지털 헬스케어를 업으로 삼는 다국적 기업들은 물론이고, 보건 당국, 건강보험공단, 복지 시스템, 수사 기관 등 생체-정보기계의 형성에 관여하는 국가와 관련 기관들에 매순간 공급되고 분석된다. _65쪽, 「포스트휴먼, 데이터 계급의 탄생」 중에서

헉슬리가 예언했던 데이터 과잉의 오늘날인 ‘멋진 신세계’가 보여준 바처럼, 전통적 방식의 오웰식 통제와 전자 감시 또한 꾸준히 무한 확장하고 있다. 인간 신체에 작동하는 현대 권력의 모습은 오웰식 광학 전자 장치의 무작위 정보 수취와 함께, 이제 보다 은밀하게 진행된다. 개별화된 바코드 각인, 신체 피부 아래 삽입된 칩, 인간 동공 및 홍채 인식과 식별의 데이터베이스, 위성 인식 장치를 통한 신원 관리, 인간 게놈지도 매개형 생체 정보의 관리 등은 상상에서 현실의 통치 기술로 점차 자리 잡고 있다. 이 모든 기술이 대단히 불쾌한 것은 우리 인간의 눈으로 도통 감을 잡기 어려운 비가시권의 영역으로 감시와 통제의 발원지를 점점 더 숨긴다는 데 있다. _87쪽, 「데이터 권력의 등장」 중에서

무엇보다 제4차 산업혁명의 가장 큰 문제는, 실제 이것이 일상 시민들의 삶에 어떤 의미인지, 어떤 의미를 만들어낼 것인지 그 어느 누구도 해명하거나 이해시키려 들지 않는다는 사실에 있다. 그저 대세의 논리요, 고용과 국부의 문제일 뿐이다. 국내 정보통신 정책사를 다 훑어봐도, 동시대 시민 대중의 기술 참정권은 조금도 개선되지 않았다. 시민의 기술에 대한 참정권 없이 진행되는 현재 디지털 혁신론이나 비판론은 맹목으로, 이는 결국 현실 지배적인 기술 권력의 지형을 오히려 공고화할 공산이 크다. 테크놀로지 혁신과 혁명이란 이름으로 또 다른 야만의 시장을 미화하는 효과 또한 가세할 것이다. _118쪽, 「시민사회 상상력 안에서의 제4차 산업혁명」 중에서