추가 적립 안내

인공지능은 자본주의를
어떻게 바꾸고 있는가

화려한 기술진보가 가리고 있는,
인간이 인간을 지배하는 새로운 방식,
인지자본주의의 본질을 통찰하다!

챗GPT를 비롯한 생성 인공지능이 널리 쓰이면서 기술진보의 새로운 문이 열렸다는 이야기가 곳곳에서 흘러나온다. 인공지능이 글을 쓰고 그림을 그리며 사람과 능수능란하게 대화하는 수준에 도달했다는 평가 속에서, 인간의 위기가 가속화되리라는 전망이 속출한다. ‘강한 인공지능’이 인간의 동반자가 될지 적대자가 될지를 걱정하는 이들부터, 인공지능 기술이 미국과 경쟁하는 국가의 전쟁수단이 될 가능성을 우려하는 입장까지 기술진보의 이면과 그로부터 비롯될 미래를 불안해하는 사람도 늘고 있다.

그러나 기술진보가 정말로 가리고 있는 것은 인공지능이 자본주의를 더욱 정교하게 바꾸고 있다는 사실이다. 사이버스페이스와 디지털 문화를 국내에 처음 소개한 1세대 디지털 사회연구자 백욱인은 이 책 《인공지능 시대 인간의 조건: 플랫폼과 알고리즘으로 지배하는 인지자본주의의 현재》에서 챗GPT와 같은 기술진보에 시선을 빼앗긴 채 ‘인류의 위기’나 ‘일자리의 소멸’ 같은 담론에 빠져드는 우리의 단견을 정면으로 거스른다. 지은이는 공유와 가상까지 사고파는 현재의 자본주의를 ‘인지자본주의’라고 규정하고, 기술진보의 이면에 언제나 착취와 수탈, 통제와 감시가 있었음을 예리하게 통찰한다.

다시 말해 진짜 문제는 기술진보의 배후에 인간이 인간을 지배하는 방식의 변화가 있다는 것이다. 플랫폼 중심의 인터넷 지배구조, 플랫폼 노동자에 대한 기업들의 착취와 수탈, 이용자의 정보가 데이터로 환원되어 이윤추구의 수단이 된 현실, 즉 인지자본주의가 인공지능 시대 자본주의의 본질이다. 우리 생활 속에 깊숙이 파고든 플랫폼과 여기서 길어낸 빅데이터, 빅데이터를 이윤으로 바꿀 수 있도록 하는 알고리즘은 인지자본주의 체제의 핵심적인 장치로 작동하고 있다. 독자들은 우리의 일상을 포획하는 플랫폼과 알고리즘에 대한 이론적·실천적 관점을 통해, 인지자본주의를 정확하게 인식하고 그로부터 벗어날 역량을 모색할 수 있을 것이다.

1. 플랫폼 장치는 우리를 어떻게 인지하고 포획하며 착취하는가
- 인공지능 시대의 변화를 읽는 이론적 관점

1세대 디지털 사회연구자 백욱인은 1990년대부터 정보기술의 사회적 영향을 연구해왔다. 10여 년 전부터 구상한 3부작의 첫 권인 이 책에서, 지은이는 현대 정보사회 또는 인지자본주의가 어디서 비롯하는지, 그리고 이를 바라보는 이론적 틀이 무엇인지를 탐색하며 논의를 시작한다. 제2차 세계대전을 전후해 고안된 사이버네틱스(cybernetics)는 인간과 동물, 기계를 제어/통제(control)의 관점에서 하나로 연결하려는 구상이었다. 외부환경에 대한 인지와 피드백을 통한 자기조절기계의 창발을 지향하는 사이버네틱스는 인공지능 연구와 로봇공학으로 이어졌다. 여기에 데이터와 정보, 지식을 하나로 통합하는 정보이론이 연결되면서 오늘날의 플랫폼 장치가 구축되었다.

플랫폼 장치의 핵심에는 빅데이터가 있다. 이용자들이 구글의 검색엔진이나 페이스북, 트위터 같은 소셜미디어 등의 플랫폼을 사용할 때마다 그들이 생성하는 데이터는 플랫폼 장치에 흡수된다. 데이터가 단순한 숫자의 조합에 그칠 뿐이라고 말할 수 없는 것은, 플랫폼 기업들이 이용자의 자발적인 활동뿐만 아니라 각종 흔적 데이터(메타데이터)까지 이윤을 위한 수단으로 전환하기 때문이다. 국가기구 역시 플랫폼 기업을 통해 시민들의 데이터를 확보함으로써 통제와 감시를 강화하는 현실도 문제다.

그럼으로써 원래 나뉠 수 없는 개체인 인간은 알고리즘을 통해 데이터로 분할된다. 이렇게 분할된 개체는 ‘조각주체’로서 플랫폼 장치의 데이터 회로를 떠돈다. 정보와 지식은 디지털 플랫폼 속에서 조각나고, 개인들의 분할된 감정은 좌표 찍기 놀이나 화풀이로 전락한다. 가짜뉴스가 범람하면서 공론장도 위기에 놓인다. 대중은 갈수록 플랫폼에 철저하게 종속된다. 이런 현상을 요약하는 말이 바로 ‘기계적 예속’과 ‘사회적 복종’이다. 이처럼 플랫폼 장치에 구속된 채 주체성을 잃어가는 인간은 어떻게 해야 그로부터 벗어날 수 있을까. 이를 위해서는 우리의 삶을 규정하는 자본주의의 변화를 들여다봐야 한다는 것이 지은이의 진단이다.

“빅데이터가 생산되는 과정에서, 새로운 축적을 위한 원료가 저장되는 동시에 이용자층이 분화된다는 이중적 의미에서 본원적 축적이 발생한다. 거대 독점 플랫폼은 이용자의 활동 결과물을 자동으로 전유하면서 새로운 가치를 생산하기 위한 원료를 축적한다. 거대 플랫폼 기업들은 데이터의 정보화와 지식화를 수행하고 수익분할이나 수동임금, 창작경제 등을 활용해 이용자를 창작자와 소비자로 양극화한다.”
- 〈3장. 빅데이터, 인공지능 시대의 한복판에 서다〉, 114쪽

“디지털 플랫폼을 통해 개체가 수치로 환원되는 과정이 분할체화라면, 분할체로 이뤄진 데이터세트가 개인에게 되먹여지면서 생각과 행태를 만드는 과정을 조각주체화라 부를 수 있다. (…) 알고리즘은 이용자의 편의를 극대화하기 위해 작동하는 것처럼 보이지만, 실상은 자본의 효율성을 위해 운용될 뿐이다. 플랫폼은 개체의 분할체화와 조각주체화를 반복하면서 개인의 사고와 행위를 자동화한다. 오늘날 디지털 플랫폼은 자동화된 계획과 통제를 완성하고 있다는 점에서 사이버네틱스의 이상을 달성하고 있다.”
- 〈7장. 개체의 분할체화와 분할체의 조각주체화〉, 236쪽

2. 공유와 가상까지 사고파는 인지자본주의 시대, 어떻게 노예가 되지 않을 것인가
- 인지자본주의 비판을 위한 실천적 관점

이제 지은이는 인터넷 기술혁신을 통해 자본주의의 변화를 통찰한다. 1990년대 인터넷이 보급된 이래로 공유와 나눔은 사이버스페이스의 미덕으로 자리 잡는 듯했다. 하지만 개인 사이의 자유롭고 평등한 거래를 표방했던 P2P는 암호화폐의 등장으로 변곡점을 맞았다. 블록체인 기반의 거래가 인터넷을 더욱 투명하게 만들 것이라는 예측도 잠시, 거래소와 같이 중앙화된 기관이 출현하고 불투명한 거래가 빈번해지면서 테라-루나 사태 같은 시장 왜곡이 속출하고 있다.

무엇보다 우버와 에어비앤비가 상징하는 ‘공유경제’의 출현은 비자본주의적 또는 비시장적 현상이라고 생각해왔던 공유마저 사고팔 수 있음을 보여준다. 거래의 중심에는 역시 플랫폼이 있다. 다른 사람을 위해 내가 사용하는 차량이나 주거공간을 잠시 빌려준다는 아이디어는 고도로 상업화된 플랫폼 속에서 상품으로 탈바꿈한다. 유튜브와 틱톡 같은 스트리밍 서비스는 ‘창작자 경제’라는 이름으로 크리에이터에게 활동에 따른 수익을 제공하겠다고 유혹하고, 각종 창작 플랫폼이 범람하면서 이용자를 더 많이 끌어들이고 있다. 페이스북이 사명을 바꾸면서까지 의욕적으로 추진하고 있는 메타버스는 가상현실·증강현실·혼합현실 등의 기술을 통해 가상까지 시장화하려는 자본의 노력을 단적으로 드러낸다.

플랫폼이 우리의 일상을 장악하면서 그것에 기반을 둔 노동도 보편화되었다. 배달노동자를 비롯해 챗GPT 개발에 따른 유독언어를 필터링하는 온라인 노동자 등의 그림자노동은 일상을 시공간적으로 통합하는 동시에 분할하는 플랫폼 자본주의의 현실을 보여준다. 지은이는 플랫폼 자본주의 또는 인지자본주의의 핵심에 ‘플랫폼 지대’가 있다고 지적한다. 거대 플랫폼 기업들이 이용자의 데이터를 전유하고 그들의 노동을 통제함으로써 막대한 지대를 거두고 있다는 것이다. 우리가 인지능력과 감정마저 이윤으로 흡수하는 인지자본주의 체제에 갈수록 포섭되고 있다는 지은이의 분석은, 현실을 온전하게 인식해야 대안을 마련할 수 있다는 점에서 실천적인 의미를 갖는다.

“플랫폼 이용자나 피고용자는 다양한 방식으로 장소와 시간을 달리하며 디지털 어셈블리라인에 결합되어 있다. 우리는 은행 계정의 생산소비자로, 하부 노동을 지탱하는 유령노동자로, 말단 택배 운수노동자로, 아마존 창고의 분류노동자로, 페이스북 공장의 모듈엔지니어로, 인형 눈알을 달아주는 디지털 하청노동자로, 가짜뉴스를 만들어 수동소득을 노리는 유튜버로, 그리고 검색 이용자로 생산-소비의 여러 측면에서 노동과정에 예속되는 한편 인공지능을 기반으로 하는 거대 플랫폼의 노예로 전환되고 있다. 이런 과정에서 사람들은 새롭게 재편되고 있는 인공지능 기반 사회시스템에 복종한다.”
- 〈11장. 플랫폼 자본주의 속 노동의 변화〉, 370~371쪽

“서비스 플랫폼으로 매개되는 지대관계의 현대적 형태는 봉건지대의 현물 형태가 실현되는 모양과 유사하다. 물론 현대적 지대관계에서 경제 외적 강제는 작동하지 않는다. 이용자는 플랫폼에서 할당받는 각종 서비스와 편의의 대가로 디지털 흔적과 활동 결과물을 서비스 제공자에게 양도한다. 이러한 양도가 쉽게 이뤄지는 이유는 기업이 서비스를 무료로 제공하기 때문이다. 서비스 이용자가 자신의 활동 결과물을 양도하지 않는다면 플랫폼 자체가 돌아가지 않기 때문에, 공동의 것을 이용한 소셜미디어에서는 이용자 활동 결과물 자체가 플랫폼에서 핵심적인 역할을 한다.”
- 〈12장. 디지털 서비스 플랫폼의 핵심, 플랫폼 지대〉, 399~400쪽

3. 기계적 예속과 사회적 복종에서 해방되기 위해 무엇을 할 것인가
- 인공지능 시대 인간의 조건을 생각한다

정치철학자 한나 아렌트는 구소련의 인공위성 발사를 지켜보며 인간의 조건이 변할 것을 예감했다. 그가 통찰한 인간의 세 가지 조건인 노동, 작업, 활동은 인공지능 시대를 맞아 플랫폼에 의한 기계적 예속과 사회적 복종이라는 변화를 맞이하고 있다. 플랫폼과 알고리즘을 통해 대중을 착취하고 통제하는 인지자본주의 체제는 제어/통제와 정보이론의 결합체인 사이버네틱스의 이상을 나름의 방식으로 구현한다.

그러나 지은이는 기계가 인간을 지배할 것이라 단정해서는 곤란하다고 지적한다. 인간과 기계의 관계가 다양한 배치/배열 속에서 바뀔 수 있다는 지은이의 진단은 기술진보에 가려진 지배관계를 드러낼 때 더욱 선명해진다. 문제는 인간 일반이 기계의 노예가 되는 것이 아니라, 누가 기계를 통해 배달노동자, 온라인 노동자, 각종 그림자노동자 들을 착취하고 통제하느냐다. 거대 플랫폼 기업들, 이들 기업을 통해 시민들의 데이터를 전유하는 국가기구, 대중을 분할체로 만듦으로써 이윤과 지배를 동시에 추구하는 이들을 명확하게 밝혀야 하는 이유다.

그런 점에서 인지자본주의 체제를 통찰하는 작업은 인간이 인공지능과 어떤 관계를 맺을 것인지를 가늠하는 동시에, 기계적 예속과 사회적 복종에서 벗어나는 시작점이 될 수 있다. 인간과 기계의 관계에 대한 정치경제학적 분석과 플랫폼에 대한 비판적 인식이 축적되고 결집할 때, 플랫폼 장치의 알고리즘으로 분할되던 주체가 다시금 광장으로 모일 수 있다는 것이 지은이의 전망이다. 인공지능 시대 인간의 조건을 넘어설 해방의 순간은 새로운 몸들이 광장에 모여 스스로를 새롭게 배치하는 데 달려 있다.

“개체는 사회적으로 복종하고 분할체는 기계적으로 예속되어 있지만, 복종과 예속의 틀에서 틈새를 비집고 새로운 대항을 조직하거나 탈주할 수 있다. 비록 기계적 예속은 확대되고 있지만 여전히 분할체의 연대와 저항의 가능성이 남아 있다. 이것을 무시하면 분할체의 노예화와 개인의 예속만 남고 출구는 없는 디스토피아에 빠진다. 그러나 이런 생각은 또한 얼마나 관념적인가. 이를 구체적인 현실로 연결하는 고리를 모색해야 한다. 그래서 인공지능 플랫폼에 대한 비판적 분석 작업과 더불어, 기계적 예속과 사회적 복종이 어디서 연결되는지, 주체가 그로부터 어떻게 탈출할 수 있을지를 탐색해야 한다.”
- 〈나가며_인공지능 시대 인간의 조건을 생각한다〉, 456쪽

들어가며_‘인간 이후’의 존재 앞에 선 인간

1부. 인공지능 시대의 변화를 읽는 이론적 관점

1장. 사이버네틱스가 촉발한 정보사회
사이버네틱스와 제어관계 | 사이버네틱스와 2차 제어혁명 | 인간과 기계의 제어관계 변화 | 사이버네틱스와 자동화의 모순 | 사이버네틱스 기계와 자동민주주의 | 사이버네틱스의 양가성과 통제사회

2장. 통합적 관점에서 보는 정보이론
정보란 무엇인가 | 정보의 세 가지 수준 | 정보와 물질 | 정보와 미디어 | 정보와 인간 | 디지털 대상물에 대한 탐구와 새로운 정보론

3장. 빅데이터, 인공지능 시대의 한복판에 서다
빅데이터의 형성 | 빅데이터의 특성 | 데이터의 본원적 축적과 데이터센터 | 빅데이터 비트의 유형 | 데이터 전유 모델 | 빅데이터와 생성 인공지능

4장. 인공지능은 문화를 창조할 수 있는가
기억과 정보의 저장 | 잉여와 축적과 미디어의 탄생 | 감각기관과 기억장치 | 역사가 없는 인공지능의 세계 | 인공지능으로 생성되는 문화 | 인공지능이 생성하는 문화

5장. 인공지능의 존재론
정보와 지능 | 인공지능과 인간 이후의 정보 | 인공지능은 인간의 꿈을 꾸는가

6장. 플랫폼 장치는 우리를 어떻게 인지하고 포획하며 착취하는가
푸코·들뢰즈·아감벤의 장치론 | 디지털 서비스 플랫폼의 세 가지 계통 | 플랫폼과 지식관계 | 플랫폼의 권력관계와 추적포획장치 | 플랫폼의 생산관계와 가치증식장치 | 장치에서 물러설 것인가, 바꿀 것인가

7장. 개체의 분할체화와 분할체의 조각주체화
디지털 서비스 플랫폼에 의한 분할체화 | 부분할체-반분할체-분할체라는 새로운 인간 조건 | 비동일성의 동일화 | 레거시미디어 콘텐츠의 분할체화와 예속화 | 페이스북, 소셜그래프, 개체의 분할 | 기계적 예속과 사회적 복종의 순환 | 조각주체의 데이터세트에서 벗어나기

2부. 인지자본주의 비판을 위한 실천적 관점

8장. 인터넷의 변화로 들여다보는 기술혁신의 이면
인터넷과 규정적 기술의 변화 | 열림과 닫힘의 순환주기 | 빅데이터와 플랫폼 독점 | P2P와 블록체인, 암호화폐 | 웹 3.0과 웹3

9장. 공유와 가상까지 사고파는 인지자본주의 시대
공유하지 않는 공유경제 플랫폼 | 공유경제의 기괴한 부산물, 조각투자 | 크리에이터 소유경제 | 가상의 재물질화와 재매개 | 인터페이스의 변화와 몸 | 재물질화의 새로운 방식, 메타버스 | 생성 인공지능과 새로운 생산물

10장. 인지자본주의를 어떻게 비판할 것인가
인지자본주의 비판의 세 가지 갈래 | 인터넷 기술과 디지털 경제를 둘러싼 논쟁 | 긍정적 외부효과와 혜택의 독점적 전유 | 자동화와 사이버네이션 | 가치론의 확장인가, 폐기인가 | 디지털 보편시장의 확대 | 공유경제와 디지털 보편시장 | 새로운 분배론 | 비판적 인지자본주의론의 확장을 위하여

11장. 플랫폼 자본주의 속 노동의 변화
축적의 조건을 바꾸는 플랫폼 | 플랫폼 수탈과 착취의 결합 | 플랫폼 노동의 현실 | 플랫폼 독점을 넘어 | 디제라티의 몰락

12장. 디지털 서비스 플랫폼의 핵심, 플랫폼 지대
이용자 활동 결과물과 외부효과의 전유 | 플랫폼 지대 | 플랫폼과 사이버네틱스 축적체제 | 디지털 서비스 플랫폼 생산과정의 특성 | 인지자본주의의 새로운 축적방식과 비판

13장. 팬데믹 시대는 어떻게 기계적 예속과 사회적 복종을 강화했는가
4차 공간화와 질병의 수치화 | 의료-건강 데이터와 기계적 예속화 | 팬데믹 시대의 규율생명적 통치성 | 팬데믹과 새로운 저항성 | 숙주와 기생충의 생태계

나가며_인공지능 시대 인간의 조건을 생각한다
인간과 기계의 관계 | 우리는 인공지능과 어떤 관계를 맺어야 하나 | 세상을 바꾸는 한순간을 꿈꾸며

참고문헌
찾아보기

인지자본주의 시대의 대표적인 기술적 산물인 인공지능은 인간과 다양한 관계를 맺는다. 어떤 인간에게는 유용한 도구로, 또 다른 인간에게는 통제의 수단으로 다가간다. 인공지능의 알고리즘은 통제이자 제약인 동시에 최적화된 해법이다. 독과 약의 결합체, 곧 ‘파르마콘(Pharmakon)’인 알고리즘은 위계서열에 따라 배분됨으로써 차별적인 효과를 낳는다. 알고리즘의 차별적인 효과가 계급·세대·능력·성별로 나뉘고 그로 인해 사회적 불평등이 고착되는 방식에 대한 더욱 구체적인 분석이 요구된다.
- 〈들어가며_‘인간 이후’의 존재 앞에 선 인간〉, 9쪽

사이버네틱스는 자동화와 되먹임을 통한 환경 변화에 적응하는 독립적인 자동화기계의 단초를 제시했다. 인공지능의 등장으로 인간-기계 관계에서 조종의 주도권이 인간에서 기계로 옮겨간 것처럼 보인다. 그러나 기계를 매개로 인간을 조종하는 집단과 조종받는 집단은 엄연히 구분된다. 인공지능은 스스로 독립된 개체처럼 활동하면서 그러한 인간 집단 간의 차이를 가린다. 인공지능에 관한 논의에서는 여전히 물질적 기계의 자동성과 지능화에 방점이 찍힌다. 인간 활동의 결과물을 수치기호로 처리해 디지털 비트로 회수하는 기호 사이버네틱스 체제는 재매개(Bolter and Grusin, 1999/2006)된 상징표현물과 ‘비(非)기표적 기호(Lazzarato, 2014/2017)’의 데이터를 결합한 통제체제다.
- 〈1장. 사이버네틱스가 촉발한 정보사회〉, 30쪽

빅데이터와 인공지능의 결합은 데이터가 정보로 변환되는 과정을 가속한다. 변화가 수동적이고 환경주도적인 양태전환이라면, 변환은 능동적이고 적극적인 양태전환을 의미한다. 정보화(information)는 ‘형태를 갖게 만들기’ 혹은 ‘정보로 만들기’라는 의미에서 적극적 실행이다. 정보화를 진행하는 주체는 알고리즘을 구상하고 만드는 인간 집단이다. 그런데 비록 알고리즘은 인간이 구상했지만 빅데이터-머신러닝의 결합체에서는 구상과 실행이 알고리즘에 의해 자동적으로 이뤄진다. 특정한 목적을 이루기 위한 실행절차로서의 알고리즘은 데이터라는 전(前)개체화 단계의 요소를 개체화한다. 만약 알고리즘이 정해진 수준을 벗어나서 자율적으로 학습해, 인간 주체가 예측하지 못하게 움직이거나 인간의 통제에서 벗어나는 행위를 수행한다면 인간과 인공지능 간에 이뤄지는 ‘인간의 구상과 기계의 실행’이라는 관계는 무너질 것이다.
- 〈2장. 통합적 관점에서 보는 정보이론〉, 94쪽

빅데이터가 크라우드소싱과 클라우드컴퓨팅을 통해 집적되면서 디지털 아카이브는 민주적인 성격을 잃는다. 빅데이터가 생산되는 과정에서, 새로운 축적을 위한 원료가 저장되는 동시에 이용자층이 분화된다는 이중적 의미에서 본원적 축적이 발생한다. 거대 독점 플랫폼은 이용자의 활동 결과물을 자동으로 전유하면서 새로운 가치를 생산하기 위한 원료를 축적한다. 거대 플랫폼 기업들은 데이터의 정보화와 지식화를 수행하고 수익분할이나 수동임금, 창작경제 등을 활용해 이용자를 창작자와 소비자로 양극화한다. 그러한 이용자의 분화는 플랫폼 안에서의 활동이 플랫폼 노동으로 변화하는 과정이기도 하다.
- 〈3장. 빅데이터, 인공지능 시대의 한복판에 서다〉, 114쪽

알고리즘을 만드는 알고리즘은 의식을 바라보는 의식(즉 자기의식)과 마찬가지로 반성적이어야 한다. 우리는 딥러닝(Deep Learning)과 신경망컴퓨터의 등장으로 스스로 작업하는 인공지능이 곧 등장할 것이라는 주장을 곧잘 듣는다. 예를 들어 이세돌을 이긴 알파고를 며칠 간의 자기학습으로 이긴 알파고 제로(AlphaGo Zero)는 상대의 수에 대응하는 능력이 인간보다 월등해 최고의 프로 기사도 두지 못하는 수를 계산해낸다. 하지만 인간의 지능은 단지 무엇을 할 수 있는 능력뿐만 아니라 축적된 경험을 연결하는 의식과 관련되어 있다는 점에서 다른 개체와 다르다. 그래서 인간의 지능은 역사적인 자장 안에 존재한다. 역사의 슬픔과 기쁨 안에서 작동하는 지능과, 무역사의 텅 빈 공간 안에서 주어진 직무를 수행하는 인공지능 사이에는 넘을 수 없는 간극이 존재한다.
- 〈4장. 인공지능은 문화를 창조할 수 있는가〉, 161쪽

인간과 기계 간의 제어관계가 사라지는 순간 사이버네틱스의 종말과 포스트휴먼의 시대가 열릴 것이다. 이제까지의 제어관계는 인간이 기계를 이용해 더 이상 잉여가치를 생산하지 못하거나, 기계 자체가 기계를 제작해 인간의 개입이나 예측이 불가능한 사회 조건에서 종말을 맞이할 것이다. 아이러니하게도 인간과 기계 간 제어관계의 종말은 포스트휴먼의 단초가 된다. 인간 이후(posthuman)의 시대란 새로운 종이 인간을 대체하는 시대를 뜻한다. 인간은 실제로 서서히 무언가로 대체되고 있다. 산업혁명은 인간의 육체노동을 대체했고 컴퓨터는 인간의 구상노동을 대체했다. 인간의 구상과 실행의 전면적인 기계적 대체가 이뤄진다면 인간은 더 이상 스스로의 몸과 머리를 지탱하기 힘들어질 것이다.
- 〈5장. 인공지능의 존재론〉, 176~177쪽

서비스 플랫폼은 이용자 활동이 이뤄지는 공간에서 가시성과 발화성에 입각해 이용자들의 커뮤니케이션을 촉진하고 그들의 힘과 주체화를 강화하는 것처럼 작동한다. 하지만 눈에 보이지 않는 곳에서는 이용자들의 활동 결과물을 수취하고 그들의 활동을 추적하며 통제한다. 서비스 플랫폼이라는 장치는 보이지 않는 것을 보이게, 들리지 않는 것을 들리게 할 수도, 정반대로도 할 수 있다. (…) 보이지도 들리지도 않는 소프트웨어는 플랫폼의 가시적 영역인 이용자 인터페이스로 작동하면서 수집(흡수)과 추적(포획)이라는 역할을 바꿔가며 수행한다. 소프트웨어 기반 알고리즘은 그것에 대한 전반적인 지식, 그것을 활용한 권력, 그것을 이용한 가치증식이라는 세 가지 차원에서 근대 규율사회의 장치인 파놉티콘을 뛰어넘는다.
- 〈6장. 플랫폼 장치는 우리를 어떻게 인지하고 포획하며 착취하는가〉, 209쪽

디지털 플랫폼을 통해 개체가 수치로 환원되는 과정이 분할체화라면, 분할체로 이뤄진 데이터세트가 개인에게 되먹여지면서 생각과 행태를 만드는 과정을 조각주체화라 부를 수 있다. 플랫폼에서 이뤄진 구매행위의 흔적은 회로를 떠돌다가 다른 데이터와 결합해 내게로 되돌아와 다른 상품의 구입을 유도한다. 내가 올린 글에 달린 댓글과 ‘좋아요’는 다음에 쓸 글의 행방을 유도한다. 내가 본 유튜브의 영상은 추천 알고리즘을 통해 화면 오른쪽에 길게 늘어선 ‘관련 콘텐츠’에 반영된다. 알고리즘은 이용자의 편의를 극대화하기 위해 작동하는 것처럼 보이지만, 실상은 자본의 효율성을 위해 운용될 뿐이다. 플랫폼은 개체의 분할체화와 조각주체화를 반복하면서 개인의 사고와 행위를 자동화한다. 오늘날 디지털 플랫폼은 자동화된 계획과 통제를 완성하고 있다는 점에서 사이버네틱스의 이상을 달성하고 있다.
- 〈7장. 개체의 분할체화와 분할체의 조각주체화〉, 236쪽

웹3의 주창자들은 이용자의 활동 데이터를 독점하면서 막대한 수익을 창출하는 거대 플랫폼 기업에 대한 저항 의지를 공공연히 드러낸다. 그들은 웹3 환경에서는 이용자가 데이터를 온전히 소유할 수 있기 때문에 거대 플랫폼 기업의 독점을 막을 수 있다고 주장한다. (…) 그들은 정부, 거대 플랫폼 기업, 은행 등 중앙집중식 기관에 의존할 필요가 없다면서, 인터넷 초기 자유주의자들의 이상을 반복한다. 하지만 그와 같은 주장이 실현될지는 의문이다. 블록체인 생태계만 보더라도 이미 코인 채굴업체나 거래소라는 중앙화된 요소가 자리 잡고 있다. 암호화폐 거래소나 채굴업체는 더 이상 P2P도 아니고 분산된 탈집중화의 대표성도 지니지 못한다. 그것은 에너지를 낭비하고 암호화폐의 투기화를 유지할 뿐이다.
- 〈8장. 인터넷의 변화로 들여다보는 기술혁신의 이면〉, 279~280쪽

챗GPT와 같은 생성 인공지능에서는 데이터세트, 즉 텍스트, 이미지, 동영상 같은 기표적 기호와 측정치 같은 비기표적 기호 모두 핵심적인 역할을 한다. 기업들은 특정한 작업을 위해 데이터를 모아 데이터세트를 구성하고 이를 바탕으로 다양한 서비스를 개발하고 있다. 그런 점에서 자체 데이터세트를 확보하고 있는 거대 기업 간의 경쟁도 더욱 격화될 것으로 보인다. (…) 인공지능 생성물이 폭증한다면 공장에서 생산된 상품이 장인의 제품을 시장에서 퇴출시켰듯이, 인공지능이 자동으로 생성한 콘텐츠가 인간이 만든 콘텐츠를 몰아낼지도 모른다. 생성물의 독창성이나 품질을 논외로 한다면, 생산가격이라는 측면에서 인간이 생산한 콘텐츠가 인공지능 생성물을 따라잡을 수 없을 것이기 때문이다. 이제 인간이 만든 콘텐츠는 대량생산체제의 틈바구니에서 고급 상품으로 자리 잡은 수공업 제품과 같은 지위를 얻는 데 만족해야 할지도 모른다.
- 〈9장. 공유와 가상까지 사고파는 인지자본주의 시대〉, 310쪽

인지과정과 결과물의 상업화는 디지털 보편시장을 만든다. 그것은 탈물질화된 상징과 기호의 세계를 시장경제의 틀로 포섭한다. 다양한 플랫폼과 서비스를 통해 이뤄지는 이용자들의 인지활동과 소통·정서·판단·동의·감정 등은 디지털 데이터를 남긴다. 자본은 이용자의 활동 데이터를 축적하고 통계적 예측을 통해 새로운 서비스를 만들어내면서 탈물질화된 부분을 재물질화하고, 탈상업화되었던 부분을 재상업화하면서 보편시장의 범위를 더욱 확장한다. 이처럼 지식자본주의 또는 정보자본주의의 핵심에는 데이터가 놓여 있다.
- 〈10장. 인지자본주의를 어떻게 비판할 것인가〉, 339~340쪽

플랫폼 이용자나 피고용자는 다양한 방식으로 장소와 시간을 달리하며 디지털 어셈블리라인에 결합되어 있다. 우리는 은행 계정의 생산소비자로, 하부 노동을 지탱하는 유령노동자로, 말단 택배 운수노동자로, 아마존 창고의 분류노동자로, 페이스북 공장의 모듈엔지니어로, 인형 눈알을 달아주는 디지털 하청노동자로, 가짜뉴스를 만들어 수동소득을 노리는 유튜버로, 그리고 검색 이용자로 생산-소비의 여러 측면에서 노동과정에 예속되는 한편 인공지능을 기반으로 하는 거대 플랫폼의 노예로 전환되고 있다. 이런 과정에서 사람들은 새롭게 재편되고 있는 인공지능 기반 사회시스템에 복종한다.
- 〈11장. 플랫폼 자본주의 속 노동의 변화〉, 370~371쪽

서비스 플랫폼으로 매개되는 지대관계의 현대적 형태는 봉건지대의 현물 형태가 실현되는 모양과 유사하다. 물론 현대적 지대관계에서 경제 외적 강제는 작동하지 않는다. 이용자는 플랫폼에서 할당받는 각종 서비스와 편의의 대가로 디지털 흔적과 활동 결과물을 서비스 제공자에게 양도한다. 이러한 양도가 쉽게 이뤄지는 이유는 기업이 서비스를 무료로 제공하기 때문이다. 서비스 이용자가 자신의 활동 결과물을 양도하지 않는다면 플랫폼 자체가 돌아가지 않기 때문에, 공동의 것을 이용한 소셜미디어에서는 이용자 활동 결과물 자체가 플랫폼에서 핵심적인 역할을 한다. 이용자 개개인에게는 자신의 활동 결과물과 다른 이용자 활동 결과물의 일부만 제공되는 반면, 서비스 제공자는 이용자 활동의 전체 결과물을 배타적으로 전유한다.
- 〈12장. 디지털 서비스 플랫폼의 핵심, 플랫폼 지대〉, 399~400쪽

팬데믹 사회의 국가권력은 이처럼 과학기술과 정보를 결합해 인구를 관리한다. 국가는 인간 개체의 정동과 심리를 제어하면서 사회적 복종의 기반을 만들고, 질서와 안전 유지라는 명목으로 사회관계를 통제하며, 질병 퇴치라는 틀로 바이러스의 움직임에 개입한다. 이렇게 확보된 데이터는 인공지능과 결합하면서 사회적 통제를 위한 원료가 된다. (…) 사회적 몸의 건강을 유지하기 위해 그들은 감시와 조기 통제체제를 만든다. 그리고 기존의 치료체계를 동원하고 조절한다. 이처럼 국가기구는 감염병에 대한 사회적 안전이란 명목으로 기존 의료자원의 재구성과 분배를 통해 사회적 몸의 건강을 돌보거나 관리한다.
- 〈13장. 팬데믹 시대는 어떻게 기계적 예속과 사회적 복종을 강화했는가〉, 435쪽

개체는 사회적으로 복종하고 분할체는 기계적으로 예속되어 있지만, 복종과 예속의 틀에서 틈새를 비집고 새로운 대항을 조직하거나 탈주할 수 있다. 비록 기계적 예속은 확대되고 있지만 여전히 분할체의 연대와 저항의 가능성이 남아 있다. 이것을 무시하면 분할체의 노예화와 개인의 예속만 남고 출구는 없는 디스토피아에 빠진다. 그러나 이런 생각은 또한 얼마나 관념적인가. 이를 구체적인 현실로 연결하는 고리를 모색해야 한다. 그래서 인공지능 플랫폼에 대한 비판적 분석 작업과 더불어, 기계적 예속과 사회적 복종이 어디서 연결되는지, 주체가 그로부터 어떻게 탈출할 수 있을지를 탐색해야 한다.
- 〈나가며_인공지능 시대 인간의 조건을 생각한다〉, 456쪽