*북저널리즘은 북(book)과 저널리즘(journalism)의 합성어다. 우리가 지금, 깊이 읽어야 할 주제를 다룬다. 단순한 사실 전달을 넘어 새로운 관점과 해석을 제시하고 사유의 운동을 촉진한다. 현실과 밀착한 지식, 지혜로운 정보를 지향한다. bookjournalism.com ■ 인간을 더욱 더 닮아 가는 기계 2024년 5월 14일 오픈AI가 사람처럼 듣고 말할 수 있는 생성형 인공지능을 선보였다. 플래그십 모델인 ‘GPT-4o’다. 새로운 GPT는 텍스트를 통해 대화하던 기존 모델과는 달리, 청각과 시각으로도 추론하고 이를 곧바로 음성으로 표현할 수 있다. 사람이 오감을 활용해 정보를 얻고, 다양한 방법으로 의사를 표현하듯, 인공지능 모델이 사진이나 그래픽을 보여 주며, 심지어는 다양한 말투로 대답한다는 의미다. 그뿐만 아니다. 인공지능은 이제 사람의 표현과 감정까지 분석한다. 우리가 대화하며 상대방이 건네는 말의 속도와 높낮이, 작은 눈의 떨림까지 지각하듯, 인공지능도 인간을 상대로, 인간처럼 생각하며, 인간처럼 행동한다. 인공지능은 빠르게 발전하고 있다. 발전의 방향이라는 게 ‘점차 더 인간을 닮아 가는 것’이라면 말이다. “안정적인 데이터만 대량으로 주어진다면, 기계는 모든 것을 학습할 수 있다. 인지 기계에서 사고 기계로의 전환이 실현되는 것이다. 2011년 TV 퀴즈쇼 ‘제퍼디!’에서 인간 챔피언에 승리한 인공지능 ‘왓슨’, 2016년 인간 바둑 챔피언을 꺾은 ‘알파고’ 등은 심층 학습의 힘이 얼마나 심오한지를 과시했다. 이후에 등장한 챗GPT, 미드저니, 스테이블 디퓨전 등 생성 인공지능은 읽고, 쓰고, 듣고, 그림을 그리고, 인간과 대화하거나 코딩을 할 줄 안다. 인공지능은 알고리즘이라는 인지 기계에 기계 지능을 장착한, 신체 없이 사고하는 로봇이다.” (147쪽) 인간은 자신과 닮은 무언가에서 동질감을 느끼기도 하지만 그 동질감이 때로는 불쾌함과 두려움으로 번지기도 한다. 특히 그것이 일자리, 즉 삶의 경계와 관련돼 있을 때는 더더욱 그렇다. 로이터통신의 보도에 따르면 전 세계 2000개 대기업 고위 임원 중 41퍼센트가 인공지능 기술로 인해 일자리가 감소할 것으로 예측했다. 이미 기술 기업들은 움직이고 있다. 1분기 마이크로소프트, 구글, 아마존 등의 기술 기업은 미국 내 1분기 전체 감원의 16.5퍼센트를 차지하는 비중으로 해고를 주도했다. “인공지능이 자본주의적 생산 양식에 본격적으로 도입된다면 문화 산업뿐 아니라 지식 경제 전체에 걸친 일자리 충격이 찾아올 것은 자명하다. 제조업과 육체노동 영역에서 지구 산업은 이미 자동화로 인해 실업과 경제 성장 둔화가 장시간 지속돼 왔다. 지적이고 창조적인 산업 부문도 이미 풍전등화 상태다. 생성 인공지능의 강력한 자연어 및 기계 언어 구사 능력, 이미지·텍스트·사운드의 능동적인 문해와 출력 능력으로 인해 디자인, 창작, 컴퓨터 공학, 의학, 법률과 관련된 업무뿐 아니라 사무나 기획과 관련된 모든 분야도 대체될 수 있다.” (152쪽) ■ 인공지능 시대, 사람들은 노동하지 않게 될까? 정말 인공지능 시대에서 사람들은 노동하지 않게 될까? 문제는 그리 간단하지 않다. 《알고리즘 자본주의》는 알고리즘과 인공지능의 시대가 그러한 유/디스토피아의 모습을 하고 있지 않음을 보인다. 이미 우리의 노동은 알고리즘을 타고 인지와 주목으로 대체돼 왔다. 우리는 우리 자신의 즐거움을 채운다는 상상 위에서 구글에 돈을 벌어다 준다. 끊임없는 추천 영상과 좋아요, 구독의 소용돌이 위에서 사람들은 조용히 노동하고, 조용히 착취당한다. 무엇보다 문제적인 것은 우리 시대가 그에 대해 어떠한 문제의식도 제기하지 못했다는 점이다. 우리는 노동하지 않는다는 착각 위에서 노동하고 있다. “영상 클립을 제작·편집하거나, 1인 방송을 운영하거나, 여행지에서 사진을 찍거나 음식을 먹고 명품 옷과 셀피를 제작하는 활동은 이윤 추구 활동으로는 인식되더라도 그 과정이 노동으로 인식되지는 않는다. 노동의 결과물이 문화 창조 또는 예술의 생산, 미적 재현 등 창의성과 연결되는 경우, 그 자아실현적이고 심미적인 성격 때문에 ‘좋은 노동’으로 생각되는 경우가 다반사다. 이는 자연스럽게 열정 페이 및 자기 착취를 정당화하는 기제로 이어진다. 창의 노동을 하는 사람들은 자신이 노동과정을 통제하는 자율적인 주체라고 여기지만, 사실상 여기에는 노동 소외와 노동 지배의 현실이 숨어 있다. 현실적으로는 창의적인 노동을 수행하는 사람 중 극소수만 자율성과 소유권을 누리며, 대부분이 임금 노동자들보다 더 나쁜 조건에서 생활하면서도 이를 자기 합리화하는 방식으로 착취를 내면화한다. 이는 OTT나 음원 등 새로운 플랫폼 기반 문화 콘텐츠 서비스 국면에서 더욱 강화되며, 각국의 문화 산업을 지구적인 네트워크 환경 규모에서 재편한다.” (57쪽) 주목해야 할 것은 달라진 노동의 형태가 불러올 효과다. 노동이라는 행위에는 방향성이 있다. 컨베이어 벨트가 한 방향으로 돌아가고, 그 방향에 맞춰 노동자들이 한정된 움직임을 보여야 하는 것처럼, 행위가 노동으로 규정되면 방향성과 틀이 생기게 된다. 알고리즘 자본주의의 시대에서, 우리의 인지와 선택에도 마찬가지의 일이 생겼다. 물론 그 방향은 알고리즘이 결정한다. 나의 행위와 시선, 선택은 데이터로 쌓여 0과 1로 번역된다. 조합된 숫자들은 나의 다음 선택을 유도하고 평가한다. 우리의 인지는 이미 컨베이어 벨트 위에 있다. “그러나 검색 엔진, 소셜 미디어와 소셜 커머스의 추천·홍보 알고리즘, 유튜브와 거대 언어 모델에 이르기까지 알고리즘은 2000년대 초반에 비해 훨씬 진일보한 데다, 벨러의 생각과 달리 단지 ‘보는 것’만이 아닌 ‘느끼고, 생각하고, 읽어 내는’ 모든 행위에 개입하게 됐다. 최근 정보 기술과 미디어 네트워크는 청중에게 콘텐츠를 판매해서 이윤을 내는 것이 아니라 광고주들에게 제조된 청중(manufactured audience)을 판매함으로써 이윤을 만든다” (72쪽) ■ 인공지능과 알고리즘 바깥, 상상력을 복원할 용기 다가오는 인공지능의 시대는 이 흐름을 더욱 가속할 전망이다. 알고리즘이 선택과 인지에 방향성을 부여했다면 인공지능은 그 나아가는 힘과 속도마저 결정해 버린다. 사람들은 자신의 인지와 행동에 주체적으로 속도를 부여할 수 없다. 배달 라이더들이 길을 무시한 채 직선거리를 내달려야 하는 것처럼, 인공지능이 수행하는 인지의 속도에 인간은 따라갈 수 없다. 인간은 언제나 인공지능보다 앞서 인공지능의 결정에 도움을 줘야 하는 보조자였지만, 한편으로는 인공지능의 결정에 완전히 납득하거나 수긍할 수 없는 존재였다. 알고리즘 자본주의가 선택의 문제였다면, 인공지능 자본주의는 속도의 문제다. “요컨대 알고리즘과 인공지능이 추동하는 인지 자동화 시대에 블랙박스가 되어 가는 제3 섹터를 읽어 내고자 한다면 비인간의 정치학 혹은 비인간의 기술 정치가 요청된다. 보편적 기본소득이나 디지털세와 같은 인간주의 정치의 해결법만으로는 해결될 수 없다. 법과 규범, 사회 계약은 인간들 간의 사회적 관계를 규정하지만, 알고리즘과 인공지능은 프로토콜, 비기표적 기호계의 영역이다. 이 비인간의 층위에서 작동하는 제3 섹터 기술의 기하학에 직접 개입할 수 있을 때 비로소 실낱같은 투쟁 주기의 기회들이 마련될 것이다” (192쪽) “이 책은 알고리즘 자본주의에 대한 해부도를 그리고, 대안이 가능할 뿐 아니라 우리가 그것을 꿈꿔야 할 수 있음을 역설하기 위해 쓰였다. 알고리즘과 인공지능에 대한 대안적이고 유토피아적인 상상력이 창발돼야 하는 시점이다. 다가올 새로운 자본주의적 수탈과 노예화에 맞서, 민주적 기술의 발명을 위해 우리가 사회적 대화를 시작해야만 하는 이유다.” (205쪽) 우리는 알고리즘의 방향성에, 그리고 인공지능이 속도에 어떻게 대처해야 할까? 어쩌면 다른 세계를 상상하는 상상력이 그 해결의 단서가 될 수 있다. 구글의 페이지랭크 검색 방식은 ‘검색’이라는 무한한 다양성에 하나의 모습을 부여해 버렸다. 유동체가 딱딱한 박스 안에 갇히듯, 페이지랭크 시대 이후의 세계는 검색의 다른 모습을 상상하지 못하게 된 것이다. 미국 법무부가 구글의 검색 독점력에 제동을 걸기 시작한 즈음부터 탈중앙화와 개인화의 바람을 타고 새로운 검색 엔진들이 등장하기 시작했다. 틀을 넓히고, 방향을 분산시키고, 조금 먼 길을 돌아감으로써 우리는 방향과 속도의 독재에 저항할 수 있다. 지금 우리가 두려워해야 할 것은 인간의 노동력을 대체할 인공지능이 아닌, 인공지능처럼 생각하고 내달릴 인간의 미래다.

프롤로그 ; 변환하는 자본, 경계로 내몰리는 노동 1 _ 플랫폼과 알고리즘의 신경망 ; 예속된 인지의 자동화 새로운 자본주의 체스판, 플랫폼의 등장 플랫폼과 알고리즘, 소통을 정량화하다 인지 기계가 생산하는 문화 인지 자동화 : 감각적 주체의 사라짐 알고리즘 탈숙련화 : 해체되는 문해력과 예속되는 해석 2 _ 죽은 노동의 사회 ; 플랫폼과 지대 오, 플랫폼, 나의 알고리즘 플랫폼의 다섯 왕국 지대 : 디지털 지주와 소작농, 혹은 건물주와 세입자 3 _ 주목을 가치로 변환하는 알고리즘 주목 경제와 인지의 로지스틱스 만물 정량 평가 : 검색 엔진과 페이지랭크 알고리즘 관계와 트렌드를 팝니다 : 추천과 피드 알고리즘 제조된 청중과 주목 : 광고와 홍보 알고리즘 광고, 구독료, 후원을 통한 주목의 가치 실현 4 _ 알고리즘 노동과정 ; 어떻게 일하고, 착취당하는가 알고리즘 노동과정의 분석 방법 메타데이터의 인클로저 알고리즘은 작업자로부터 잉여노동을 추출한다 기생적 인수분해 : 플랫폼의 플랫폼, 외주의 외주 5 _ 인공지능과 비인간노동 미세 노동으로 쌓아 올려진 거대 언어 모델 인공지능은 스스로 잉여가치를 만들 수 없다 제3섹터 : 비인간노동과 신경망 분업 6 _ 네트워크와 신피질의 연합, 자유로운 신경망을 향하여 자본주의 소셜 픽션 신경망의 인력과 신피질의 척력 커먼즈 신경망을 향하여 주 북저널리즘 인사이드 ; 알고리즘 바깥으로 산책할 용기

“찰리 채플린의 영화 〈모던 타임즈〉는 인간의 육체가 기계의 부품이 되어 가는 소외를 그렸지만, 이제 그 기계의 역할을 알고리즘과 인공지능이 넘겨받았다. 우리의 뉴런은 점점 알고리즘과 플랫폼, 인공지능이 자아내는 기계 신경망의 일부가 되어 간다. 어떤 사물을 머리에 떠올리는 것만으로도 광고가 송출되고, 느낌을 상상하기만 해도 비슷한 모양새의 콘텐츠들이 나를 둘러싼다. 비슷한 견해, 취향을 가진 사람들과 수없이 연결되지만 언제나 외롭다고 느낀다. 이 수많은 영상과 광고, 그리고 커뮤니케이션은 어디에서 비롯된 것일까? 누가 그것들을 만들고, 누가 통제하는가? 마음과 정보 기계들의 네트워크 사이에 보이지 않는 톱니바퀴들이 있고, 우리는 이 기계들이 생산하는 생각의 상품들 속에서 노예화되고 있는 것은 아닐까?” (10쪽) “임금을 주지 않으면서도 노동을 하도록 할 수 있는 새로운 체스판, ‘플랫폼’이 도입되기 시작한 것이다. 이 체스판은 겉보기엔 이전과 다를 바가 없다. 그러나 그 안쪽에는 교묘히 열과 행마를 바꾸는 기계 장치들이 설치되어 있다. 알고리즘이 바로 그것이다. 알고리즘이 작동하면, 노동 진영의 수는 매번 자충수가 돼버리고 만다. 이를 눈치챌 길이 만무한 사람들은 몰래 룰을 바꿔 버린 자본가들에게 항의하는 것이 아니라 체스 공부를 덜 한 자신, 결정적인 순간에 잘못된 선택을 한 자신을 자책한다. 체스는 이제 자본이 노동을 수탈하는 일방적인 게임이 되어 가고, 룰은 이해하기 어려워질 정도로 복잡해졌다.” (19쪽) “퍼스널 컴퓨터와 인터넷이 삶에서 보편화하면서, 컴퓨터의 작동 방식에 따라 상징과 정보가 가치화되고 처리되는 ‘비물질 노동(immaterial labour)’이 도래한다. 대규모 자동차 공장과 노동조합의 시대가 저물고 인간 지력이 직접 컴퓨터·정보 기계와 피드백을 주고받는 시대가 왔다.” (21~22쪽) “우리가 메신저와 채팅방, 영상 채널, 소셜 미디어 피드에서 주고받는 모든 신호는 일종의 수학적 영향력으로 환산되는데, 알고리즘은 이를 정량 평가하여 위계화하는 역할을 한다. 1만 유튜버, 10만 유튜버, 100만 팔로워, 조회 수 10만 회의 글, 댓글 3000건이 달린 포스팅 등. 빅테크가 체스판 밑에 깔아둔 알고리즘은 이처럼 인간 커뮤니케이션을 수평적·민주적 참여로 이끄는 것이 아닌 ‘기여(contribution)’의 정도에 따라 더 많은 정보와 가치가 주어지는 방향으로 행마를 유도한다.” (23쪽) “알고리즘은 문화 창조보다 더 기저의 인간 인지 활동들, 예컨대 보고, 듣고, 느끼고, 표현하고, 감각하는 등의 행위에 개입한다. 근대의 방직기와 증기 기관이 산업 기계라면, 알고리즘은 인지 기계다. 산업 기계는 물리적 층위에서 작동하지만, 인지 기계는 물리적 세계(physical)와 디지털digital이 결합된 합성계, ‘피지털physital’8의 층위에서 움직인다.” (26쪽) “그러나 알고리즘 자본주의 국면에서 빅테크 기업들은 노동자들을 고용하지 않는다. 그들은 플랫폼을 만들어놓은 다음, 마치 지주들이 소작농에게서 공물을 받아내는 것처럼 수수료 수익으로 부를 쌓는다. 핵심은 임금과 노동 착취가 아닌, 외부화된 노동과 지대다.” (29쪽) “오늘날의 인터넷에는 이용자를 이윤의 사슬로 옭아매는 알고리즘으로 가득하다. 이 인지 기계들은 읽고 쓰고 해석하는 행위를 통해 세계를 분석해 온(그리고 변화시켜 온) 근대적 주체를 연산주의로 억누른다. 검색 엔진의 키워드 자동 완성, 구글의 페이지랭크 알고리즘, 소셜 미디어의 피드 알고리즘과 추천, 홍보 알고리즘, 인공지능과 거대 언어 모델 등이 그 중심에 있다.” (35쪽) “요컨대 구글이 우리에게 1페이지 가장 윗줄부터 보여 주는 웹페이지들은 가장 많이 링크가 걸려 있고 가장 많이 본 페이지들이지 ‘가장 중요한 정보’가 아니다. 구글 검색에 ‘마르크스’라는 키워드를 검색해 보자. 제일 윗줄의 웹페이지는 위키피디아다. 그 다음은 나무위키다. 그다음으로는 언론사들의 웹페이지가 나열된다(영어로 검색하면 나무위키 대신 브리태니커 백과와 엔사이클로피디아가 그 자리를 차지한다). 위키피디아와 나무위키는 집단 지성이 만들어 내는 웹페이지로 가장 링크가 많이 걸리며, 하이퍼텍스트에서 항상 최상위를 차지한다.” (75~76쪽) “유튜브의 총 재생 시간의 70퍼센트는 이용자가 직접 영상을 찾아 플레이한 것이 아니라 키워드 연관성에 입거한 추천 알고리즘이 자동으로 재생한 것이었다. 유튜브는 2007년 이후 그간 축적한 이용자 데이터를 바탕으로 해서, 검색과 추천 알고리즘을 강화했는데 이는 이용자들의 개인적 취향을 분석해 반영한 결과이기도 하지만 거꾸로 이용자들이 자신의 개인적 취향을 알고리즘 추천에 맞춰 바꾸기도 하는 결과를 야기했다.'” (82쪽) “요컨대 알고리즘과 인공지능 혁신 이후 일자리는 줄어드는 것이 아니라 늘어난다. 그러나 이는 좋은 일자리들이 점차 사라지고 그 빈자리에 더 많은 나쁜 일자리들이 들어선다는 것을 의미한다. 플랫폼과 알고리즘이 파이 조각을 빵 부스러기로 뭉갠 다음 테이블 아래에 뿌리면, 줄 선 사람들이 차례로 허겁지겁 핥아먹는다고 생각하면 된다.” (154쪽) “정규 고용 부문은 이렇게 변한다. ‘생성 인공지능이 있으니 그깟 디자인이야 30분이면 할 수 있잖아? 남들은 다 구독료 내고 쓰던 걸.’ 비정규 고용·비임금 노동 부문은 이렇게 된다. ‘생성 인공지능이 있는데 뭐가 걱정이에요? 다른 분들은 다 이 단가에 서너 건씩 동시에 작업하고 계세요. 이 보상이 불만이시면 계약하지 마시든가요. 더 싸게 할 분들이 많으니까요.’ 상사가 시켜서, 회사 방침이 바뀌어서, 법이 바뀌어서가 아니라 인공지능이라는 마법 같은 단어에 담긴 비인간 노동 행위성이 우리를 굴종시킨다.” (173~174쪽)