추가 적립 안내

우리는 왜 알고리즘에서 쉽게 벗어날 수 없을까?
모든 걸 기술로 자동화하면 정말 아무 문제가 없을까?

SNS 없이 하루를 버틸 수 있는 사람이 있을까? 미디어는 이미 우리 일상을 잠식한 것도 모자라 현실과 다를 바 없는 가치를 지닌 가상 공간이다. 혼밥에 필수인 유튜브, 자기 전에 왠지 눈에 들어와 클릭하게 되는 뉴스 기사, 이쯤 되면 하나 올려야지 싶은 SNS. 알고리즘은 이 수많은 매개를 자동화 해주는 끝판왕이자 흑막이다. 중학교 때 싸워 서먹해진 친구도, 잠깐 관심이 생겨 눌러본 콘텐츠도, 알고리즘에겐 모두 데이터가 된다. 알고리즘은 나를 어떻게 생각하길래 이런 불편한 정보도 모조리 보여주는 걸까? 그런데 왜 나는 길들여지고 있을까? 자동화 기술의 문제와 대안을 진짜 알고리즘 전문가에게 듣는다.

유튜브를 장기간 소비하다 보면 다음 동영상이 자동 재생되어도 의식하지 못하는 수준에 이른다. 습관적으로 홈 화면에서 스크롤을 내리다 취향에 맞게 정렬된 동영상 중 하나를 선택한다. 원하지 않는 동영상은 추천하지 않도록 손쉽게 설정할 수 있지만, 새롭게 보고 싶은 영상이 있다면 찾아서 봐야 한다. 비슷한 영상이 추천 목록에 뜨도록 만들려면 관련 영상을 일정 기간에 걸쳐 여러 개 봐야 한다. 간혹 추천 경로나 이유를 알 수 없는 동영상이 나왔을 때 너무 재미있거나 유익하다면 우리는 ‘킹고리즘’을 외친다. 요컨대 알고리즘에 감탄하는 것은 계량화할 수 없는 취향을 저격 당했거나 새로이 즐길 무언가를 제시했을 때다.

“추천은 양가적이다.”

옷 가게 점원의 판매 방법을 생각해보자. 보통 고객의 스타일을 파악하여 유사한 옷을 꺼낸 뒤 “이것도 잘 어울리실 것 같아요”라는 말과 함께 제시한다. 한편 고객이 시도해보지 않았을 법하지만, 점원이 추구하는 감각에 맞거나 유행인 옷을 꺼내며 “이런 건 어때요?”라고 할 수도 있다. 익숙한 것과 새로운 것의 차이다. 알고리즘은 미디어 영역에서 명목상 두 종류의 추천을 모두 수행하지만 후자는 쉽게 일어나지 않는다. 추천을 기대하는 심리에서 후자가 차지하는 영역은 적지 않다. 춤에 하나도 관심 없던 시청자가 우연히 댄스 경연 TV 프로그램을 보고 댄서 출연자의 팬이되어 “이 프로가 아니었다면 당신을 영영 몰랐을 것”이라고 반응하는 것은 일반적이다.

“기술 발전은 개인주의를 수월하게 했다.”

인간은 기술이 세분화된 사적 취향을 일정 수준 고려해 준다는 이유로 커뮤니케이션의 단절과 고립을 용인했다. 세밀한 취향이 맞는 친구는 온라인에서 더 쉽게 사귈 수 있지만 현실 세계는 그 커뮤니티의 구성원으로만 채울 수 없다. 실재는 갈등의 연속이다. 나와 다른 사람을 마주치고 갈등하고 이해하는 과정에서 사회적 성숙이 이루어진다. 편향된 정보로 구축한 세계관은 건강한 파편화가 아닌 부족주의를 낳는다. 이미 일상의 상당 부분이 미디어에 종속된 현대인에게, 모사된 표상은 실재에 버금간다. 자동화된 미디어 기술이 현실 세계에서 우리가 맞닥뜨려야 하는 정보를 선제적으로 배제하는 것이 무서운 이유다.

“알고리즘이라는 거대한 지식 논리의 작동을 위해 우리가 제공한 정보는 차갑게 계량화된다.”

수치화할 수 없는 숱한 가치가 우악스럽게 숫자로 해부되어 불편한 범주화가 이루어진다. 인간은 장기 조각과 신체 조직을 사후 조합하여 만들어낼 수 있는 것이 아니다. 과학의 엄청난 발전으로 거기에 생명을 불어 넣는다 한들 한 사람의 가치는 그간의 기억과 언행, 남들 기억 속의 모습일 것이다. 알고리즘이 구현한 표상은 적당히 그럴듯하면서 어딘지 모르게 메스껍다. 알고리즘은 알면서 덮어두는 일이 없이 우리 몸속의 장기를, 인간 사회의 편향과 과오를 천진하게 꺼내 보인다.

적당히 비슷한 옷을 추천해주는 점원 혹은 화장실까지 따라 들어오는 불편한 파파라치는 인간 사회의 다양한 분야에서 나름의 순기능을 한다. 그러나 우리에게 미래를 보여주진 않는다. 알고리즘이 구현한 가상 세계는 우리가 고민하고 씨름해야 할 문제를 던지는 저널리즘의 영역에서는 구분될 필요가 있다. 기계적 분석이 내놓은 결과는 통찰과 전망이라 부를 수 없다. 인간을 닮은 기술이지만 결코 인간일 수는 없기 때문이다. 오세욱 저자는 알고리즘 지식 논리의 문제점을 꼬집고 분석하여 이점을 확실히 한다.

1 _ 자동화 시대의 미디어
마스터 알고리즘은 가능할까
자판이 연필을 대체하기까지
그대로 받아들일 필요는 없다

2 _ 미디어 진화의 3단계 ; 미디어는 어떻게 자동화되는가
일상생활의 매개, 미디어화
미디어의 표상, 소프트웨어화
표상의 표상, 알고리즘화

3 _ 알고리즘의 논리
알고리즘이 추천한 뉴스
편집 논리와 지식 논리의 경쟁

4 _ 알고리즘의 블랙박스
자동화 알고리즘의 무차별적 차별
편향은 누가 만드는가
숫자로 읽을 수 없는 것들

5 _ 기술의 고삐를 쥐어라
인간은 어떻게 대응하고 있는가
익숙함에서 벗어나 질문을 던져야 한다
저널리즘의 기술 감시 사례

에필로그 ; 자동화 시대의 저널리즘

주

북저널리즘 인사이드 ; 인간을 닮은 기술

“문제는 기계 학습 알고리즘이 베일에 가려진 블랙박스라는 점이다. 컴퓨터가 수천 테라바이트의 정보를 수집하여 새로운 결과물과 통찰력을 제시하더라도 실제로 무슨 과정을 거치는지는 아직 아무도 제대로 알지 못한다.” 11p.

“인간이 다룰 수 없는 방대한 양의 데이터를 바탕으로 통찰력 있고 효율적인 정보를 제공하는 것처럼 보이지만, 알고리즘은 결코 중립적이지 않으며 통제의 목적으로도 사용될 수 있다.” 15p.

“수용자들은 미디어의 매개 과정에서 무의식적으로 선택한 결과에 따라 자신이 알고 싶지 않은 것도 알게 되는데, 그 과정에서 사회적 생존을 위해 필요한 정보 이상을 습득하게 된다. 이는 얼마든지 거부할 수도 있는 선택의 영역이지만, 그 거부가 쉽지 않다. 표상된 현실을 다수가 실재로 받아 들이면서 일상이 점유되고 있기 때문이다.” 26-27p.

“알고리즘이 정보를 다룰 때, 그들은 동시에 관계와 연결을 재구조화하고 무언가를 선호하도록 독려하며, 우연한 만남을 만든다. 그 과정을 통해 우리의 생각과 정체성을 다시 형성하는 것으로 늘 끝을 낸다.” 47p.

“알고리즘은 통계 기반이기 때문에 99퍼센트의 효율성을 위해 1퍼센트를 배제한다. 이 배제는 강력한 권한을 행사하는 것이지만 우리는 무엇이 배제되는지조차 알 방법이 없다. (중략) 미디어는 강력하지만 배제의 결정을 내릴 권한까지 위임된 권력은 아니다.” 61p.

“우리는 알고리즘을 단지 절차에 따른 코드의 집합으로 봐서는 안 된다. 이것이 사회적으로 구성되었으며, 제도적으로 운영되고 있는 하나의 체제로 봐야한다. 알고리즘은 새로운 지식 논리다. 이는 기존 미디어의 편집 논리와 경쟁하는 논리다.” 64p.

“자동화 알고리즘의 결과물들에 대한 문제 제기가 이루어지는 가장 큰 이유는 인공지능 등 기술이 자동화를 위해 학습하는 기존 데이터들이 대부분 인간이 만들어 낸 것이기 때문이다. 인간이 역사적으로 갖고 있던 젠더 편향, 인종 편향 등이 담긴 데이터들을 학습하고 데이터로 변환이 불가한 것들은 학습하지 못한 결과다.” 70-71p.

“알고리즘을 비롯한 기술은 답을 찾는 데 익숙해 있으며, 항상 인간에게 무언가 답을 제시하고 있다. 기술과 구별되는 인간의 가장 큰 특징은 그 대답을 끌어내기 위해 질문을 한다는 점이다.70 자동화 알고리즘이 내린 답에 질문함으로써 우리는 사후적이라도 편향 등의 문제 해결을 위한 시작점을 찾을 수 있다.” 99p.