20대 후반이 되자마자, 내 페이스북에는 다이아몬드 반지 광고가 홍수처럼 쏟아졌다. 그리고 결혼한 뒤에는 임신 테스터 광고가 인터넷 곳곳에서 튀어나왔다. 물론 짜증도 슬쩍 났지만, 고마워할 만한 알고리즘도 있었다. 광고주들이 사랑해 마지않는 이 알고리즘들은 보이지 않는 곳에서 은밀히 작동해 당신의 특성을 파악한 뒤, 관심을 보일 만한 상품에 따라 당신을 분류한다.
p. 027
AI가 인간을 지배하는 세상에 관한 이야기는 많은 소설과 영화에서 주제로 사용되곤 한다.
이를 그저 공상과학 영화의 소재로 보기에는 이미 우리가 인공지능이 널리 퍼진 세상 속에 살고 있다는 사실을 간과할 수 없다.
무슨 소리냐고 반문할 수도 있다.
나의 생활은 10년 전과 크게 달라질 게 없다면서.
하지만 잘 생각해보자.
인공지능 loT기능이 있는 아파트가 건설되면서 스마트키를 소지하고만 있으면 자동으로 공동현관문이 열리고,
AI 플랫폼으로 집 밖에서 조명, 난방, 가스밸브 등을 조절할 수 있다.
가끔씩 집 밖으로 탈출한다는 이야기가 들리는 귀여운 로봇 청소기는 어떠한가.
이것들이 비록 사람의 형상을 하고 있는 로봇처럼 우리 옆에서 대화를 하는 건 아닐 지라도, 모두 AI 기능이 사용된 예이다.
인공지능까지는 아니라 할 지라도 데이터와 알고리즘이 때때로 나를 놀라게 하고 기분 나쁘게도 한다.
인스타그램, 페이스북과 같은 SNS를 하거나 인터넷을 돌아다닐 때 며칠 전 검색했던 것과 비슷한 종류의 브랜드 광고가 뜬다.
가령, 요가복을 찾아다니고 있었는데, 얼마 후 SNS에서 요가복 광고를 보게 된다.
가구를 찾고 있었는데, 며칠 후 검색엔진에서 가구 브랜드 광고창이 뜬다.
섬뜩하면서도 싫은 기분이 든다.
늘 SNS와 인터넷에 로그인 한 상태이기때문에 내가 접속할 때마다 나의 정보가 그대로 전달되어
알고리즘이 형성된 바에 따라 광고가 나온다는 걸 안다.
그래도 마치 어떤 사이트에서 내 개인 신상 정보가 브로커에게 불법으로 팔린 것 마냥 기분이 나빠지는 건 어쩔 수가 없다.
최근 1년간 이렇게 나의 검색어, 나의 클릭, 내가 자주 들른 사이트와 관련된 광고들이 보이는데, 실제로 클릭하고 구매한 적은 단 한 번도 없다.
누군가에게는 효과 있는 광고 전략일지 몰라도, 적어도 내게는 안 먹히나 보다.
(아, 생각해보니 손가락이 미끄러져서 광고 배너를 클릭하고 창을 닫느라 귀찮아 해 본 적은 있다.)
"우리는 검색엔진이 현명한 선택을 하리라 기대합니다. 하지만 실험 참가자들은 이런 말을 합니다. '음, 그래요. 결과가 편향된 것이 보이네요. 그러니까... 검색엔진이 제 임무를 다 하고 있군요.'"
현재 우리가 검색엔진 같은 알고리즘에서 얻는 정보량을 고려할 때 더 불길한 것은, 사람들이 자신의 의견에 외부의 개입이 얼마나 많이 반영되었다고 믿느냐이다.
p. 036
작년 말과 올해 초 여러 차례 난리 난 국내 최대 포털 엔진 N사.
(우스운 사실은 그럼에도 불구하고 N사의 검색어, 베스트 댓글 조작은 현재 진행형인 듯 하다. 여기에 가짜 뉴스까지 난리다.)
실시간 급상승 검색어를 포함하여 검색어 순위를 조작하는 것 같다는 합리적 의심에 덧붙여서, 이를 뒷받침하는 수많은 증거들이 나왔다.
그리고 이 증거들은 대부분 N사를 사용하는 유저이자 시민들이 하나 하나 소위 '노가다' 식으로 찾은 것들이다.
예를 들면, 1분 전에만 해도 검색어 순위에 전혀 보이지 않던 단어가 1분 후 갑자기 1위로 되면서 관련 기사 여러개가 한꺼번에 올라오는데, 신기하게도 베스트 댓글이 된 특정 댓글은 작성한 지 몇 초 되지도 않은 것이며 이에 대한 '좋아요' 가 수천개다. 이런 식으로 의문스러운 검색어, 기사, 베스트댓글은 매일 새벽 비슷한 시각에 반복되고, 대개는 정부나 대통령을 비판하는 내용이다.
직접 기사의 베스트댓글에 '싫어요' 를 눌러 본다.
그런데 이게 무슨 일인가?
'싫어요' 숫자가 오히려 줄어들고 '좋아요' 숫자가 더 늘어난다.
이런 기이한 현상을 직접 영상으로 찍어서 올린 시민들도 있다.
이런 일이 한두건이 아니라 매우 의문스럽다.
비슷한 예로, TV 프로그램이나 라디오 프로그램에서 이슈로 다룬 인물의 이름이 실시간 급상승 검색어로 몇 분 정도 올라와있다가 갑자기 순위에서 사라져버린다.
이는 너무 순식간이다.
아직 해당 프로그램에서 그 인물을 다루고 있고, 사람들은 SNS나 온라인 커뮤니티를 통하여 특정 인물에 대한 이야기를 나누고 있다.
그런데 검색어에서는 사라진다.
주로 국내 최대 기업이라 꼽히는 S사의 이익에 반하는 검색어가 그렇다.
과연 N사는 유저들이 직접 입력한 수많은 내용들에 대한 데이터를 바탕으로 알고리즘을 형성하고 있는가?
그들은 왜 수많은 댓글 조작 의혹 중 유독 여권 차세대 대권 후보와 연관된 '드루킹' 이라는 아이디 하나만 고소하였는가?
그 이후 정치 기사에서만 댓글 숨기기 기능을 해두고 있는데, 이는 그야말로 눈 가리고 아웅하는 식이다.
따라서 동일 사건에서 동일 증거를 근거로 재판을 받을 때도 피고가 처벌을 받지 않고 법정을 걸어나갈 수도 있고 곧장 교도소로 갈 수도 있었다. 판결 결과는 오로지 눈앞에 어떤 판사가 앉느냐는 운에 달렸을 뿐이었다.
p. 089-090
물론 어떤 사람이 앞으로 무슨 일을 할지 완벽하게 예측할 수 있는 알고리즘은 없다. 인간이 다음에 무슨 일을 할지 틀림없이 예측하기에는 인간이라는 존재가 너무나 복잡하고 비이성적이며 충동적이기 때문이다. 알고리즘이 조금 더 정확한 예측은 하겠지만, 오류도 계속 저지를 것이다. 그래서 이런 물음이 떠오른다. 오류가 있는 위험 점수를 받으면 그 사람에게 과연 무슨 일이 일어날까?
p. 102
그렇지만 사생활 보호와 보안, 공정함과 안전 사이에서 어떻게 절충점을 찾아야 할까? 우리는 데이비드 배릴과 유세프 자그바 같은 사람을 재빨리 식별하는 대가로 스티브 탤리 같은 피해 사례를 얼마나 겪어야 할까?
p. 260
데이터와 알고리즘은 범죄와 법 분야에서 눈에 보일 만큼 두드러지게 사용되어왔다.
지리와 관련한 알고리즘으로 연쇄살인마를 색출한 경우도 많았고, 얼굴인식 기술을 사용하여 범인을 찾아냈다.
그러나, 알고리즘은 때로 실수도 했다.
얼굴인식으로 - 이건 딱히 알고리즘이 아니라 인간이 봐도 둘이 도플갱어처럼 닮았다면... - 억울하게 범인으로 낙인 찍히는 경우도 있었다.
대의를 위하여 소수의 희생은 어쩔 수 없다고 생각해야만 할까?
알고리즘은 인간이 만든 기술이므로 당연히 오류가 있다.
하물며 컴퓨터나 휴대전화를 사용하다가 갑자기 먹통이 되거나 키패드가 안 먹히는 경우도 있는데, 알고리즘이라고 다를까.
그런데 문제는 인간은 인간이기에 실수의 동물이라는 거다.
최근 양승태 사법농단 관련하여 법조계의 거물 인사들에 대한 재판이 진행되고 있는데, 줄줄이 기각되거나 기소조차 되지 않고 있다.
사법농단에 깊숙이 관련되어 처벌을 받아야 할 판사가 오히려 재판을 하는 입장에 있다보니 생긴 현상이다.
그런가하면 양승태 사법농단 사건을 자신들에 대한 보복성 조치라고 생각하는 법조계 인사들은 이에 반하여 정부를 공격하려 한다.
그리하여 정부 관련 인사들에 대한 재판에서는 말도 안 되는 이유로 높은 형을 부과하거나 유죄를 선고한다.
이러니 재판을 판사 대신 AI가 하라는 말이 터져 나오지 않을 수가 없다.
인간과 알고리즘, 둘 중 누구를 신뢰해야 하나?
CCTV를 한 번 생각해보자.
CCTV가 있다고 저질러진 범죄가 없었던 일이 될 수는 없다.
물론 CCTV 설치만으로도 범죄 예방 효과가 있다고는 하나, 이를 늘 지켜보고 감시하는 인간이 곁에 있지 않고는 마무리 될 수 없다.
다시 말해서, 아파트 단지 내에 감시 카메라를 많이 설치했다는 이유로 기존에 있던 경비원을 자를 수는 없다는 말이다.
아무리 감시카메라가 24시간 돌아간들 이를 확인하는 사람이 없으면 아무 소용 없지 않은가.
알고리즘과 인공지능의 시대에서도 역시 기댈 건 인간뿐이다.