추가 적립 안내

“우리는 정말 악마를 불러들이고 있는 걸까?”
인류는 인공지능의 수혜자가 될 것인가, 피해자가 될 것인가?
미래학자이자 기술 현실주의자, 마틴 포드의 경고

〈뉴욕타임스〉 베스트셀러 《로봇의 부상》의 후속작
에릭 브리뇰프슨, 타일러 코웬, 제임스 매니카, 스튜어트 러셀 강력 추천

인공지능은 이미 우리 삶의 곳곳에, 깊숙한 부분까지 영향을 미치고 있으며 많은 것을 바꾸어 놓고 있다. 당신이 스마트폰을 가지고 있다면 주머니에 인공지능을 가지고 있는 셈이다. 의사가 질병을 진단하는 방법부터 우리가 친구와 교감하고 뉴스를 읽는 방법까지 이미 모든 것을 인공지능이 바꾸어 놓았다. 하지만 긍정적인 측면만 있는 것은 아니다. 편향을 유도하거나 증폭할 수 있는 알고리즘, 얼굴 인식 기술을 기반으로 한 감시와 검열, 딥페이크의 악의적인 사용으로 인한 범죄 등 부정적인 측면도 있다. 스티븐 호킹이나 일론 머스크 같은 저명인사들은 통제를 벗어난 인공지능의 위험성을 일찍이 경고했고, 특히 일론 머스크는 인공지능 연구가 “악마를 불러들이고 있다”, “인공지능은 핵무기보다 더 위험하다”라고 단언하며 언론의 뜨거운 관심을 불러일으켰다.
미래학자이자 베스트셀러 《로봇의 부상》의 저자 마틴 포드는 신간《로봇의 지배》에서 인공지능 연구가 현재 어느 단계에 도달했는지 살펴보고, 앞으로 인공지능이 우리의 노동, 경제, 사회, 국제, 정치, 문화, 생활에 어떤 영향력을 미칠지 인공지능을 둘러싼 다면적인 영향을 기술 현실주의자의 눈으로 날카롭게 분석한다. 그는 인공지능이 인간 생활의 모든 차원을 더 나은 방향으로 바꾸는 유일무이한 강력한 기술임이 분명하지만, 이 기술을 안전하고 공정하게 사용하기 위해서는 규제와 광범위한 관리 감독 또한 절대적으로 필요하다고 주장한다.
인공지능은 우리가 기후변화에 대처하고 다음 팬데믹과 맞서 싸우는 데 도움이 될 수 있다. 그러나 한편으로 심각한 손해를 끼칠 힘도 있다. 인공지능은 우리의 편협한 태도를 학습하고 이를 끊임없이 반복함으로써 더 깊이 편향될 수 있다. 또한 인공지능이 일어나지 않은 사건을 음성이나 영상으로 생성하는 딥페이크 기술은 사회 전반에 혼란을 불러올 수 있다. 중국 같은 권위주의적인 체제에는 사회를 통제하는 전례 없는 메커니즘으로 작용할 수도 있다. 대량 살상 무기가 될 수 있는 인공지능 기반 완전 자율 무기(fully autonomous weapon)는 결국 화학 무기나 생물학 무기, 심지어 핵무기만큼 파괴적이고 불안정할 수 있다. 인공지능이 체계적이면서 전략적인 기술이라는 점이 분명해지면서 미국과 중국 간의 전면적인 인공지능 군비경쟁의 우려는 진정한 위협으로 다가오고 있다.
앞으로 우리는 인공지능의 가능성을 완전히 수용하고 열린 시각을 갖되, 어떤 경우에는 인공지능의 적용을 규제하거나 금지해야 할 것이다. 인류는 인공지능의 수혜자가 될 것인가, 피해자가 될 것인가? 인류의 미래는 낙관적 시나리오인 〈스타트랙〉이 될 것인가, 비관적 시나리오인 〈매트릭스〉가 될 것인가? 인공지능은 단순히 받아들이거나, 아니면 우려해야 하는 기술이 아니다. 이미 오고 있고 멈추지 않을 것이다. 인공지능의 미래는 파괴적인 영향력만큼 예측하는 것도 불가능하기 때문에 우리는 스스로 생각해야 하며, 이 모든 일을 지금 바로 시작해야 한다고 책 《로봇의 지배》의 저자 마틴 포드는 경고한다.
#로봇 #인공지능 #AI #인류의미래

지능을 전기처럼 쓴다면?

인공지능은 점점 더 많은 영역에서 성공적으로 적용되어 진화하고 있으며, 진정한 혁명은 아직 오지 않았다. 저자에 따르면 우리는 인공지능을 ‘전기’처럼 사용하게 될 것이다. 전기는 산업혁명 이후 경제와 사회의 모든 측면을 확장하고 변화시키는 혁신이며, 전기 없는 미래를 상상하기란 거의 불가능하다.
인공지능 역시 전기와 같은 규모와 힘을 가진 범용기술로 진화할 것이며, 전기와 마찬가지로 거의 모든 것과 접촉하고 거의 모든 것을 변화시킬 것이다. 게다가 인공지능은 전기의 경우보다 훨씬 빨리 영향력을 넓힐 것이다. 이미 인공지능을 배포할 때 필요한 많은 인프라가 이미 갖춰져 있기 때문이다. 컴퓨터, 인터넷, 모바일 데이터 서비스와 아마존, 마이크로소프트, 구글 같은 기업이 운영하는 거대한 클라우드 컴퓨팅 시설을 이미 사용하고 있다. 기업뿐만 아니라 정부도 클라우드 컴퓨팅에 크게 의존하고 있으며, 클라우드 컴퓨팅은 정치적으로도 매우 격렬하고 경쟁이 치열한 시장이다.
일반적으로 사람들은 전기를 의심할 여지 없이 긍정적인 힘으로 생각한다. 하지만 인공지능은 다르다. 인공지능이 전기와 가장 다른 점은 ‘누가 기술을 제공하는지’에 따라 크게 달라질 수 있는 ‘직접적인 지적 능력’이라는 점이다. 인공지능에는 어두운 면이 있고, 개인과 사회 전체에 끼칠 수 있는 진짜 위험을 동반한다.

경제 불평등과 일자리 위협… 노동의 종말은 오는가?
인공지능이 경제에 미치는 영향은 ‘양날의 검’이다

저자 마틴 포드는 인공지능이 계속 발전할수록 노동시장과 경제 전반에 유례없는 변화가 일어날 것이라고 말한다. 이러한 그의 주장은 전작 《로봇의 부상》에서부터 이어지는데, 인공지능과 로봇공학의 발전이 결국 단조롭고 예측 가능한 많은 일자리를 파괴할 것이고, 이는 잠재적으로 불평등의 증가와 구조적 실업으로 이어질 것이라는 주장이다. 코로나바이러스 팬데믹 이후 완전히 새로운 경제 현실로 접어든 현재, 그는 여전히 자신의 주장이 매우 적절하다고 생각한다. 팬데믹의 여파로 업무 자동화 증가 추세는 더욱 증폭되고 현재 경제 재난에서 회복하려는 기대 심리에 큰 영향을 끼칠 수 있다.
업무 성격이 단조롭고 예측 가능한 직업, 다시 말해 비슷한 작업이 반복되는 일자리는 전부 또는 부분적으로 자동화될 가능성이 있다. 연구에 따르면 미국 노동인구 가운데 절반가량이 이처럼 예측 가능한 활동에 종사하고 있고, 미국 안에서만 수천만 개의 일자리가 사라질 수 있다고 전망한다. 그 영향력은 저임금층이나 비숙련 노동자에 국한되지 않을 것이다. 화이트칼라나 전문직 종사자 가운데 많은 수가 상대적으로 단조로운 업무를 수행한다. 특히 예측 가능한 지식 노동은 소프트웨어로 처리할 수 있으므로 자동화될 위험이 크다. 오히려 육체노동을 대체하려면 고가의 로봇이 필요하다.
자동화가 미래 노동인구에 끼칠 영향력에 대해서는 활발한 논의가 진행되고 있다. 단조로운 일자리를 잃은 노동자를 흡수하기 위해 새로 창출되는 직업은 앞으로 자동화되지 않고 그 수가 충분할까? 만약 그렇다면 사람들은 새로운 역할로 성공적으로 전환하는 데 필요한 기술과 능력, 특성을 갖추게 될까? 이전에 트럭을 운전했거나 패스트푸드점에서 일했던 노동자가 로봇공학 엔지니어가 되거나 노인을 돌보는 개인 간병인이 될 수 있다고 가정해서는 안 될 것이다. 코딩 능력은 기술에 의한 고용 시장 파괴의 만병통치약처럼 제시되곤 한다. 언론 분야이든 탄광업이든 일자리를 잃은 사람들은 ‘코딩을 배워 보라’는 조언을 듣는다. 그러나 컴퓨터 프로그래밍을 배우면 분명히 유용하고 보람도 있겠지만, 이런 기술 습득이 좋은 일자리를 보장하는 시대는 저물고 있다. 다른 화이트칼라 직업도 대부분 마찬가지다.
마틴 포드는 전작《로봇의 부상》에서 주장했듯, 신작 《로봇의 지배》에서도 여전히 인공지능과 로봇이 계속 발전할수록 노동인구 대부분이 결국 뒤처지는 위험에 처할 것이라고 생각한다. 그리고 코로나바이러스 팬데믹과 그에 따른 경제 침체가 인공지능이 노동시장에 끼칠 영향력을 가속할 것으로 믿는 타당한 이유를 다양한 데이터와 함께 제시하고 있다.
저자에 따르면, 자동화 때문에 일자리가 완전히 사라질 위험뿐만 아니라 기술 발전은 이미 노동시장에 영향을 끼치고 있다. 중산층 일자리는 필요한 기술이 점점 단순해지는 탈숙련화의 위험에 처했고, 반면 훈련을 거의 받지 않은 저임금 노동자는 기술의 도움을 받아 한때 더 높은 임금을 받던 일자리로 진입할 수 있다. 사람들은 점점 더 자신을 가상 로봇처럼 취급하며 업무를 감시하고 속도를 조절하는 알고리즘의 통제를 받으며 일하고 있다. ‘긱(gig)’ 경제에서 새로운 기회들이 생기고 있지만, 이 분야에서 일하는 사람들은 대체로 노동시간과 수입을 예측할 수 없다. 이 모든 것은 점점 더 많은 사람이 종사하는 분야에서 늘어나는 불평등과 잠재적인 비인간화 조건을 가리킨다.
인공지능이 경제에 끼칠 영향을 생각하면 사실 양날의 검과 같다. 한편으로 생산성을 높이고 제품이나 서비스가 더 저렴해지며 우리 모두의 삶을 개선하는 혁신을 가능하게 할 것이다. 인공지능은 지금 우리가 처한 거대한 경제적 구멍에서 빠져나올 때 없어서는 안 될 경제적 가치를 창출한 잠재력이 있다. 다른 한편으로는 경제 불평등을 더 심각한 수준으로 몰아가며 수백만 개의 일자리를 없애거나 단순화할 것이 확실하다.

얼굴 인식 알고리즘과 딥페이크의 위협
완전 자율 무기와 인공지능 군비경쟁
인공지능은 어떻게 민주주의를 방해하고, 인류의 존재를 위협하는가

“인공지능은 인류가 연구하고 있는 가장 심오한 것 중 하나다. 불이나 전기보다 영향력이 더 심오하다. 엄청난 긍정적인 측면도 있지만, 정말 부정적인 결과도 있다.” - 순다르 피차이(구글 CEO, ‘다보스포럼 2020’에서)

인공지능은 중국 같은 권위주의적인 체제에는 사회를 통제하는 전례 없는 메커니즘으로 작용할 수도 있다. 중국의 신장 위구르 자치구는 중국 감시 체제의 시작점이면서 중국 전체에 배치될 감시 기법과 기술의 성능 시험장이다. 인공지능 기반 감시 기술은 결코 권위주의 체제에 국한되지 않는다. 특히 얼굴 인식은 미국과 다른 민주주의 국가에서 널리 사용되고 있다. 2019년 2월, 인디애나주 경찰은 남성 두 명이 공원에서 다툼을 벌여 발생한 범죄 사건을 수사하고 있었다. 한 남성이 총을 꺼내 다른 남성의 복부에 쏜 다음 현장에서 달아난 사건이었다. 현장에 있던 사람이 휴대전화로 이 장면을 녹화했고 주 경찰 수사관들은 가해자의 얼굴 이미지를 시험 중이던 새로운 얼굴 인식 시스템에 올려보기로 했다. 시스템은 즉시 일치하는 항목을 생성했다. 이름을 포함한 설명과 함께 총을 쏜 사람이 소셜 미디어에 올라온 영상에 나타났다. 용의자가 이전에 체포된 기록이 없고 운전면허도 없었지만, 이 사건을 해결하는 데 고작 20분이 걸렸다.
그러나 많은 연구에서 얼굴 인식 시스템이 어느 정도 인종과 성별에 편향된 것으로 꾸준히 나타나고 있다. 딥러닝 알고리즘을 훈련하기 위해 사용한 데이터 세트에 백인 남성의 얼굴이 우세한 데서 비롯한 결과다. 다시 말해 여성과 유색인종은 잘못된 편향에 피해를 볼 가능성이 더 크다. 아프리카계 미국인은 백인보다 100배 이상 잠재적 범죄자로 오인될 가능성이 있고, 따라서 구금될 수도 있다. 이런 문제는 계속 강력해지는 기술을 엄격하게 규제하지 않는 한 더욱 만연하게 될 것이다. 물론 얼굴 인식 시스템이 개인의 사생활을 위협할 가능성은 매우 현실적이지만, 이 기술을 적절하고 윤리적으로 배치해 얻는 분명한 혜택도 중요하게 생각해야 한다. 이 기술을 사용해 중범죄자들을 많이 검거할 수 있었고, 같은 시스템을 실종 아동과 성인을 찾는 데 사용할 수도 있다.
음성뿐만 아니라 사진, 영상, 심지어 일관성 있는 텍스트를 생성하는 데까지 이용될 수 있는 딥페이크로 대선 후보의 가짜 영상과 음성을 만들어 퍼트린다면? 딥페이크가 말 그대로 역사의 흐름을 바꿀 수 있다. 딥페이크의 악의적인 사용은 인공지능이 발전하면서 우리가 직면하게 되는 심각한 위험 중 하나다. 이미 음성 딥페이크를 사용한 범죄자들에게 수백만 달러의 돈을 사취당한 기업들이 있다. 모두 딥페이크로 만든 그 회사 CEO의 목소리로 재무팀 직원에게 돈을 이체하도록 지시하는 전화 통화로 범죄가 이루어졌다. 기업 CEO가 비정상적인 행동을 하는 딥페이크 영상은 그 기업의 주가를 폭락시킬 수 있다. 그러나 딥페이크를 걱정해야 할 사람이 단지 정치인이나 유명인으로 제한되지 않는다. 거의 모든 사람이 표적이 될 수 있으며, 당신의 경력이나 인생이 딥페이크로 인해 파괴될 수 있다.
인간의 개입 없이 인간 목표물을 찾고 선택하고 제거할 수 있는 치명적인 자율 무기, 인공지능 기반 완전 자율 무기는 결국 화학 무기나 생물학 무기, 심지어 핵무기만큼 파괴적이고 불안정할 수 있다. 모든 드론은 잠재적으로 무기로 사용될 수 있다. 수백 대의 드론을 동시에 움직일 수 있지만, 원격으로 조정해야 한다면 기기를 조정할 수백 명의 사람이 필요하다. 하지만 드론이 완전히 자율적으로 움직인다면? 소규모 팀이 거대한 군단을 배치해 상상도 할 수 없는 대학살을 일으킬 수 있다. 통제실에 있는 5명이 1,000만 개의 무기를 발사해 특정 국가에 거주하는 12세에서 60세 남자를 모두 쓸어버릴 수도 있다. 그렇다면 이건 대량 살상 무기다. 얼굴 인식 알고리즘이 민족, 성별, 복장에 따라 식별할 수 있는 기능이 있는 것을 고려하면 이전에는 생각조차 할 수 없던 무자비하고 엄청난 속도로 자행되는 자동 인종 청소나 정치적 반대자들의 대량 암살과 관련된 정말 오싹한 시나리오를 쉽게 상상할 수 있다.
4,500명 이상의 개인과 수백 곳의 기업과 조직, 대학교가 자율 무기 연구에 참여하지 않을 것을 밝히고 이러한 기술의 전면 금지를 요구하는 공개서한에 서명했다. 그러나 2019년 기준으로 개발도상국 29개 국가가 자율 무기 기술의 완전 금지를 공식적으로 요구했지만, 주요 군사 강국은 참여하지 않고 있다. 저자 마틴 포드는 완전 자율 무기 기술에 대해 다소 비관적으로 전망하고 있다. 그는 강대국 간의 경쟁 역학과 신뢰 부족으로 완전 자율 무기 개발이 곧 확실해질 것으로 본다. 미국, 러시아, 중국, 영국, 한국을 포함하는 국가에서 대규모 편대로 이동하는 드론을 적극적으로 개발하고 있다. 일단 한 국가가 현재 완전 자율 무기에 대한 비공식적 금지를 위반하고 이런 무기를 배치하기 시작하면 피할 수 없는 경쟁은 시작될 것이다. 또한 긴장이 고조되고 미국과 중국 관계가 계속 분리되면 인공지능 개발과 배치에 집중된 갈등과 경쟁이 중심 역할을 할 것은 피할 수 없어 보인다. 인공지능이 체계적이면서 전략적인 기술이라는 점이 분명해지면서 양국 간의 전면적인 인공지능 군비경쟁의 우려는 진정한 위협으로 다가오고 있다.
무엇보다 가장 큰 위험은 일단 자율 무기가 생산되면 불법 무기 거래상들에 의해 자율 무기가 테러리스트나 용병, 테러 지원국에 거래될 수 있다는 점이다. 저자는 아이폰보다 ‘똑똑하지’ 않지만 표적을 식별하고 추적하는 데는 망설임이 없는 유능한 무기로 인간이 과연 무엇을 할지를 오히려 걱정해야 한다고 경고한다.

우리는 어떤 미래를 선택할 것인가?
유토피아인가, 디스토피아인가?

저자 마틴 포드는 여러 우려되는 부분이 있음에도 불구하고 인공지능의 일반적인 연구를 과도하게 규제하거나 제한하는 것은 매우 잘못된 판단이라고 말한다. 그보다는 인공지능의 구체적인 응용을 규제하는데 초점을 맞추어야 한다고 주장한다. 자율 주행차나 인공지능 의료 진단 도구 같은 분야에서는 이미 규칙이 만들어지고 있다. 하지만 광범위한 관리 감독도 필요하다. 인공지능은 결국 모든 분야와 접촉하게 될 것이고, 형사 사법제도에 활용되는 얼굴 인식 기술이나 알고리즘 같은 기술은 매우 중요한 결정을 내리는데 사용되고 있기 때문이다. 저자는 인공지능을 관리 감독하는 가장 좋은 행동 방침은 인공지능 적용에 중점을 둔 규제 권한을 가진 독립적인 정부 기관을 세우는 것이라고 제안한다.
여러 가지 매우 현실적인 우려에도 불구하고 저자는 인공지능에서 얻는 혜택이 위험을 능가한다고 굳게 믿는다. 앞으로 수십 년 동안 우리가 직면하게 될 여러 도전 과제를 고려하면 인공지능은 없어서는 안 될 기술이다. 기술 정체를 벗어나 광범위한 혁신의 새로운 시대로 진입하려면 인류에게는 인공지능이 필요하다. 기후변화는 가장 큰 위협으로 다가오고 있다. 전 세계 탄소 배출량을 비약적으로 줄이려면 전기 발전, 교통, 농업, 제조업, 건물 등 모든 분야에서 기술적 돌파구가 필요하다. 세계적인 담수 부족 위기나 피할 수 없는 다음 팬데믹과 같은 다른 도전 과제까지 더하면 산업 전반에 걸쳐 혁신의 폭발이 절실히 필요하다. 혁신을 가능하게 하는 촉매제가 바로 인공지능이다.
책 《로봇의 지배》의 저자 마틴 포드는 인공지능이 가는 길을 따라 탐색하다 보면, 인류가 만들 미래는 결국 두 가지 가상의 극단이 있는 스펙트럼 사이 어딘가에 놓이게 될 것이라 전망한다. 가장 낙관적인 시나리오는 TV 프로그램 〈스타트렉〉에 나오는 세상이다. 발전한 기술 덕분에 물질적으로 풍요롭고 가난이 사라졌으며, 환경 문제도 해결되고, 대부분 질병도 치료할 수 있다. 전통적인 직업이 없어졌다고 사람들이 게을러지거나 삶의 의미나 인간의 존엄이 결핍되지 않는다. 반면에 훨씬 더 디스토피아적인 미래는 영화 〈매트릭스〉에 가까울 것이다. 저자가 두려워하는 것은 인공지능이 우리를 노예로 만드는 것이 아니라, 현실 세계가 너무 불평등하고 더 나아질 기회가 부족한 나머지 많은 인구가 가상현실로 도피하는 선택을 하는 것이다.
앞으로 인공지능과 가상현실 기술의 발전 속도가 빨라질수록 두 기술이 결합해서 너무나도 매력적이고 현실적인 가상 세계를 만들 것이다. 그리고 많은 사람에게 이 가상 세계는 우리가 실제로 사는 세상보다 훨씬 우월해 보일 것이다. 2017년에 한 경제학자 그룹이 발표한 분석에 따르면, 노동시장에서 소외된 젊은이들 가운데 점점 더 많은 수가 비디오게임에 엄청난 시간을 소비하고 있다. 가상 환경을 일종의 마약으로 볼 수 있을 정도로 중독성을 높이는 기술이 곧 나타날 것이다.
마틴 포드는 인류의 거의 모든 사람이 〈스타트렉〉에 가까운 미래를 위해 노력해야 한다는데 동의할 것으로 생각하지만, 그런 낙관적인 미래는 당연하게 주어지지 않는다고 말한다. 때문에 목적지를 향한 궤도를 수정하는 명확한 정책을 만들어야 한다. 목적지에 도착하기까지 아주 오랜 시간이 걸리겠지만 사람들이 스스로 교육받고 의미 있는 도전을 추구하도록 강력한 인센티브를 유지하면서 소득분배 문제를 해결하는 데서 시작한다면, 우리는 올바른 방향으로 가게 될 것이라고 저자는 강조한다.

주데아 펄(튜링상 수상자)
로봇공학의 미래에 관해 쓰는 것은 위험한 시도다. 우리 생활의 모든 면을 놀랍고도 제약 없는 관점으로 조명하기 때문이다. 뛰어난 깊이와 엄격함, 그리고 명확함을 겸비한 마틴 포드는 이 도전을 훌륭하게 헤쳐 나가고 있다.

스튜어트 러셀(UC버클리 컴퓨터과학 교수 ？ 《인공지능: 현대적 접근 방식》 공저자)
오늘날 인공지능이 어디에 있고, 어떻게 진화할 것이며, 인간 사회에 어떤 위험을 끼치는지를 예리하고 균형 잡힌 시각과 정통한 내용을 바탕으로 논의한다.

타일러 코웬(조지메이슨대학교 경제학 교수)
인공지능의 사회적ㆍ경제적 영향에 관해 가장 믿을 수 있는 책이다.

에릭 브리뇰프슨(스탠퍼드대학교 디지털경제연구소 소장)
오늘날 인공지능보다 더 중요한 기술은 없다. 마틴 포드는 이전 책에서 보여준 것처럼 충실한 조사와 흥미진진한 내용으로 중요한 주제에 대해 명확한 통찰과 관찰을 보여주고 있다. 읽는 즐거움이 가득한 책이다.

제임스 매니카(맥킨지글로벌연구소 회장 겸 이사)
인공지능의 발전과 인공지능이 세상에 끼치는 다면적인 영향, 그리고 이와 연관된 기회와 도전을 설명하는 지금까지 나온 책 가운데 가장 설득력 있는 단 한 권의 책이다. 인공지능 분야에서 일하는 사람들과 다른 영역에서 일하는 사람들 모두가 저자의 현실적이면서도 비판적인 관점을 통해 많은 것을 얻을 수 있을 것이다. 이 책을 강력히 추천한다.

추천의 말

1장. 예측 불가능한 인공지능이 가져올 미래

2장. 새로운 전기, 인공지능
지능을 전기처럼 쓴다면
새롭게 떠오르는 인공지능 인프라
인공지능의 핵심 인프라, 클라우드 컴퓨팅
인공지능의 민주화
한층 더 연결된 세상과 사물 인터넷
가치는 데이터에 있다

3장. 인공지능의 과대 포장과 실제
가정용 로봇 배송이 지연되고 있습니다
물류 창고와 공장은 로봇 혁명의 시작점
손을 쓰는 로봇을 찾아서
소매업과 패스트푸드 산업에 다가오는 혁명
인공지능이 의료 분야에 미치는 영향
자율 주행차와 트럭은 예상보다 오래 기다려야 한다
과학과 의학, 기술 정체기를 벗어날 것인가

4장. 인공지능은 어떻게 진화해 왔는가?
기계는 생각할 수 있는가?
연결주의 vs. 상징적 AI, 그리고 딥러닝의 부상

5장. 딥러닝과 인공지능의 미래
심층 신경망은 어떻게 작동하는가?
경고 신호, 인공지능의 겨울이 다시 온다면
일반 기계 지능을 향한 여정
상징적 AI의 부활과 내재 구조의 중요성
일반 기계 지능을 위한 혁신 과제
인간보다 뛰어난 인공지능에 도달할 수 있는가

6장. 사라지는 일자리, 인공지능이 경제에 미칠 영향
과거와는 근본적으로 다르다
코로나바이러스 팬데믹이 시작되기 전까지
포스트 코로나와 회복
사무직 자동화 물결, 그리고 코딩 교육?
어떤 직업이 가장 안전할까?
인공지능이 가져올 경제적 혜택
인공지능이 분배 문제를 해결할 수 있는가

7장. 인공지능 감시 국가의 부상
중국, 인공지능 연구 개발의 최전선
중국 감시 국가의 부상
얼굴 인식에 대한 새로운 논쟁

8장. 인공지능의 위험
딥페이크, 무엇이 현실이고 무엇이 환상인가?
치명적인 자율 무기의 위험
머신러닝 알고리즘의 편향, 공정성, 그리고 투명성
초지능이 제기하는 존재 위협과 통제 문제
인공지능의 규제는 절대적으로 필요하다

결론. 인공지능의 두 가지 미래, 스타트렉인가 매트릭스인가?

감사의 말
미주

이 모든 우려에도 불구하고 우리가 판도라의 상자를 열어야 하는 이유가 궁금한 사람들이 있을 것이다. 그 대답은 인류가 인공지능 문제를 그냥 내버려둘 여유가 없다는 것이다. 인공지능은 인간의 지적 능력과 창의성을 증폭할 것이고, 그에 따라 인간 활동의 거의 모든 영역에 걸쳐 혁신을 주도할 것이다. 우리는 신약 개발과 새로운 치료법, 더 효율적인 청정에너지원과 여러 획기적인 돌파구를 기대할 수 있다. 확실히 인공지능이 일자리를 파괴하겠지만 인공지능 경제가 생산하는 제품과 서비스를 더 저렴하게 이용하게 될 것이다. _22쪽, 〈예측 불가능한 인공지능이 가져올 미래〉 중에서

5장에서 살펴보겠지만 인공지능은 끊임없이 발전해 능력을 확장하고 인간 수준의 지능에 근접하며 언젠가는 그 수준을 능가하게 될 것이다. 전기는 다른 혁신이 작동할 수 있도록 동력을 공급하지만, 인공지능은 직접 지적 능력을 제공한다. 여기에는 문제를 해결하고 의사 결정을 내리는 능력부터 언젠가는 가능해질 추론하고 혁신하며 새로운 아이디어를 구상하는 능력까지 포함된다. 전기는 노동력을 절감하는 기계에 동력을 공급하지만, 인공지능은 그 자체가 노동 절약형 기술이고 경제 전반에 확산할수록 인간 노동력과 기업 및 조직 구조에 엄청난 영향을 끼칠 것이다. _30쪽, 〈지능을 전기처럼 쓴다면〉 중에서

로봇은 이미 병원 깊숙이 진출했다. 물론 물류 창고나 소매 환경에서 본 것처럼 기본적인 한계는 있다. 최근에 소독 로봇의 인기가 급상승하고 있다. 이 기계는 병원의 가상 지도를 만든 다음 자율적으로 돌아다니며 모든 표면을 강렬한 자외선으로 소독한다. 인간 노동자와 달리 로봇은 점 하나도 그냥 지나치지 않는다. 자외선은 바이러스나 박테리아 속 RNA나 DNA를 신속하게 파괴하고 일반적인 병실 하나를 15분이면 소독할 수 있다. 이 방법은 액체 소독제보다 훨씬 효과적인 것으로 나타났다. 특히 가장 위험한 ‘슈퍼버그(superbug)’ 중 일부가 이런 화학물질에 내성을 갖도록 진화했기 때문이다. 샌안토니오에 기반을 둔 제조업체 제넥스(Xenex)의 소독 로봇 수요는 코로나바이러스 팬데믹 발생 3개월 만에 400퍼센트 증가했다. _92쪽, 〈인공지능이 의료 분야에 미치는 영향〉 중에서

개인적인 의견이지만, 다시 한번 인공지능의 겨울이 온다면 그때는 온화한 겨울이 될 것 같다. 발전의 둔화에 대한 우려는 충분히 근거가 있지만 지난 몇 년 동안 인공지능이 거대 기업의 인프라와 사업 모델에 깊이 통합된 것도 사실이다. 이들 기업은 컴퓨팅 리소스와 인공지능 분야 인재에 막대하게 투자해 상당한 이익을 거뒀고, 지금은 인공지능이 시장 경쟁력에서 절대 위치를 차지한다. 마찬가지로 거의 모든 기술 스타트업이 현재 어느 정도는 인공지능에 투자하고 있고 다른 산업의 크고 작은 기업들도 이 기술을 도입하기 시작했다. _167쪽, 〈경고 신호, 인공지능의 겨울이 다시 온다면〉 중에서

업무 자동화라고 하면 흔히 공장과 창고에서 산업로봇이 움직이는 모습을 떠올린다. 통념상 교육 수준이 낮은 저임금 블루칼라 노동자들이 기술 발전의 심각한 위협에 직면하고 최소 학사 학위가 있는 교육받은 지식 노동자, 다시 말해 업무 성격이 육체노동보다 주로 지식 노동으로 이루어진 직업을 가진 사람들은 상대적으로 안전한 편에 속한다고 생각한다. 하지만 현실은 화이트칼라 일자리, 특히 정보의 일상적인 분석과 처리, 추출, 의사소통에 집중하는 업무가 인공지능의 발전과 폭넓은 배치를 정면으로 마주하게 될 것이다. _239쪽, 〈사무직 자동화 물결, 그리고 코딩 교육?〉 중에서

분명히 우리는 공개적으로나 비공개적으로 배치된 시스템에 반드시 적용해야 하는 기본 규칙을 정의하는 국가 수준의 규제가 필요하다. 개인의 사생활, 감시, 공공 안전의 중요성에 대한 태도는 다양하고, 개별 국가와 지역, 도시는 얼굴 인식과 다른 인공지능 기반 감시 기술의 위험에 대해 서로 다른 절충안을 마련할 것으로 보인다. 민주주의 사회에서는 대중의 의견을 반영하는 투명한 절차가 필요하고, 이 기술은 관련된 모든 사람의 권리를 보호하는 일련의 기본 원칙에 따라 관리돼야 한다. 중국과의 인공지능 군비경쟁의 가능성은 매우 현실적이고, 개인의 사생활에 대한 유례없는 위협과 새로운 형태의 차별은 인공지능이 끊임없이 발전하는 동안 등장할 여러 위험 가운데 한 부분일 뿐이다. _298쪽, 〈얼굴 인식에 대한 새로운 논쟁〉 중에서

인공지능이 계속 발전하고 보편화함에 따라 정부 규제가 해야 할 중요한 역할이 분명히 있다는 것이다. 하지만 인공지능의 일반적인 연구를 과도하게 규제하거나 제한하는 것은 매우 잘못된 판단이라고 생각한다. 연구는 전 세계에서 이루어지기 때문에 세계적 관점에서 보면 이런 규제는 매우 효과적이지 못하다. 이미 살펴봤듯이 특히 중국은 인공지능의 최전선을 개척하기 위해 미국과 다른 서양 국가들과 치열한 경쟁을 벌이고 있다. 기초 연구에 제한을 가하면 분명히 심각하게 불리한 상황에 놓이게 될 것이다. 우리는 중요한 기술의 선두에 서려는 탐색에서 중국에 뒤처질 여유가 없다. 그러므로 인공지능의 구체적인 응용을 규제하는 데 초점을 맞춰야 한다. _335쪽, 〈인공지능의 규제는 절대적으로 필요하다〉 중에서