추가 적립 안내

한국 사회에서의 4차 산업혁명은 명확한 정의와 폭넓은 사회적 합의 없이 주요 기술을 앞세운
정책적 실천만 강조되고 있다. 그러나 이러한 변화가 미치게 될 사회 전방위적 파급력을 예상해본다면, 4차 산업혁명을 국가적 의제로 확산시키는 만큼이나, 그 폭넓은 의미에 대한 성찰 역시 필요하다. 일자리와 삶의 양식, 사회 구조의 변화 등을 가져오는 4차 산업혁명은 단순히 기술공학적 현상과 시장에 대한 논의로만 살펴볼 수 없는 주제이기도 하다.
난무하는 미래 전망 속에서 허상의 늪에 빠지지 않기 위해《4차 산업혁명, 아직 말하지 않은 것들》은 4차 산업혁명을 이루기 위한 각 분야 전문가들의 특별한 궁리와 모색을 모았다.

4차 산업혁명의 미래, 낙관만 해도 괜찮을까?
___________

4차 산업혁명이 가져올 미래는 유토피아일까 디스토피아일까. 현재 우리 사회에서 진행되는 ‘4차 산업혁명’ 관련 논의에는 자본주의 생산양식의 변화를 이끄는 기술에 대한 믿음, 즉 기술결정론이 있다. 정부와 정치권은 디지털 기술을 잘 발전시키면 또 하나의 도약이 가능하다고 생각하고 공급자 중심으로 기술결정론에 바탕을 둔 4차 산업혁명 정책을 실시하고 있다. 여기에 언론은 정확한 분석이나 진단 없이 기회와 위험 담론 사이에서 양극단의 이야기를 동시에 전달하고 있다. 기술발전 속도, 산업적 활용 가능성, 사회적 수용도 등 어느 것 하나 확실한 것이 없다. 하지만 진지한 사회적 논의가 실종되어 변화에 적절히 대응하지 못하면 결국 우리가 원하지 않던 미래로 떠밀려갈 수 있다.


4차 산업혁명에 감춰진 한계와 문제점은 무엇인가?
한국사회의 4차 산업혁명 담론에는
수용자인 시민의 관점이 배제되어 있다!
___________

한국사회의 4차 산업혁명 대응 전략에는 암묵적으로 산업진흥, 기술개발 중심적 담론이 자리하고 있는데, 그 속에는 기술발전의 수용자인 시민의 관점이 배제되어 있다. 급속한 변화의 부작용을 완화하기 위한 윤리적·사회적 논의는 상대적으로 지체되어 있다. 이는 결국 사회전반의 수용성 제고와 적극적인 대응에 커다란 난제로 작용할 가능성이 높다. 따라서 난무하는 미래 전망 속에서 허상의 늪에 빠지지 않으려면 냉철하게 현실을 직시해야 한다. 우리는 4차 산업혁명을 외치기 전에 우리 사회가 답해야 할 본질적인 질문들에 대해 심도있게 성찰할 필요가 있다. 이제 4차 산업혁명에 감춰진 한계와 문제점이 무엇인지 자문해봐야?한다.?그리고 우리 사회가 그 질문에 어떻게 답할지 심도 있게 성찰해야 한다.

4차 산업혁명 기술은 과연 안전한가? 그것은 정말 혁신적인가?
4차 산업혁명의 길을 우리는 과연 제대로 가고 있는가?
4차 산업혁명을 대하는 우리의 자세는 이대로 괜찮을까?

《4차 산업혁명, 아직 말 하지 않은 것들》은 ‘4차 산업혁명’ 현상이 주는 기회와 위협을 제대로 이해하고, 새로운 혁신의 지혜를 모으기 위해 과학기술정책연구원을 비롯한 인문·사회·경제 각 분야의 전문가들이 펼쳐 낸 학제간 논의를 담았다.

4차 산업혁명의 길, 우리는 과연 제대로 가고 있는가?
우리 사회는 지금 어디로 가고 있고,
어디로 가고 싶어 하는가?
___________

과연 4차 산업혁명의 핵심기술이 확보되면, 우리 사회는 현재 안고 있는 여러 문제점을 곧바로 해결할 수 있는 미래로 나아가게 되는 걸까? 이제는 누구나 4차 산업혁명이 이전과는 다른 사회를 만들어낼 것이라는 데 동의한다. 그러나 지금 논의되는 4차 산업혁명은 인간 자체의 변화에 대해서는 그 어떤 고려도 없이 그저 인간을 둘러싼 환경 변화에 대한 분석에만 머물러 있다.

≪4차 산업혁명 아직 말 하지 않은 것들≫에서는 “혁명적 기술 덕분에 인류가 500년을 산다면 당신은 현재 어떤 계획을 포기하고 어떤 계획을 새로 세우겠는가?”를 묻는다. 물론 당장 실현되는 기술은 아니고, 또 그것이 가능하다 해도 그 기술로 내가 혜택을 볼 수 있을지는 미지수지만 이 질문은 중요한 것은 우리 사회가 지금 어디로 가고 있는지 어디로 가고 싶어 하는 지의 가늠자가 되기 때문이다.

또한, 4차 산업혁명의 선두주자인 인공지능이 가지지 못할 것이라 여겨지는 인간의 정신, 마음, 또는 의지 등이 과연 인간만의 것일 것인지 의문이다. 인공지능이 가져올 ‘초지능’이 약간의 편차만으로도 인류를 불필요한 존재 정도로 인지하게 되고, 그 결과 인류라는 생물종이 종래에는 종말을 맞이하는 것은 아닌가 하는 지극히 실존적인 문제를 생각지 않을 수 없다.


4차 산업혁명을 대하는 우리의 자세, 이대로 괜찮을까?
4차 산업혁명 기술은 과연 안전한가,
정말 혁신적인가?
___________

인류의 삶의 변화에 막대한 영향을 준 증기기관. 그런데 와트는 과연 자신이 발명한 증기기관이 미래에 사회적 갈등, 자원 고갈, 환경오염 같은 문제를 야기하리라고 생각이나 했을까.

인공지능이 마치 인간처럼 진화하는 듯 보이는 한편, 현실과 가상현실의 구분의 경계선이 전례 없이 희미해지고 있다. 이러한 가운데 인간은 실제로 가상적 인간들과 관계를 맺게 될 것이다. 가상적 인간은 실재의 인간관계에서 빈번히 발생하는 갈등과 오해를 사전에 차단해 인간이 ‘기대한 그대로’의 언어·몸짓·말투를 제공하며 관계를 유지할 것이다. 감정적 안정을 위해 친구관계와 가족관계를 형성해오던 인류가 가상적 인간과의 관계 맺기로 이를 대체하게 되면 인간에게 현실 부적응이란 새로운 위험을 가져올 수 있다. 갈등과 오해 같은 반응은 이전보다 더 받아들이기가 어려워지고 상대방의 감정과 의도를 이해하려는 행위가 익숙하지 않은 인간을 더 많이 만들어낼 것이다. 현실에서 도피하려는 사람들이 집안에 틀어박혀서 ‘써로게이트’만으로 사회생활을 영위하는 세상이 단순히 영화적 상상만이 아닐 수도 있을 것이다. ≪4차 산업혁명 아직 말 하지 않은 것들≫에서는 “가상현실이 새로운 고립을 가져오는 ‘위험문화(risk culture)’가 될 수도 있지 않을까?”를 자문하고 이에 대한 대응방향을 고민하려 한다.

그런가 하면, 모든 사물이 서로 연결되는 ‘초연결사회’에서 오류나 공격이 어디서 진행되고 있는지, 어떤 경로로 전이되고 있는지 용이하게 파악할 수 있을까? 신경과학자 카할이 신경세포의 구조를 그려낸 이후 100년이 지났지만, 신경세포의 거대 집합체인 두뇌가 기억과 사고를 어떻게 하는지 아직 파악해내지 못하고 있다. 과연 막대한 수의 사물과 사물 간 연결이 급속히 확장되면 그 형태나 기제를 어떻게 알 수 있을까? 특히, 보안 영역에서는 새로운 공격이나 여러 기술을 조합한 공격에 대해서 인공지능은 기존의 대응 기법보다 우수한 성능을 보일 것으로 기대되는데, ≪4차 산업혁명 아직 말 하지 않은 것들≫에서는 인공지능의 역할이 수비에서 공격으로 교체될 때 인공지능은 더욱 무서운 존재로 변모할 것을 경고한다. 분명한 것은 앞으로는 인간보다 인공지능이 시스템의 취약점을 보다 더 빠르게 찾아낼 가능성이 높고, 인간이 개입할 기회는 점차 줄어들 것이라는 점이다.

‘위험’과 ‘규제’를 넘어 ‘거버넌스 패러다임’의 전환으로!
기술의 진화에 맞추어 반드시 해결해야할 과제, 위험 거버넌스

향후 도로를 달리는 자율주행자동차의 데이터에 승인되지 않는 노출과 조작이 일어나면 랜섬웨어 같은 악성 소프트웨어 바이러스의 공격과 사이버 테러가 자율주행자동차에서도 일어날 수 있다. 또, 인공지능의 네트워크성과 자율성의 중첩적 상호작용으로 복잡성이 증가되면 인공지능은 인간의 사전예측을 벗어난 의도치 않은 결과를 생성해낼 수 있으며, 이는 위험 거버넌스에 더 큰 도전이 될 것이다. 인공지능에 대한 전통적 규제 정책은 과연 인공지능을 잘 관리할 수 있을까? 인공지능의 위험을 어떻게 정의하고 회피할 것인가의 문제 즉, 위험 거버넌스는 기술의 진화에 맞추어 반드시 해결해야할 과제가 되고 있다.

한편, 이 책에서는 4차 산업혁명 기술이 우리의 정치제도와 권력의 변화를 가져올 수도 있다는 것을 지적한다. 사회 곳곳에서 인간의 지능을 넘어서는 복잡하고 불안한 쟁점이 돌출하면서 사회구성원 모두의 합의를 이루어내기란 사실상 불가능한 일이 되어가고 있기 때문에 인간의 인지·판단 능력을 향상시키는 지능기술에 대한 의존이 불가피해질 것이다. 주관과 감정이 개입된 사람의 판단보다 데이터에 근거하는 인공지능의 판단이 더 합리적일 수 있다. 이언 피어슨(Ian Person) 퓨처라이즌(Futurizon) 소장은 미래 대의민주주의에서는 국회의원이 아닌 인공지능과 빅데이터가 시민들의 대표가 되어 협상하고 사회적 합의를 할 것이라 주장한다. 인공지능과 빅데이터는 인간의 판단을 지원하는 보조적 역할에 머물러 있지만, 앞으로는 향후에는 복잡한 사회의 어려운 합의, 미래에 대한 불예측성을 지능기술에 의존하는 ‘알고리즘 민주주의’가 대두할 가능성 또한 배제할 수 없다. 그럴 경우 알고리즘 민주주의가 제대로 작동하려면 지능기술의 발달에 못지않게 사람 간의 교감기술, 감정기술, 배려기술, 판단기술, 리더십기술 등 인간기술에 대한 교육과 학습이 더 중요해질 것이다.

책을 내며

프롤로그 4차 산업혁명을 외치기 전에 먼저 이해해야 할 것들

1부 ‘4차 산업혁명’의 길, 우리는 과연 제대로 가고 있는가?

1. 4차 산업혁명을 넘어 트랜스휴먼의 시대로
‘인간 2.0’ 시대와 500세 인류
산업화 시대의 종말과 트랜스휴먼 시대의 도래
‘스마트 팩토리’보다는 ‘스마트 피플’을 생각해야 할 때

2. 인공지능에 관해 말할 때 우리가 정말로 해야 할 이야기
인공지능 담론의 세 가지 갈래
담론 지형도의 비판적 조망
인공지능과 우리 사회의 과제

2부 4차 산업혁명을 대하는 우리의 자세, 이대로 괜찮을까?

3. ‘4차 산업혁명’에 관한 상상, 그 상상이 현실이 된다면?
제1막 어제의 꿈과 상상, 그리고 오늘
제2막 오늘 꿈꾸는 내일
제3막 꿈 너머의 현실
막을 내리며_ 준비된 일상으로의 초대

4. 클라우스 슈밥도 몰랐던 4차 산업혁명의 본질
3차 산업혁명의 좌절: 디지털 자본 축적체제의 위기와 붕괴
위기의 탈출: ‘4차 산업혁명 선언’
헬조선과 4차 산업혁명
평균수명 증가율과 자살률이 말해주는 것
협력적 창의성을 통한 삶의 질 고양

5. 가상현실, 현실보다 더 현실 같은, 현실보다 더 매력적인
점점 더 발전하는 가상현실 기술
초현실 이론과 가상현실
현실 같은 가상세계
실재하는 사람보다 더 좋은 ‘가상적 인간’
새로운 위험들의 등장

6. 4차 산업혁명 담론에 필요한 문화적 프레임
‘4차 산업혁명’이라는 담론
인간과 문화를 먼저 생각해야 한다
4차 산업혁명은 문화적 혁명이 되어야 한다

7. 4차 산업혁명이 노동의 미래에 미치는 영향
기술혁신 전략이기 전에 산업혁신 전략
노동과정 재조직화와 새로운 위험
4차 산업혁명이 노동의 종말을 가져올까?
4차 산업혁명은 장기적으로 달성해야 할 혁명

8. 개인의 권리 강화로 열어가는 데이터 산업의 미래
미국의 헬스케어 데이터 구축 정책
EU의 혁신적인 개인정보보호법
10년 후의 데이터산업, 어떤 양상으로 펼쳐질까

3부 4차 산업혁명 기술은 과연 안전한가, 정말 혁신적인가?

9. 4차 산업혁명이 몰고 올 위험천만한 보안 이슈
초연결사회와 위험요소들의 응축
인공지능이 더욱 무서운 존재로 변모하는 보안 영역
인공지능을 품은 로봇, 이전과는 차원이 다른 위협
집 안에 이미 도둑이 들어와 있는 형국
만약 인공지능이 인간을 공격한다면

10. 4차 산업혁명과 에너지 패러다임의 전환
에너지시스템의 변화와 4차 산업혁명 기술
에너지시스템 스마트화를 촉진
4차 산업혁명 시대를 맞이하기 위한 제도개선 방향

11. 4차 산업혁명 시대 한국의 R&D 혁신환경 조성
위기론이 위험한 이유
R&D 혁신환경 조성을 위한 과제

12. 블록체인 3.0시대: 비트코인 이후의 블록체인
《도둑맞은 편지》와 블록체인
가상화폐를 넘어 새로운 거버넌스 체계로
블록체인의 진화, 어디까지 왔나
블록체인이 만들어갈 새로운 경제 시스템, 토큰 이코노미

4부 ‘위험’과 ‘규제’를 넘어 ‘거버넌스 패러다임’의 전환으로!

13. 4차 산업혁명과 포스트 민주주의
지능기술이 정치를 바꾼다
참여민주주의를 넘어 알고리즘 민주주의로
알고리즘 민주주의가 제대로 작동하려면

14. 복잡 시스템 사회의 위험 거버넌스
인공지능의 위험을 어떻게 통제할 것인가
인공지능에 대한 경성법적 위험 거버넌스
인공지능에 대한 연성법적 규제: ‘인공지능 윤리’와 ‘자발적 보고 제도’
인공지능의 ‘복잡성’에 대비할 방법은
놀라운 기술이 만드는 디스토피아

15. 로봇과 인공지능이 초래할 위험과 법적 규제
새로운 법규범을 만드는 것의 어려움
EU와 미국의 로봇법 및 인공지능 대응
접근방식의 혁신 필요성: 상시적 영향평가와 이해관계 조율

16. 4차 산업혁명 시대에 걸맞은 기술규제 합리화 방향
혁신 비즈니스모델에 친화적이지 않은 한국의 규제 현실
규제 합리화를 위한 4가지 제안
그 규제가 왜 만들어졌는지 기억하라

17. 4차 산업혁명과 지식재산권, 그리고 쟁점들
디지털 전환기의 혁신과 지식재산권
혁신환경 변화와 지식재산: 소유와 공유

에필로그│ 한국형 4차 산업혁명 전략을 위한 제언

참고문헌

미국의 역사학자 멜빈 크란츠버그(Melvin Kranzberg)의 기술법칙에 따르면 기술은 인간 활동의 결과물이며 여러 역사적 요소 중 매우 중요한 것이 사실이지만 기술은 선하지도 악하지도 않으며, 그렇다고 중립적인 것도 아니다. 크란츠버그는 기술이 관련된 많은 의사결정은 오히려 비 기술적 요소에 더 의존한다고 주장한다. 그의 주장을 받아들인다면 인공지능, 빅데이터, 센서, 로봇 등의 기술발전이 사회경제적 측면에서 긍정적 효과로 직접 이어진다고 보는 것은 지나치게 단순한 생각이다. _ 9쪽

그러나 지금 논의되는 4차 산업혁명은 인간 자체의 변화에 대해서는 그 어떤 고려도 없이 그저 인간을 둘러싼 환경 변화에 대한 분석에만 머물러 있다. 스마트 팩토리(smart factory)를 거론하면서도 스마트 피플(smart people)은 예상하지 않는 식이다. 환경이 변하면 사람도 변한다. 더욱이 그 변화는 지금까지 겪어보지 못한 급격한 변화일 수 있다. _ 35쪽

인공지능에 대한 우리 사회의 담론은 크게 세 가지 갈래로 나뉜다. 첫째, 인공지능에서 새로운 산업의 기회와 동시에 새로운 사회 구성을 기대하는 ‘산업적 담론(industrial visions)’이다. 둘째, 인공지능의 빼어난 역량이 발휘되는 환경에서 기계가 대체할 수 없는 인간만의 독특한 영역 계발을 모색해보려는 ‘생존기술의 담론(personal development techniques)’이다. 셋째, 지능과 물리적 힘의 차원에서 인간을 대체 또는 능가하는 기계 우위 시대의 도래를 예상하면서 그것이 가져올 우울한 미래사회를 그리는 ‘비관적 담론(dystopian scenarios)’이다. _ 40쪽

4차 산업혁명을 이뤄내는 과정에서 우리가 시장자본 증식을 위한 기술발전만을 목표로 삼는다면, 우리는 결국 기술발전을 가능케 할 창의력도 진작시킬 수 없고 삶의 질도 보장할 수 없다. 그런 점에서 다시금 4차 산업혁명의 선도국가 독일을 면밀히 살펴볼 필요가 있다. 독일이 4차 산업혁명 기반 기술에서 앞서가는 이유는 인간의 자유, 창의성, 삶의 질이 사회구성원들의 평등한 참여와 협력을 통해 상호 증진적으로 발휘되어서다. 따라서 우리가 독일로부터 배워야 할 것은 설비 제작 기술이 아니라 그런 기술이 창안되는 사회적 바탕, 즉 인본적 토양인 것이다. 이를 배우지 못한다면 비록 4차 산업혁명의 외피는 카피할 수 있을지 몰라도 4차 산업혁명의 본질적·심층적 동력과 생명력까지는 만들어내지 못할 것이다. _ 91쪽

가상적 인간은 현실의 인간과 커뮤니케이션할 때 ‘정직하게’ 커뮤니케이션을 하는 것이 아니라 ‘현실의 인간을 기분 좋게’ 하도록 프로그램화되는 존재다. 현실의 인간은 가상적 인간과 관계를 맺으면서 분명 더 높은 자긍심을 얻게 될 것이다. 가상적 인간은 자신을 구매한 이에게 절대로 기분 나쁜 이야기를 하지 않을 것이며 혼도 내지 않을 것이다. 이러한 상호작용의 경험은 현실의 인간이 살아가는 실제 현실에, 그리고 삶에 당연히 영향을 미친다. 결과적으로 현실의 인간은 자신이 인정받고 지지받는 가상적 인간과의 관계에 빠져 있을 가능성이 크고, 따라서 현실의 인간관계는 점차 흔들릴 위험성이 높다._ 109쪽

실수의 규모가 시스템의 완성도로 직결되는 보안 영역에서는 인공지능이 공격이나 수비 중 어떤 역할을 담당하든 간에 인간보다는 뛰어난 성과를 보일 것이다. 인간의 실수가 가져오는 취약점을 공격과 수비 중 어느 쪽이 먼저 발견할지는 정확히 예측할 수 없다. 다만 분명한 것은 앞으로는 인간보다 인공지능이 시스템의 취약점을 보다 더 빠르게 찾아낼 가능성이 높고, 드러난 취약점을 보완하거나 악용하는 과정에서 인간이 개입할 기회는 점차 줄어들 것이라는 점이다. _ 173쪽

4차 산업혁명을 추동하는 다양한 신기술, 그중에서도 인공지능 및 로보틱스(robotics) 기술의 규범적 영향과 그 대응방식에 대해 주요 국가들도 상당한 관심을 기울이며 고민하고 있다. 물론 이러한 규범적 대응은 관련 기술의 개발 및 발전이 전제되지 않는다면 사실상 무용지물이다. 따라서 대부분의 주요 국가들은 사회적 편익과 혁신 증대에 기여하는 신기술의 개발 및 서비스화에 주력하면서, 이러한 기술들이 유발할 수 있는 역기능을 최소화하기 위한 (법)규범적 대응방안을 모색하고 있다. _ 252쪽