추가 적립 안내

자율 시스템으로서 인공지능에는 정보 보안을 넘어선 윤리적 문제들이 있다.
인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에 충분한 윤리적 숙고 과정 없이 사회에 수용되는 경향이 있다. 때문에 윤리적 문제들을 미리 예측하고 논의해 방향을 설정하지 않으면 사회적 문제가 발생할 수 있다

인공지능 시대 이전에는 윤리를 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았으나 인공지능 시대는 윤리 문제를 해결해야만 기술 발전과 이익 확보가 가능하다.

* 커뮤니케이션북스 큰글씨책은 약시나 노안으로 독서에 어려움을 겪는 독자를 위해 만든 책입니다. 커뮤니케이션북스의 책은 모두 큰글씨책으로 제작됩니다.

자율 시스템으로서 인공지능에는 정보 보안을 넘어선 윤리적 문제들이 있다.
인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에 충분한 윤리적 숙고 과정 없이 사회에 수용되는 경향이 있다. 때문에 윤리적 문제들을 미리 예측하고 논의해 방향을 설정하지 않으면 사회적 문제가 발생할 수 있다
인공지능 시대 이전에는 윤리를 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았으나 인공지능 시대는 윤리 문제를 해결해야만 기술 발전과 이익 확보가 가능하다.

커뮤니케이션북스 큰글씨책은 약시나 노안으로 독서에 어려움을 겪는 독자를 위해 만든 책입니다. 커뮤니케이션북스의 책은 모두 큰글씨책으로 제작됩니다.

AI, 윤리 세워야 기술과 비즈니스 가능하다
커뮤니케이션북스, 인공지능총서 <인공지능과 윤리> 첫 발간

고흐의 ‘별이 빛나는 밤’ 느낌을 낸 AI(artificial intelligence, 인공지능)의 ‘금문교’ 그림이 화제가 된 적이 있다. 인간과의 두뇌싸움에서 종종 청출어람을 입증한 인공지능이 미술 음악 시 소설 등 문학과 예술세계에서도 두각을 나타내고 있다.
커뮤니케이션북스(주)는 인공지능 시대를 맞아 인간과 기술의 미래를 다각도로 분석한 총서를 출간한다. (사)한국인지과학회와 (사)한국인지과학산업협회가 공동으로 ‘인공지능총서 출판위원회’를 만들어 올해 10여권을 시리즈로 낸다는 계획이다. 11일 출간된 김효은 한밭대 교수의 <인공지능과 윤리>는 그 첫 번째다. 정혜선 한림대 교수의 <테크놀로지를 활용한 협동학습 지원>도 이달 말 출간된다. 총서는 인공지능 관련 이론과 학계·산업계 쟁점, 일상의 변화를 다룰 예정이다.
김효은 교수는 <인공지능과 윤리>에서 “자율 시스템으로서 인공지능에는 정보 보안을 넘어선 윤리적 문제들이 있다”면서 “윤리적 문제들을 미리 예측하고 논의해 방향을 설정하지 않으면 사회적 문제가 발생할 수 있다”고 했다. “인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에 충분한 윤리적 숙고 과정 없이 사회에 수용되는 경향”이 있기 때문이라는 것이다.
인공지능은 인간에게 유용한 조력자로 태어났다. 하지만 인공 신경망 개발과 신경 네트워크 알고리즘의 발전 등 성장과정을 거치면서 인간을 지배하는 결과로 이어질지 모른다.
인공지능이 인간지능을 능가하면서 자율 시스템으로서 인공지능은 여러 문제를 양산할 수 있다. AI 시스템을 사용하는 로봇은 규칙에 따라 작동하는 단순 기계가 아니다. ‘의사 결정’을 하는 ‘자율 시스템’이다. 자율 시스템은 데이터에서 규칙이나 패턴을 파악해 낸다. 데이터를 스스로 학습해 패턴을 인식하고 결정을 내린다.
그래서 바둑도 두고 그림을 그리고 작곡도 하고 시나 소설도 멋있게 쓰는 것이다. 문제는 AI가 고상한 영역을 넘어 위험한 시도를 하는 데 있다. 자율주행 자동차에서부터 군사용까지 확대되면 로봇의 의사 결정이 인간 생명의 존엄성을 위협할 수 있다.
김효은 교수는 “인공지능 시대 이전에는 윤리를 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았”으나 “인공지능 시대는 윤리 문제를 해결해야만 기술 발전과 이익 확보가 가능하다”고 했다. 한 예로 “인공지능 무인자동차는 특정 교통 상황과 관련된 윤리적 문제를 해결해야만 최종 목표, 곧 완전한 자율 주행이 가능한 자동차로 완성된다”는 것이다. 결국 “윤리적 상황의 해결이 기술의 완성을 이끌고 이것이 다시 비즈니스의 지속가능성을 보장한다”. 과거에는 기술 발전과 비즈니스가 윤리와 갈등 관계에 있었던 반면, 인공지능의 발전은 윤리를 고려해야만 기술 발전과 비즈니스가 가능한 사회로 우리를 이끌고 있는 것이다.
머신러닝 디프러닝 덕택으로 AI는 인간이 생산한 방대한 자료를 순식간에 분석해 학이시습 한다. 머지않아 인간과 똑같은 수준의 지능과 감정을 가진 기계나 컴퓨터의 출현도 가능할지 모른다. 인간 세계의 흔들리는 윤리의식이 AI 윤리를 어떻게 바로 세울지 걱정스럽다.

인공지능총서 소개

인공지능 시대입니다. 기계가 인간의 인지를 대신하고, 사물이 인간을 통하지 않고 다른 사물과 직접 커뮤니케이션합니다. 이에 따른 인간 삶과 문명 변화를 정확히 이해 · 예측 · 대응하는 것은 이 시대 우리 모두의 과제입니다. <인공지능총서>는 인공지능과 인지과학의 여러 주제를 10가지 키워드로 정리합니다. 관련 개념과 이론, 학계와 산업계의 쟁점, 우리 일상의 변화를 다룹니다. 인간과 기술의 현재, 미래를 세심히 분석합니다.

[근간]
테크놀로지를 활용한 협동학습 지원_정혜선
인공지능과 의식_한정규
사람의 길, 로봇의 길_이준환

인공지능 시대입니다. 기계가 인간의 인지를 대신하고, 사물이 인간을 통하지 않고 다른 사물과 직접 커뮤니케이션합니다. 이에 따른 인간 삶과 문명 변화를 정확히 이해 · 예측 · 대응하는 것은 이 시대 우리 모두의 과제입니다. <인공지능총서>는 인공지능과 인지과학의 여러 주제를 10가지 키워드로 정리합니다. 관련 개념과 이론, 학계와 산업계의 쟁점, 우리 일상의 변화를 다룹니다. 인간과 기술의 현재, 미래를 세심히 분석합니다.

근간
테크놀로지를 활용한 협동학습 지원_정혜선
인공지능과 의식_한정규
사람의 길, 로봇의 길_이준환

AI, 윤리 세워야 기술과 비즈니스 가능하다
커뮤니케이션북스, 인공지능총서 <<인공지능과 윤리>> 첫 발간

고흐의 ‘별이 빛나는 밤’ 느낌을 낸 AI(artificial intelligence, 인공지능)의 ‘금문교’ 그림이 화제가 된 적이 있다. 인간과의 두뇌싸움에서 종종 청출어람을 입증한 인공지능이 미술 음악 시 소설 등 문학과 예술세계에서도 두각을 나타내고 있다.
커뮤니케이션북스(주)는 인공지능 시대를 맞아 인간과 기술의 미래를 다각도로 분석한 총서를 출간한다. (사)한국인지과학회와 (사)한국인지과학산업협회가 공동으로 ‘인공지능총서 출판위원회’를 만들어 올해 10여권을 시리즈로 낸다는 계획이다. 11일 출간된 김효은 한밭대 교수의 <<인공지능과 윤리>>는 그 첫 번째다. 정혜선 한림대 교수의 <<테크놀로지를 활용한 협동학습 지원>>도 이달 말 출간된다. 총서는 인공지능 관련 이론과 학계·산업계 쟁점, 일상의 변화를 다룰 예정이다.
김효은 교수는 <<인공지능과 윤리>>에서 “자율 시스템으로서 인공지능에는 정보 보안을 넘어선 윤리적 문제들이 있다”면서 “윤리적 문제들을 미리 예측하고 논의해 방향을 설정하지 않으면 사회적 문제가 발생할 수 있다”고 했다. “인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에

충분한 윤리적 숙고 과정 없이 사회에 수용되는 경향”이 있기 때문이라는 것이다.
인공지능은 인간에게 유용한 조력자로 태어났다. 하지만 인공 신경망 개발과 신경 네트워크 알고리즘의 발전 등 성장과정을 거치면서 인간을 지배하는 결과로 이어질지 모른다.
인공지능이 인간지능을 능가하면서 자율 시스템으로서 인공지능은 여러 문제를 양산할 수 있다. AI 시스템을 사용하는 로봇은 규칙에 따라 작동하는 단순 기계가 아니다. ‘의사 결정’을 하는 ‘자율 시스템’이다. 자율 시스템은 데이터에서 규칙이나 패턴을 파악해 낸다. 데이터를 스스로 학습해 패턴을 인식하고 결정을 내린다.
그래서 바둑도 두고 그림을 그리고 작곡도 하고 시나 소설도 멋있게 쓰는 것이다. 문제는 AI가 고상한 영역을 넘어 위험한 시도를 하는 데 있다. 자율주행 자동차에서부터 군사용까지 확대되면 로봇의 의사 결정이 인간 생명의 존엄성을 위협할 수 있다.
김효은 교수는 “인공지능 시대 이전에는 윤리를 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았”으나 “인공지능 시대는 윤리 문제를 해결해야만 기술 발전과 이익 확보가 가능하다”고 했다. 한 예로 “인공지능 무인자동차는 특정 교통 상황과 관련된 윤리적 문제를 해결해야만 최종 목표, 곧 완전한 자율 주행이 가능한 자동차로 완성된다”는 것이다. 결국 “윤리적 상황의 해결이 기술의 완성을 이끌고 이것이 다
시 비즈니스의 지속가능성을 보장한다”. 과거에는 기술 발전과 비즈니스가 윤리와 갈등 관계에 있었던 반면, 인공지능의 발전은 윤리를 고려해야만 기술 발전과 비즈니스가 가능한 사회로 우리를 이끌고 있는 것이다.
머신러닝 디프러닝 덕택으로 AI는 인간이 생산한 방대한 자료를 순식간에 분석해 학이시습 한다. 머지않아 인간과 똑같은 수준의 지능과 감정을 가진 기계나 컴퓨터의 출현도 가능할지 모른다. 인간 세계의 흔들리는 윤리의식이 AI 윤리를 어떻게 바로 세울지 걱정스럽다.

01 왜 인공지능윤리인가
02 로봇은 전자인격체인가
03 알고리즘 편향과 디지털 공평성
04 투명성과 설명가능성
05 책임과 책무성
06 뇌-컴퓨터 인터페이스와 정신의 경계
07 설계자, 제작자, 사용자 윤리
08 하향식 인공 도덕성 구현
09 상향식 인공 도덕성 구현
10 인공 도덕성과 인간 도덕성

01 왜 인공지능윤리인가
02 로봇은 전자인격체인가
03 알고리즘 편향과 디지털 공평성
04 투명성과 설명가능성
05 책임과 책무성
06 뇌ㆍ컴퓨터 인터페이스와 정신의 경계
07 설계자, 제작자, 사용자 윤리
08 하향식 인공 도덕성 구현
09 상향식 인공 도덕성 구현
10 인공 도덕성과 인간 도덕성

‘인공지능의 윤리’는 인공지능 로봇의 발전에 따라 등장하는 쟁점들, 곧 인공지능 기술의 설계·생산·사용 등과 관련해 발생하는 윤리적 문제를 다룬다. 따라서 설계자·제작자·사용자 모두가 주체가 된다.
인공지능의 급격한 발전, 인공지능과 두뇌 간의 무유선 신호를 통한 연결은 기계와 인간, 물질과 정신의 경계를 흐린다. 전기 신호를 통한 뇌 자극은 물리적 개입을 통해 직접적으로 마음 상태를 바꾸는 기술이다. 이 기술은 정신과 물질의 구분을 모호하게 한다. 전기 신호로 뇌를 변화시켜 정신 상태도 변화시킬 수 있다면, 우리 인간의 정신은 결국 물질이라고 해야 하는 것인가? 자유의지나 인격 동일성은 더 이상 존재하지 않게 되는 것일까? 이러한 질문은 인공지능이나 뇌과학뿐만 아니라 인지과학, 심리학, 철학적 접근을 필요로 한다.
인공지능의 응용, 그리고 인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에 충분한 윤리적 숙고 과정 없이 사회에 수용되는 경향이 있다. 이와 관련된 윤리적 문제들을 미리 예측하고 논의해 방향을 설정해 두어야 하는 이유가 여기 있다. 그렇지 않으면 사회적 문제가 발생할 수 있다.
('로봇윤리, 인공지능윤리' 중에서)

인공지능에 적용되는 윤리는 ‘착하게 살아야 한다’는 좁은 의미의 윤리를 넘어선다. 여기서 윤리는 복잡한 상황에 적합한 의사 결정으로 관련 의사 결정 주체나 대상의 지속가능성을 확보한다는 넓은 의미를 띤다.
이렇게 윤리적 고려가 산업, 경영, 과학기술 등 거의 모든 분야를 이끄는 주요한 요소가 되는 것은 윤리 패러다임의 변화라고 할 수 있다.
인공지능 시대 이전에는 윤리적 사항들을 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았다. 과학기술과 윤리는 서로 영향을 미쳤지만, 실제 영향력은 크지 않았다. 과거에는 기술 발전과 비즈니스가 윤리와 갈등 관계에 있었던 반면, 인공지능의 발전은 도리어 윤리를 고려해야만 기술 발전과 비즈니스가 가능한 사회로 우리를 이끌고 있는 것이다.
('왜 인공지능윤리인가' 중에서)

무인자동차의 운행 방향에는 다수의 행인이 지나가고 있고 행인들에게 상해를 입히지 않기 위해 방향을 바꾸면 벽에 부딪쳐 운전자가 상해를 입게 된다. 이때 무인자동차는 어떤 결정을 내리도록 설계되어야 할까?
76퍼센트의 답변자들이 보행자 열 명 대신 탑승자 한 명을 희생하는 쪽이 더 도덕적이라고 판단했다.
그런데 “자기희생 모드의 무인자동차와 자기 보호 모드의 무인자동차가 판매될 경우 어느 차를 구입하겠는가”에 대한 질문에는 다수의 사람들이 자기 보호 모드의 차를 선택했다.
소수보다는 다수의 생명을 구하는 것을 더 좋은 도덕 판단으로 선택하면서도 정작 본인은 그렇게 프로그래밍된 무인자동차를 선택하지 않는다.
('인공 도덕성과 인간 도덕성' 중에서)

‘인공지능의 윤리’는 인공지능 로봇의 발전에 따라 등장하는 쟁점들, 곧 인공지능 기술의 설계·생산·사용 등과 관련해 발생하는 윤리적 문제를 다룬다. 따라서 설계자·제작자·사용자 모두가 주체가 된다.
인공지능의 급격한 발전, 인공지능과 두뇌 간의 무유선 신호를 통한 연결은 기계와 인간, 물질과 정신의 경계를 흐린다. 전기 신호를 통한 뇌 자극은 물리적 개입을 통해 직접적으로 마음 상태를 바꾸는 기술이다. 이 기술은 정신과 물질의 구분을 모호하게 한다. 전기 신호로 뇌를 변화시켜 정신 상태도 변화시킬 수 있다면, 우리 인간의 정신은 결국 물질이라고 해야 하는 것인가? 자유의지나 인격 동일성은 더 이상 존재하지 않게 되는 것일까? 이러한 질문은 인공지능이나 뇌과학뿐만 아니라 인지과학, 심리학, 철학적 접근을 필요로 한다.
인공지능의 응용, 그리고 인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에 충분한 윤리적 숙고 과정 없이 사회에 수용되는 경향이 있다. 이와 관련된 윤리적 문제들을 미리 예측하고 논의해 방향을 설정해 두어야 하는 이유가 여기 있다. 그렇지 않으면 사회적 문제가 발생할 수 있다.
“로봇윤리, 인공지능윤리” 중에서

인공지능에 적용되는 윤리는 ‘착하게 살아야 한다’는 좁은 의미의 윤리를 넘어선다. 여기서 윤리는 복잡한 상황에 적합한 의사 결정으로 관련 의사 결정 주체나 대상의 지속가능성을 확보한다는 넓은 의미를 띤다.
이렇게 윤리적 고려가 산업, 경영, 과학기술 등 거의 모든 분야를 이끄는 주요한 요소가 되는 것은 윤리 패러다임의 변화라고 할 수 있다.
인공지능 시대 이전에는 윤리적 사항들을 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았다. 과학기술과 윤리는 서로 영향을 미쳤지만, 실제 영향력은 크지 않았다. 과거에는 기술 발전과 비즈니스가 윤리와 갈등 관계에 있었던 반면, 인공지능의 발전은 도리어 윤리를 고려해야만 기술 발전과 비즈니스가 가능한 사회로 우리를 이끌고 있는 것이다.
“왜 인공지능윤리인가” 중에서

무인자동차의 운행 방향에는 다수의 행인이 지나가고 있고 행인들에게 상해를 입히지 않기 위해 방향을 바꾸면 벽에 부딪쳐 운전자가 상해를 입게 된다. 이때 무인자동차는 어떤 결정을 내리도록 설계되어야 할까?
76퍼센트의 답변자들이 보행자 열 명 대신 탑승자 한 명을 희생하는 쪽이 더 도덕적이라고 판단했다.
그런데 “자기희생 모드의 무인자동차와 자기 보호 모드의 무인자동차가 판매될 경우 어느 차를 구입하겠는가”에 대한 질문에는 다수의 사람들이 자기 보호 모드의 차를 선택했다.
소수보다는 다수의 생명을 구하는 것을 더 좋은 도덕 판단으로 선택하면서도 정작 본인은 그렇게 프로그래밍된 무인자동차를 선택하지 않는다.
“인공 도덕성과 인간 도덕성” 중에서