추가 적립 안내

- 향후 AI 행정이 활성화될 경우를 대비하여 AI가 공공행정에 활용될 경우 발생할 수 있는 법적 쟁점을 발굴하고, AI 행정이 가져올 행정법 영역에서의 각종 법적 이슈와 쟁점들을 연구하여 미래 행정에 대비한 입법 방안을 마련할 필요가 있음
- 이 연구는 AI 행정이 공공행정 영역에서 확대될 경우 AI 행정의 근거, 행위기준, 절차, 권리구제 방안 등 다양한 법적 쟁점을 발굴하고, 개별 행정법제의 개선 방안을 마련하고자 함

Ⅰ. 배경 및 목적

▶ 연구 배경 및 연구 목적

○ 연구 배경

- 정부의 공공정책 입안ㆍ시행과정에서 인공지능의 활용이 확대되고 있으며, 이와 관련 “스마트 행정”, “인공지능과 공공행정”, “알고리즘에 의한 정부”, “지능형 정부”, “자동화된 행정”과 같은 키워드가 자주 사용

- 인공지능 기술의 비약적 발전으로 공공행정 영역에 인공지능을 활용하기 위한 시도가 증가하고 있으며, 이와 관련된 입법적 시도도 나타나고 있음

- 최근 「데이터기반행정 활성화에 관한 법률」은 데이터기반행정,「행정기본법」은 자동적 처분에 대한 법적 근거를 입법화하였으며, 현재 관련 입법안도 다수 제출되어 있음

○ 연구 목적

- 향후 AI 행정이 활성화될 경우를 대비하여 AI가 공공행정에 활용될 경우 발생할 수 있는 법적 쟁점을 발굴하고, AI 행정이 가져올 행정법 영역에서의 각종 법적 이슈와 쟁점들을 연구하여 미래 행정에 대비한 입법 방안을 마련할 필요가 있음

- 이 연구는 AI 행정이 공공행정 영역에서 확대될 경우 AI 행정의 근거, 행위기준, 절차, 권리구제 방안 등 다양한 법적 쟁점을 발굴하고, 개별 행정법제의 개선 방안을 마련하고자 함

Ⅱ. 주요 내용

▶ 국내ㆍ외 AI 행정 현황

○ 국내외 AI 공공 활용 사례

- 주요 외국에서는 AI를 활용한 공공 서비스 개발이 급속도로 확산되고 있으며, AI기반의 공공허브를 통한 연구망과 AI 기반 디지털 정부를 구축하고, AI 활용하여 다양한 사회적 문제를 해결하기 위한 시도가 활발하게 전개되고 있음

- AI의 공공 분야의 활용 서비스로는 자동화, 예측, 규제 및 적발을 위한 모니터링 등이 있고, 활용 분야로는 금융, 의료, 보험, 서비스 등의 지식서비스 인프라 등에 다양하게 활용되고 있음

- EU에서 공공영역에 AI가 적용된 사례로는 일반 행정서비스(30%), 경제(18%), 보건(15%), 공공질서·안전(14%), 사회보장(9%), 환경보호(4%), 주거·지역편의시설, 교육, 휴양·문화·종교, 국방 순으로 조사됨(2022)

- 국내에서도 독거노인 지원, 보행자 안전, 민원상담, 폐기물수거, 신약개발 등에 개발되어 활용되고 있음

○ 최근 5년간 관련 언론 이슈 빅데이터분석 시사점 (일반 이슈)

- 인공지능 행정에 관한 2017년1월에서 2021년12월까지의 12개 언론사의 기사 27,165개 기사에 대한 SNS분석, 토픽분석 결과 시사점은 다음과 같음

- 기술과 정보의 권리관계를 둘러싼 문제가 중요하며, 특히 새로운 아이디어나 기술을 가진 스타트업과 대기업의 관계, 이에 관한 불공정거래 등의 문제를 주목할필요 있음

- 하드웨어적인 부분, 사물인터넷, 클라우드, 로봇, 자율주행차 등 관련 사안도 인공지능과 관련되어 크게 다루어지고 있으며, 특히 클라우드는 지식인프라 구축을 위하여 중요한 이슈임

- 2020년부터는 빅데이터 관련 이슈, 공공데이터, 개인정보, 가명정보의 문제들이 중심 이슈로 등장

- 코로나19의 영향이 본격화된 2020년부터는 일자리에 관한 이슈 비중이 높아졌고, 코로나19로 인해 대면 업무가 감소하고 많은 일자리가 줄어드는 반면, 비대면산업의 새로운 성장과 더불어 인공지능 관련 일자리는 증가

- 최근에는 인공지능의 차별, 혐오발언 등 윤리성과 관련된 사건들이 현실적으로 등장하고 있어 이에 대한 대응책 필요

- 제도·규제적 측면에서는 2020년 이후 규제샌드박스, 규제자유특구, 기본소득, 레그테크(Regtech) 관련 이슈도 다수 등장

- AI 관련 주요 국가로는 중국과 미국의 비중의 비중 현저히 높음

○ 최근 5년간 관련 언론 이슈 빅데이터분석 시사점 (영역별 이슈)

- 2018년에는 금융 관련 이슈들이 큰 비중을 차지, 그 다음 의료, 교통 등의 순이었으나, 그 후 의료, 교통 관련 이슈의 비중이 점차 더 증가하였으며, 특히 교통 이슈는 자율주행차 등으로 비중 더욱 증가

- 관련 부처별로 언급 비중으로는, 과학기술통신부, 농림부, 특허청, 산자부, 행안부 등 순

- 금융과 관련하여서는 블록체인, 핀테크 등이 크게 나타나고 있고, 2019년부터 스마트시티와 관련된 이슈가 상당한 비중, 자율주행차와도 상관관계 있음

- 코로나 19의 영향에 따라 2020년에는 의약품, 유전체, 비대면 원격의료 등의 이슈가 상당한 비중으로 나타남

- 코로나 19의 영향에 따른 비대면 원격교육이 본격화됨에 따라 2020년부터는 관련하여 이러닝 등에 인공지능 관련 기술을 적용하는 교육방식에 대한 관심이 급격히 상승

- 교통과 관련하여서는 지속적으로 자율주행차가 이슈의 중심이지만, 초기에는 카풀, 렌터카 등에서 시작하여 미래차 관련 이슈가 점차 성장했으며, 그밖에 횡단보도, 주차장, 대중교통, 정거장, 충전소 등과 관련된 교통인프라 관련 이슈로 확대

▶ AI 행정 관련 입법의견조사

○ 순기능과 역기능

- 인공지능이 정부영역에 적용될 경우 기대되는 순기능으로는 동등처우, 합리성, 투명성, 예측가능성, 정확성과 투입 행정자원의 효율화 등이 있으며, 우려되는 역기능으로는 법과 규칙에 전제된 의도와 원칙이 제대로 반영되지 않을 수 있다는 점, 인간·사회적 편견이 학습될 경우의 편향성, 공감능력의 저하, 투명성 보장의 어려움, 이해능력의 한계 등에 관한 문제가 제기됨

○ AI행정에 대한 입법의견조사

- AI의 공공행정 영역에서의 활용에 대한 일반 국민의 인식과 의견 파악을 위하여 전국 만 20세 이상 49세 이하 성인 남녀 1200명에 대하여 온라인조사를 실시

- 공공·민간 공공·연구·교육기관 법학, 행정학, IT, 경제 등 전문가 34인을 상대로 한 조사결과를 일반인과 비교함

- 조사내용은 AI에 대한 일반 인식, 공공행정 분야 AI 도입에 대한 인식, 공공행정 분야 AI 도입 관련 과제와 관련된 다음의 세부 항목에 대하여 조사됨

〈표〉원문참조

○ AI에 대한 일반 인식

- 전문가그룹의 경우, 일반국민에 비해 AI 친숙도와 AI 관심도 모두 높은 수준을 보였다.전문가는 AI 친숙도에 대해 ‘익숙하다’는 응답이 73.5%로 나타났고, AI를 배우는 것에 대한 관심도가 94.1%로 친숙도보다 높게 나타남

- 연령별로는 친숙도는 20대가 높지만 관심도는 40-50대에서 높게 나타나 장년층의 AI 관심도가 높다는 점에서 디지털격차의 완화정책이나 관련 내용의 평생교육정책이 적극적으로 필요할 것

- 전문가의 경우 AI의 능력으로 이미지 인식 등 기술적인 부분에 대해서는 우수하다는 인식(1+2)이 매우 높지만 구체적 상황에서의 윤리적 의사결정에서는 긍정적 인식이 0.0%로 매우 부정적으로 판단하고 있는 것으로 나타남. 특히 AI의 의사결정 영역에서 전문가는 일반인에 비해 수행능력이 부족하다고 응답한 비율이 높게 나타남

- 결과적으로 AI 지원 시스템에는 사람의 참여가 중요하다는 응답이 100.0%로 매우 높게 나타난 것으로 판단된다. 전문가와 일반인은 항목별로 차이를 보이지만, 가장 큰 차이는 ‘윤리적 방식으로 개발’한다는 항목으로 전문가가 일반인 대비 부정적 평가가 훨씬 높게 나타났다. (전:70.6%〉일:32.9%)

- AI가 미래에 국가와 개인에 대해 영향을 미칠 것이라는 응답은 전문가집단이 영향을 미친다는 긍정응답(7~10점)이 국가는 79.4%, 개인은 67.6%로 전체적으로 일반인보다 높게 나타남. 영향력의 방향 중에서 해를 끼칠 가능성에 대해서 확인한 결과 79.4%가 동의한다(1+2)고 응답해, 일반인보다 AI에 대한 불안감을 다소 높게 표현

- 전문가는 일반인 대비 인간의 역할에 대해 100% 필요하다고 응답해 인간의 역할에 대한 요구수준이 다소 높은 것으로 나타남

○ 공공/행정 분야 AI 도입에 대한 인식(일반국민)

- 공공/행정서비스의 기능별 도입에 대한 동의 정도에 있어 지식서비스(85.7%)와 위험업무(85.9%), 모니터링(86.7%) 등은 긍정 비율이 매우 높게 나타났으나, 의사결정(58.5%)과 컨설팅(63.5%), 법해석(53.0%) 영역과 같이 인간의 판단 비중이 높은 영역에서는 동의 응답이 상대적으로 낮음

- AI를 통해 행정 개선에 대한 기대가 신속성 향상과 중복 감소, 원칙적인 업무 처리 등에서 높음

- AI가 공공/행정서비스에 도입될 경우 예상되는 문제점에 대한 일반국민의 인식은, 일자리 대체 응답이 87.8%, 보안문제 확대(86.4%), 편향적 의사결정(81.5%) 순으로 높게 나타나며, 전반적으로 부정적 응답이 최소 70% 이상을 보여 공공/행정서비스 영역에 AI가 도입될 경우 불안감이 상존함을 확인

- AI가 도입될 경우 1순위 기준으로 기대되는 영역은 교통분야(43.3%)이면서 동시에 부작용이 우려된다는 응답 또한 20.9%로 높고, 조세재정은 긍정응답(15.0%)과 부정응답(15.4%)이 비슷한 수준이며, 입법/사법/집행의 경우 부정응답(19.5%)이 긍정응답(7.7%)보다 높게 나타남

○ 공공행정 분야 AI 도입 관련 과제

- (일반국민) 공공/행정서비스 AI 도입시 AI가 아닌 인간 공무원이 최종적인 의사결정 주체가 되어야 한다가 높지만(67.8%), AI가 최종적인 의사결정을 할 수 있는 경우로 법으로 요건이 명확하게 정해진 행위(57.5%), AI의 데이터와 알고리즘이 합리적이라고 사람이 인정한 경우(48.4%)가 인정

- (전문가) 공공/행정 영역 AI 도입시 공청회, 규칙설명, 부작용고지 등 정보제공과 절차제공에 대해서는 전문가의 긍정비율이 일반인보다 다소 높음

- (일반국민) 공공/행정서비스에 AI가 도입되는 경우 사전 동의절차가 반드시 필요하다는 응답이 높고(60.8%), 근거와 적정 절차가 준수되면 고지/동의절차가 필요없다는 응답은 낮음(12.8%)

- (전문가) 의사결정과정에 AI가 도입된 경우, 불복 절차 관련 분쟁해결기관, AI 의사결정 시스템의 데이터와 규칙 등에 대한 정보접근권 등에 대해 일반국민과 인식차 나타남(전문가가 상대적으로 당사자 절차선택권(50.0%), 정보접근권(76.5%) 인정 비율 높음)

- (일반국민) 공공/행정 영역 AI의 의사결정에 따른 피해에 대한 보상비용부담주체에 대해 전체적인 시스템 개발을 주관하는 개발청(행정기관/공공기관)과 개발자 공동으로 책임을 져야 한다는 응답(46.0%)이 전문가보다 상대적으로 높음

- (전문가) 공공/행정 영역 AI 관련 정책추진을 담당할 새 정부부처가 필요하다(55.9%), 현재의 정부부처 중에서는 행정안전부(35.3%), 과학기술정보통신부, 국무조정실이(각 26.5%) 순

○ AI에 대한 국민인식 비교 : 한국과 캐나다

- 2020년에 캐나다 혁신과학경제개발원에서 실시한 캐나다 국민 1,222명을 대상으로 수행된 인식조사와의 비교 시 다음과 같은 시사점을 도출함

- 1) AI 친숙도 및 관심도, 2) AI가 할 수 있는 일 및 AI 기술 사용처 이해, 3) AI에 대한 수행 능력 신뢰, 4) AI의 기술적 측면에 대한 의견, 5) AI의 영향에 대한 전망, 6) AI 개발 과정의 사람의 역할의 측면에서 인식정도를 비교함

- 우리나라 국민의 경우 AI를 배우는 것에 대한 관심도가 친숙도보다 높게 나타나 관심도가 높게 나타나지만, 캐나다와 비교해 관심도는 비슷한 수준(한국(70.0%), 캐나다(73.3%))이나, 친숙도는 우리나라가 캐나다 대비 낮은 수준을 보임

- AI가 할 수 있는 일이나 사용처에 대해 우리나라 국민들의 긍정응답이 상대적으로 높게 나타나며, AI의 역량 및 가능성에 대해 캐나다 대비 높게 평가하는 경향이 강함

- ‘AI가 향후 5년 동안 미칠 영향’에 관하여 ‘국가’와 ‘개인’적 측면 각각을 묻는 질문에서, 긍정응답이 우리나라가 상대적으로 높으며, ‘AI가 사회에 해를 끼칠 가능성’ 에 대하여는 비슷한 수준의 동의 정도

- ‘AI 단계별 인간 역할의 필요 여부’에서, AI 개발에 대한 인간의 단계별 역할에 대해서는 우리나라와 캐나다의 인식 차이가 거의 없음

○ 시사점

- 이번 조사는 인공지능에 대해 기대와 우려가 공존하는 상황에서 행정영역의 AI에 대한 국민들의 수용 정도를 탐색하는 데 일차적 의의가 있으며, 전문가집단의 의견을 통해서 문제점의 파악과 법제도 개선방향을 가늠하고자 하였음

- 인공지능의 영향에 있어 개인에 대한 영향보다 국가 전체에 대한 영향을 더 크게 보고 있어 공적 분야에서의 인공지능 활용의 잠재력 크다고 할 수 있음

- 인공지능에 대한 친숙도에 있어 세대간(연령이 낮을 수록 친숙도 높음), 성별간(남성이 여성보다 높음) 격차가 나고 있으나, 오히려 관심도는 친숙도가 낮은 층에서 더 높게 나타나는 경향이 있어 지식의 편차를 좁히는 평생교육 정책 중요

- 인공지능에 대한 기대와 우려가 동시에 상당히 공존하는 상황으로 행정 기능별, 영역별 긍정 요소는 극대화하고 부정 요소는 최소화하기 위한 정책의 선별이 필요하는 점을 확인

- 일반국민의 우선적 우려 요소로 인식되는 일자리의 문제는 인공지능에 따른 공공분야 인력수급에 대한 중장기적 영향과 대안을 준비할 필요가 있으며, 파급효과로 인한 전체고용시장에의 영향을 대비하는 정책적 준비 역시 필요함

- 공공행정 영역에 AI를 도입하는 경우에도 인간 감독과 개입, 책임확립을 통한 신뢰보장의 중요성이 강조되어져야 하며, 공공행정영역의 경우 투명성과 책임성확보를 위한 절차가 보장될 수 있는 제도설계가 필요함

- 공공행정 영역에 AI가 도입되는 경우 국민의 권리관계에 영향을 미치므로, 이에 대한 도입과정, 운영과정, 문제해결과정에서 알권리가 보장될 수 있는 제도설계가 필요함

- AI에 따른 유해한 영향으로 일반국민들이 가장 우려하고 있는 점은 개인정보와 프라이버시 침해이나 개인정보, 프라이버시, 안전, 민주주의, 차별, 일자리 등 다양한 우려 요소가 확인되므로 제도설계시 영향평가요소로 고려할 필요 있음

▶ AI 행정 관련 정책 및 법제

○ 관련 정책

- 인공지능과 관련하여 발표된 기본 정책문서로는 정부합동으로 발표한「인공지능(AI) 국가전략」(2019.12)이 있으며, 위 전략에서 제시된 공통·분야별 법제 이슈를 발굴하여 정비하기 위해 발족한 AI법제정비단은「인공지능 법？제도？규제 정비 로드맵」(2020.12)과「규제정비단 입법과제」(2020, 2021, 2022)를 제시함

- 과학기술정보통신부가 사람이 중심이 되는 인공지능을 위해「신뢰할 수 있는 인공지능 실현전략」(2021.5)을 발표하고 실현전략과 실천과제를 제시함

○ 법률상 계획

- 관련 법정 계획으로는 지능화를 통한 국가 디지털 전환을 위해 공공부문 지능화 기반 구축을 내세운「국가정보화 기본계획」(2018-2022), 데이터기반의 과학행정을 지능형 정부서비스를 통해 구현하는 비전을 제시한「데이터기반행정 활성화 기본계획」(2021-2023), 데이터에 기반한 과학행정 구현을 추진과제로 게시한「공공데이터의 제공 및 이용 활성화에 관한 기본계획」(2020-2022)이 있음

- 그 외에도 주요한 법정 계획으로 인공지능 기술을 통한 디지털 혁신이라는 글로벌 환경에서 안전한 개인정보 이용 환경구축을 위한 전략으로 제시한「개인정보 보호 기본계획」(2021-2023)이 있음

○ 관련 법제

- 공공행정 영역에서의 인공지능과 관련될 수 있는 법제로는 자동적 행정처분의 근거를 두고 있는「행정기본법」(2021.3. 제정), 행정처분의 방식과 절차에 대한 법으로 최근 행정절차나 행정과정에 정보통신기술을 활용하는 규정을 신설한「행정절차법」(2022.1. 일부개정)이 있음

- 최근 국가정보화를 지능정보화로 제명을 변경한「지능정보화 기본법」(2020.6. 전부개정)은 지능정보사회의 기반을 위해 필요한 기술·경제·사회 문제 전반에 관한 규정을 두고 있으며,「전자정부법」(2021.6. 전부개정)은 최근 개정을 통하여 지능형 전자정부서비스와 관련된 조항을 신설하여 다양한 행정서비스에 인공지능기술을 활용할 수 있는 근거를 마련하였음

- 그밖에 데이터를 행정적 의사결정의 기초가 되는 과학적 행정을 위한 기반구축을 위한「데이터기반행정 활성화에 관한 법률」(2020.6. 제정)과 공공데이터의 제공과 이용활성화를 위한 공공데이터 이용권을 보장을 위한「공공데이터의 제공 및 이용 활성화에 관한 법률」(2020.2. 일부개정)은 인공지능 개발에 필수적인 공공데이터와 데이터기반 행정에 관한 내용을 규정하고 있음

- 데이터의 활용에 있어 데이터의 안전성을 보장하기 위한「개인정보 보호법」(2020.2. 일부개정)과 데이터 이용의 시장적 기반마련을 위한「데이터 산업진흥 및 이용촉진에 관한 기본법」(2021.10. 제정)도 인공지능 공공서비스 개발의 기반과 관련되는 법이라고 할 수 있음

○ 관련 가이드라인

- 입법적 시도에 앞서 각 정부·공공기관들은 가이드라인 등의 기준을 마련한 사례들이 있는데, 과학기술정보통신부 등 범 정부부처들이 발표한「사람이 중심이 되는 인공지능(AI) 윤리기준」(2020.12.), 국가인권위원회의「인공지능 개발과 활용에 관한 인권 가이드라인」(2022.5), 교육부의「교육분야 인공지능 윤리원칙」(2022.8)의 인공지능 윤리 관련 기준들이 있음

- 보다 실무적인 지침으로는 과학기술정보통신부의「인공지능 학습용 데이터 품질관리 가이드라인」(2021.3), 금융위원회의「금융분야 AI 가이드라인」(2021.7), 서울특별시교육청의「인공지능(AI) 공공성 확보를 위한 현장 가이드라인」(2021.11)이 있으며, 국제기준으로 식품의약품안전처가 참여한 국제의료기기규제당국자포럼 인공지능(AI) 의료기기 실무그룹이 발표한「인공지능(AI) 의료기기 국제 공통 가이드라인」(2022.5)이 있음

○ 관련 법률안

- 인공지능 관련 기본법으로 제안된 법률안으로는 「인공지능에 관한 법률안」(2021.7), 「알고리즘 및 인공지능에 관한 법률안」(2021.11)이 있음

- 인공지능 행정·안전 관련 법안으로는 「전자정부법 일부개정법률안」(2021.5)은 통과되어 현재 시행 중이며, 「클라우드컴퓨팅 발전 및 이용자 보호에 관한 법률 개정안」(2021.12)이 제안되었음

- 인공지능 산업·기술·연구 육성 관련 법으로는 「인공지능 기술 기본법안」(2020.10), 「인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률안」(2020.7), 「인공지능 집적단지의 육성에 관한 특별법안」(2020.10)등이 있음

- 인공지능 인재·교육 육성 관련 법으로는 「인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안」(2021.7), 「인공지능교육진흥법안」(2021.5.)이 있음

▶ 외국 AI 행정 정책 및 입법사례

○ 정책과 전략, 규범화

- 세계 각국들은 2017년 이후 AI에 관한 국가전략을 발표하여 왔으며, 공공영역에서의 인공지능의 활용을 위하여 책임있는 관리를 위한 원칙, 신뢰를 담보할 수 있는 공공조달기준, 데이터개방, 인공지능 기술 활용지원 재정마련 등 에 관한 정책방안을 정부의 방침 제시나 지침을 통해 제시

- 외국의 경우에도 아직 입법사례는 많지는 않으나, 대체 행위규범으로 작용할 수 있는 윤리지침, 공공분야에 AI의 개발과 활용에 관한 가이드라인, 공공분야에서의 AI 관련 제품이나 서비스의 공공조달에 관한 지침 등이 있음

○ 국가별 정책 및 입법 사례

- 미국: 인공지능 관련 정책으로 오바마 정부의 「인공지능의 미래를 위한 준비」 (2016.10)이 있으며, 관련 입법으로 「증거기반정책결정법」 (2019.1) 은 인공지능 학습아젠다 개발과 개방정부를 통한 공공데이터 접근증진을, FTC의 「AI와 알고리즘 사용 지침」(2020)은 소비자에 대한 공정과 비차별을, 「알고리즘 책임법안」(2019)은 고위험 자동의사결정시스템의 평가와 보안평가를, 「미국 알고리즘책임법안」 (2022)은 증강된 중요 의사결정절차에 대한 영향평가 의무화

- EU: 「신뢰할 수 있는 인공지능 윤리가이드라인」(2019.4)에서 신뢰받을 수 있는 AI을 위한 윤리요소로 합법성, 윤리성, 견고성을 제시, 「인공지능 · 로봇 및 연관 기술의 윤리적 측면에 관한 EU 프레임워크」 (2020)로 AI의 개발, 활용, 보금에 관한 EU공동규칙의 필요성을 평가, 「EU 인공지능명령안」 (2021.4)에서는 AI시스템의 안전과 위험의 관점에서 수인불가한 위험, 고위험(대부분의 공공목적 AI해당), 제한된 위험인지에 따라 금지, 강한 수준의무, 경미한 투명성 의무 등으로 규제정도를 차등화함

- 영국: 시민·국가의 관계가 디지털을 통해 실현되는 「정부 혁신전략」 (2017~2020)의 비전과 목표가 제시되고 혁신을 위한 디지털 경제규제를 위한 「디지털 규제계획」(2021.7)을, AI에 대한 장기적 정책방향을 제시하는 「인공지능전략(UK AI Strategy)」(2021.9)에서 공공부문 AI 알고리즘 투명성 범정부 표준개발을 제안하였고, 공공부문의 자동화된 의사결정을 위한 「자동화된 의사결정을 위한 윤리 · 투명성 · 신뢰 체계에 관한 지침」(2021.5)을, 공공부문의 AI의 도입과 개발을 위한 구체적 평가·관리 지침인 「공공부문을 위한 AI 사용 가이드라인」(2020.1)을 공표

- 캐나다: 정부의 자동화된 행정결정에 대해 「자동화된 의사결정 지침」 (2019)은 데이터에 기반한 정부의 의사결정, 책임성, 공정성, 적법절차요건의 준수, 알고리즘의 위험감소, 자동화 의사결정 시스템에 사용된 데이터의 접근가능성을 기대효과로 제시하며 4단계 영향수준의 구분과 그에 따른 알고리즘 영향평가, 투명성, 품질보증, 이의제기, 정보제공, 비준수 관리에 관한 기준을 제시함

- 독일: 「연방정부 인공지능 전략」(2018.11,2020.12.업데이트)은 독일의 유럽·국제적 주도력을 확보하기 위한 인프라와 인력을 갖추기 위한 기반형성과 공익적 분야의 우선적 활용을 제시하고, 공공행정영역의 인공지능활용을 위한 신뢰를 위한 투명성, 공정성·비차별, 개인정보보호, 안전·보안·참여, 의사결정의 추적·검증가능성, 사례별 옵트아웃 등을 제시하였고, 「과세절차현대화법」(2016.7), 「연방행정절차법」(2017.1) 등의 개정으로 기속행위의 자동적 행정처분의 근거와 정부의 직권탐지를 규정

- 일본: 「인간중심 AI 사회원칙」(2016)을 통해 인간중심적 AI사회원칙을, 후속조치로 「AI전략 2021」(2021.7)를 통해 당면 과제 극복을 위한 AI의 효과적 활용 대책을, 「AI원칙 구현 거버넌스 가이드라인」(2021.7, 2022.1개정)은 여건· 위험분석, 관리를 위한 거버넌스 목표설정, 지속적 평가, 정보공개와 사회적 수용성 분석, 독립적 평가 등 기업이 AI 개발·도입시 따라야 할 원칙과 행위목표를 제시하였고, 「도로운송법(RTVA)」(2019), 「도로교통법(RTA)」(2020), 「의료정보의 부당한 처리에 관한 법률」(2017) 등 개정으로 영역별로 AI 개발과 활용을 위한 데이터 이용 근거를 마련함

- 호주: 「사회복지 및 기타 법률 개정안 2020」(2020)은 사회보장 영역에서의 경찰관에 대한 허위정보제공을 범죄로 하는 구성요건에 자동화된 의사결정을 포함하여 AI에 의한 자동화행정에서 발생하는 문제상황을 명확히 함

- 중국: 「차세대 인공지능발전규획」(2017.7), 「과학기술혁신 2030-중대과제」(2016), 「‘인터넷+’ 적극 추진에 대한 지도의견」(2015) 등으로 인공지능을 활용하기 위한 기반정책을 마련하고, 「2019년 스마트 법원 건설에 관한 통지」(2019), 「지식재산권 사법보호규칙」(2021), 「석탄광산 스마트화 건설 가이드」(2021.6), 「“14.5” 국가긴급체계 규획」」(2021.12), 「지능형커넥티드도로테스트에 관한 행정규칙」 등을 통해 관련 행정에 AI기술 활용 관련 규정을 둠

○ 시사점

- 외국사례 등을 통해 볼 때, AI와 관련한 각종 영향평가의 목적과 평가지표에 대한 세부 내용에 차이가 있는데, 평가목적은 도입의 적정, 사회적 영향, 위험, 윤리 등으로 다양한 평가목적으로 수행될 수 있음

- 영향평가 등 각종 평가와 관련하여서 도입단계에서 도입의 여건과 적정성을 평가하는 경우(사전평가: 영국, 일본), 도입 이후 목표 달성 여부, 상황의 변화분석 등을 위해 운영 과정에서 수행되는 경우(사후평가)가 있음

- 공공행정영역의 AI에 관련 가이드라인, 법안 등의 경우, 대체로 적용대상을 행정작용의 유형을 구분하지 않는 경우가 많지만(캐나다, EU), 자동적 의사결정을 의사결정행위와 의사결정 지원행위로 구분하는 경우(영국), 자동적 행정행위에 있어 기속행위만을 적용대상으로 하는 각각의 경우가 있는데(독일), 이러한 경우에 대한 차이를 명확히 구분하여 인식할 필요가 있음

- 공공행정영역의 의사결정 및 행정행위를 위한 AI에 있어 완전자동인 경우에도 예외적인 사안에 대한 요건과 절차를 통해 인간의 개입의 가능성을 마련할 필요가 있음(독일)

- 대량의 학습데이터를 필요하는 AI개발에 있어 개인정보를 보호하면서도 익명성을 확보하여 처리할 수 있는 방법의 개발 지원이 필요하며, 공익목적인 경우에 보안확보를 전제로 개인정보보호 적용을 유연화하는 다각도 방식 모색 필요

- 입법에 있어 기존 법령 내용의 변화가 필요한 분야가 광범위한 만큼, 향후 새로운 법률 제정에 있어 필요한 법개정 영역을 선별할 필요가 있음(EU)

- AI 관련 정책, 연구, 지침 등에 있어 일관된 방향설정과 기준제시가 가능한 조직의 필요성이 있으며(영국), 공익목적 추진 사업에 대한 공공사업 주도기관(독일), 사업 수행기관 내부적으로도 관련 업무수행 조직이 필요(일본)

- 발생된 위험에 대한 피해구제에 관하여는 아직 위험이 현실화하지 않은 만큼 현실적 입법 대안은 많지 않으나 향후 발생할 수 있는 사건을 대비하여 대응상황을 주시할 필요 있음

- 현 상황에서 외국의 입법례는 공공과 민간에서 개발되는 AI를 별도의 입법으로 다루는 경우는 많지 않고, 공공 AI를 위험성이 높은 범주로 포함하는 등의 태도를 보이는 경우(EU법안), 행정영역에서의 대외적 영향을 염두에 둔 행정의 신뢰성 확보를 위한 적법절차의 관점의 지침(캐나다), 공공영역에서의 도입·개발·운영과정에 적용되는 실무적 가이드라인(영국), 자동적 행정행위의 관점에서 법적 근거를 통한 (독일) 등이 있음

- 공공과 민간에서 개발되는 AI에 있어 공통된 부분과 차별화되는 부분의 구분을 명확히 하고, 이에 기초하여 입법체계를 설계할 필요 있음

- 공공행정영역에서는 AI 도입, 개발, 운영, 이의 해결 과정 각각에서 문제될 수 있는 문제를 정의하고 이에 필요한 국민의 절차적 권리를 마련할 필요 있음

- 공공행정영역에서는 특히 AI에 대한 신뢰성 확보를 위한 편향성 방지, 공정성 확보가 중요하므로 이에 대한 보다 적극적인 연구와 개발, 기준마련, 기술적 통제 수단 등의 개발이 중요

- 환경, 생태, 기후, 재난, 교통, 복지 등 공익적 영역의 적극적 활용을 위한 정부 및 공공영역의 역할이 중요하며, 기후(탄소)중립목표 달성을 위한 수단으로서 적극적 활용 모색 필요(독일)

- 절차적으로 접근이 용이하면서 전문적 판단과 기준을 제시할 수 있는 권리구제 절차의 마련이 필요

▶ AI 행정 관련 법적 쟁점 분석

○ AI행정 관련 기초적 논의

- 디지털 민주주의: 국민 개인이 국가의 주인이라는 사상의 기반하에서 형성된 민주주의가 국민과 국가 사이의 디지털 기술과 수단을 매개로 하는 새로운 권력 지형이 나타남

- AI행정과 데이터 기반행정: AI의 학습은 데이터를 통해 이루어지므로 데이터 기반행정은 AI기반 행정의 기초이자 전제가 되며, 데이터 기반행정은 AI기술을 적용하면서 보다 적극적이고 자동화된 형태로 나아갈 수 있음

- AI행정의 법적 쟁점: AI기반 행정은 국민의 신뢰부여를 전제로 하여야 하며, 이를 구현하기 위한 법제도적 쟁점을, 기본원칙, 조직과 작용, 권리구제 등으로 살펴봄

○ AI 행정의 기본원칙

- 인간중심주의: 인간의 권력이 알고리즘으로 이동되는 인류사의 변곡점(유발하라리)에서 AI의 개발과 활용에 인간적 가치를 중심에 두는 인간중심주의의 인공지능윤리를 표방함(“인간 존엄성과 복지를 나침반으로”, UNESCO AI윤리권고안)

- 투명성(설명가능성): 인공지능의 의사결정 책임주체 특정, 과정의 투명, 근거에 대한 설명가능성을 전제로 디지털신뢰가 부여될 수 있다는 것이나, 실질적 구현 정도의 이해에 있어서는 사안에 따라 경중의 차이가 있음

- 책임성: AI의 의사표시의 효과 귀속 주체, 권리·의무 주체성의 관점에서 논의되어지나, AI행정에서는 의사결정 결과에 따른 책임귀속의 문제로 형사책임과 손해배상책임 주체 등에 대한 쟁점이 문제될 수 있음

- 공정성: AI가 인간편견이 투영된 데이터를 학습함으로서 인종, 계급, 성별 등에 따른 차별과 비윤리적 언어를 학습하여 불공정한 사고를 재현하는 것을 방지하야야 한다는 원칙임

- 입법안: 현재 인공지능 관련 주요 법안들은 기본원칙으로 대부분 인간중심주의를 제시하고 있으며 인공지능의 차별적 영향 외에 서비스 이용에서의 공정한 접근을 더 언급하는 경향이 있으며, 정보통제권, 투명성, 신뢰성 등을 언급함

○ AI의 관련 정의 및 유형

- 정의: AI에 대하여는 개념적, 기술적, 입법적 정의가 있을 수 있으며, 개념적 정의에는 약·강 AI, AI·AI기술·AI시스템 으로, 기술적 정의에는 기계학습·기계적 추론·로보틱스로, 입법적으로는 규율대상을 ‘AI시스템’을 중심에 놓고 딥러닝 등의 기술 방식을 적용하는 것이라는 식으로 정의(EU 법안)하는 경우와 AI, 로보틱스, 연관기술(EU 윤리권고) 등 광범위하게 정의하기도 함. 국내 입법안은 기술적 요소보다는 ‘학습, 추론, 지각, 판단, 자연어이해’등 사고기능을 중심으로 기술하는 경향 있음

- 유형: 위험성 정도와 자율성의 정도에 따른 구분이 있으며, 전자의 접근은 고위험AI에 대한 영향평가의무 등 적용 규제 수준의 기준이 되고 있으나(EU 법안), 위험요소를 무엇으로 보느냐는 관점이 다양하며, 후자의 접근은 행정영역에서는 인간의 개입 여부와 책임, 자동화된 행정이 가능한 경우에 대한 기준, 이에 대한 입법적 근거 필요 여부 및 입법 단계의 쟁점과 관련됨

○ AI 행정 조직 및 작용

- 행정조직: 조직의 역할과 관련하여서는 인공지능 관련 정책 및 컨트롤타워의 역할(국무총리 소속 인공지능위원회(안))과 개별 AI활용 서비스에 대한 관리감독으로, 업무의 대상과 관련하여 영향평가 등 AI 적용 행정 일반, 고위험 관리(국무총리 소속 고위험 심의위원회(안)), 윤리원칙 준수 업무(알고리즘 및 인공지능 윤리위원회(안), 민간자율인공지능윤리위원회(안)) 등으로 나누어 볼 수 있으며, 이러한 기능 수행을 어느 기관, 수준에서 담당할지는 국내 입법안의 입장에 차이가 크며 향후 논의가 필요함

- 행정작용: 광의의 행정작용을 행정행위와 비 행정행위로 구분하고, 전자에 대하여는 국민의 권리와 의무에 영향을 미치는 행정처분으로, 기속행위인 행정행위에 대하여는 AI가 어느 정도 적용될 여지가 있음(행정기본법). 재량행위를 지원하는 정보제공에 AI가 활용되는 경우에 대한 도입기준과 절차, 책임을 어떻게 규율할 것인지 향후 논의가 필요함

- 행정절차: AI시스템은 규칙제정의 속성과 구체적 행정처분의 속성을 공유하므로, 속성에 따라 단계별(도입단계, 개발단계, 운영단계) 절차적 통제가 필요하며,도입단계에는 사전영향평가, 개발단계에는 윤리성·신뢰성을 반영하는 시스템 설계요건, 데이터의 적성성·표준화, 운영단계에는 유지·관리에 대한 관리·운영자의 책무 등의 입법적 쟁점이 발생

- 영향평가: AI에 따른 유해한 영향이 행정영역마다 다를 수 있으므로 인공지능 영향평가제도 설계시 공통요소와 영역별 요소를 구분하여 1차적으로 공통기준을 만들고(개인정보, 프라이버시, 안전, 민주주의, 차별 등 영향) 2차적으로 각 행정영역에서 지표로 삼을 영향요소가 반영될 수 있도록 다원적 접근이 필요함

○ AI 행정의 권리구제

- 권리구제 절차: AI에 의한 행정행위나 행정작용의 결과 발생한 손해에 대하여는 일반 행정구제절차(행정심판, 행정소송)를 거칠 수도 있으며, 책임의 입증과정에서의 정보공개 및 접근권이 문제될 수 있고, 전문성이 강한 사안의 성격을 고려하여 행정소송 등 외 별도의 전문적 분쟁해결절차를 신설하는 입법안도 있음

- 손해 전보: AI에 의한 행정행위 등으로 발생한 손해에 대하여 손해배상 등에 대하여 법규준수시 면책, 감경을 규정한 입법안도 있고, 개발사의 보험가입에 대한 규정, 재정지원 등을 규정하는 입법안이 있음

○ 기타

- 지적재산권: AI서비스 개발에 있어 대기업과 중소기업·스타트업 간의 지식재산권, 이익분배에 관한 문제에 대한 갈등을 방지할 관련 기준, 표준약관 등도 필요함과 동시에 공적 자금으로 개발한 결과물에 대한 사회적 공유 등 접근 모색도 필요할 것

- 개인정보: AI학습에 필요한 데이터 생성에 있어 개인정보가 포함된 경우, 개인정보보호의 안전성을 유지하면서 학습용 빅데이터을 위한 데이터 접근성을 증진하는 방안의 모색 필요

▶ AI 행정을 위한 입법 방안 제시

○ AI행정을 위한 입법 방안

- 새로운 법 제정: 2019년「인공지능 국가전략」의 주요 법제정비과제로 AI기본법 제정이 포함되었으며, 포함될 내용에는 ① 기본원칙, ② 지능정보화 기반구축, ③ 환경변화 대응 시책, ④ 윤리기준, ⑤ 최소한의 보호조치가 제시됨

- 현재 국회 계류 중 기본법적 성격의 법률안들은 ① 기본원칙, ② 추진체계(위원회 등 거버넌스, 분쟁조정), ③ 산업기반조성(기술개발, 표준화, 집적단지, 전문기업, 행정부담 완화, 지원), ④ 신뢰성 보장(검인증, 인공지능윤리, 안전확인 가이드라인, 비상정지, 이용자보호), ⑤ 기금 등을 주요 내용으로 하여 추진체계와 산업기반조성에 집중 경향이 있고, 공공영역의 AI에도 적용

- 일반법 개정: AI기반 행정과 관련하여 최근 「전자정부법」 개정,「행정기본법」제정으로 일부 관련 조항이 도입되었으나, 투명하고 공정한 AI에 의한 행정기반 마련을 위하여는「행정절차법」,「행정소송법」,「국가배상법」등의 개정이 필요함

- 분야별 법 개정: 60여 개의 관련 개별 영역의 법률이 국회 상정 중(2022.9.기준)이며 가이드라인 제정과 이를 뒷받침하기 위한 입법이 준비 중인 사례들이 있으며,「행정기본법」의 취지에 따라 기속행위를 위한 AI의 도입시 법률적 근거가 필요하므로 자동적 처분을 위한 AI도입이 가능한 기속행위의 기준을 제시할 필요도 있음

○ AI행정 기본법 제안

- 제정의 필요성: 현재로서는 AI행정 기본법의 제정은 시기상조일 수 있으며, 위에서 제시한 바와 같이 「전자정부법」,「행정절차법」,「행정소송법」,「국가배상법」등의 개정으로 근거 규정을 마련하는 것이 현실적일 수 있으나, 향후 제정의 필요가 성숙된 시점을 전제하여 AI행정 기본법의 구조와 내용을 선제적으로 제안함

- 다른 법과의 관계: 「전자정부법」, 「행정절차법」,「행정기본법」,「행정소송법」,「국가배상법」과의 관계설정이 중요

- 체계 및 주요 내용: AI행정의 기본원칙과 윤리, 관리조직, 도입단계, 개발단계, 운영단계의 의무, 평가, 절차, 분쟁조정절차, 보험 등의 내용으로 구성

Ⅲ. 기대효과

▶ 학술적 효과

○ AI를 법적 관점에서 논의될 수 있는 쟁점과 개선 방향성 등에 대하여 검토함으로써 AI기반 행정 관련 법 연구에 대한 학술적 후속 연구의 참고자료로 활용이 가능

▶ 정책적 기여도

○ 또한 디지털 정부 시대의 행정환경 변화에 미리 대비하고 AI에 의한 행정의 민주화와 효율화에 잘 적응할 수 있도록 법적 기반과 제도적 기틀 마련에 기여

요약문 5

Abstract 27

제1장 서 론 / 67

제1절 연구 배경 및 목적 69

1. 연구 배경 69

2. 연구 목적 72

3. 기대 효과 72

제2절 연구 내용 및 방법 73

1. 연구 내용 73

2. 연구 방법 74

제2장 국내ㆍ외 AI 행정 현황 / 77

제1절 AI 공공 활용 사례 79

1. 국외 공공 활용 79

2. 국내 공공 활용 88

제2절 언론 이슈 빅데이터 분석 90

1. 개요 90

2. SNA 분석 93

3. 토픽분석 102

제3절 시사점 104

제3장 AI 행정 관련 정책 및 법제 / 107

제1절 관련 정책 109

1. 인공지능(AI) 국가전략 109

2. 인공지능 법？제도？규제 정비 로드맵 119

3. 규제정비단 입법과제 126

4. 신뢰할 수 있는 인공지능 실현전략 128

제2절 법률상 계획 130

1. 국가정보화 기본계획 130

2. 데이터기반행정 활성화 기본계획 131

3. 공공데이터의 제공 및 이용 활성화에 관한 기본계획 132

4. 데이터산업 진흥 기본계획 133

5. 개인정보 보호 기본계획 134

제3절 관련 법제 136

1. 「행정기본법」 136

2. 「행정절차법」 138

3. 「지능정보화 기본법」 140

4. 「전자정부법」 146

5. 「데이터기반행정 활성화에 관한 법률」 151

6. 「공공데이터의 제공 및 이용 활성화에 관한 법률」 153

7. 「데이터 산업진흥 및 이용촉진에 관한 기본법」 156

8. 「개인정보 보호법」 158

제4절 관련 가이드라인 161

1. 「사람이 중심이 되는 인공지능(AI) 윤리기준」 161

2. 「인공지능 개발과 활용에 관한 인권 가이드라인」 161

3. 「교육분야 인공지능 윤리원칙」 163

4. 「인공지능 학습용 데이터 품질관리 가이드라인」 165

5. 「금융분야 AI 가이드라인」 166

6. 「인공지능(AI) 의료기기 국제 공통 가이드라인인」 168

7. 「인공지능(AI) 공공성 확보를 위한 현장 가이드라인」 170

제5절 관련 법률안 171

1. 인공지능 기본법 관련 171

2. 인공지능 행정·안전 관련 법 176

3. 인공지능 산업·기술·연구 육성 관련 법 178

4. 인공지능 인재·교육 육성 관련 법 183

제4장 외국 AI 행정 정책 및 입법사례 / 187

제1절 서 론 189

1. 국가전략 189

2. 정책방향 190

3. 가이드라인 193

제2절 국가별 정책 및 입법 사례 194

1. 미국 194

2. EU 209

3. 영국 226

4. 캐나다 238

5. 독일 250

6. 일본 257

7. 호주 264

8. 중국 267

제3절 시사점 274

제5장 AI 행정 관련 입법의견조사 / 277

제1절 AI의 순기능과 역기능 279

1. 순기능 270

2. 역기능 282

제2절 AI행정에 대한 입법의견조사 개요 282

1. 조사 개요 282

2. 조사 내용 284

3. 결과 처리 289

제3절 AI행정에 대한 입법의견조사 결과 292

1. AI에 대한 일반 인식 292

2. 공공/행정 분야 AI 도입에 대한 인식 301

3. 공공/행정 분야 AI 도입 관련 과제 312

제4절 AI에 대한 국민인식 비교 : 한국과 캐나다 320

1. 인공지능에 관한 캐나다인의 인식 320

2. 한국와 캐나다의 국민의식 비교 321

제5절 시사점 328

제6장 AI 행정 관련 법적 쟁점 분석 / 331

제1절 AI행정 관련 기초적 논의 333

1. 디지털 민주주의 333

2. AI행정과 데이터 기반행정 334

3. AI행정의 법적 쟁점 335

제2절 AI 행정의 기본원칙 336

1. 인간중심주의 336

2. 투명성(설명가능성) 337

3. 책임성 339

4. 공정성 340

5. 입법안 341

제3절 AI의 관련 정의 및 유형 351

1. 정의 351

2. 유형 359

제4절 AI 행정 조직 · 작용 및 절차 364

1. 행정조직 364

2. 행정작용 366

3. 행정절차 370

제5절 AI 행정의 권리구제 384

1. 권리구제 절차 384

2. 손해 전보 389

제6절 기타 391

1. 지적재산권 391

2. 개인정보 392

제7장 AI 행정을 위한 입법 방안 제시 / 395

제1절 AI행정을 위한 입법 방안 397

1. 새로운 법 제정 397

2. 일반법 개정 399

3. 분야별 법 개정 401

제2절 AI행정 기본법 제안 406

1. 제정의 필요성 406

2. 다른 법과의 관계 406

3. 체계 및 주요 내용 409

참고문헌 413

부록 별책

부록1. 인공지능 인용 현행 법령 별책

부록2. 인공지능 관련 법안 별책

부록3. AI 행정 관련 언론텍스트 분석 별책

부록4. AI 행정 관련 국민 입법의견조사 별책

부록5. AI 행정 관련 법적 쟁점별 관련 EU입법 별책

부록6. EU 행정에서 사용하는 알고리즘 의사결정 시스템 영향평가에 관한 표준규칙 별책