◈ 추천의 글 ◈ "실무자를 위한 흥미진진한 AI 해석 가능성 분야에 대한 정통한 소개서." ─ 파블로 로카타글리아타(Pablo Roccatagliata), 토르쿠아토 디 텔라 대학(Torcuato Di Tella University) "저자는 해석 가능한 AI의 중요성을 누구나 쉽게 이해하도록 설명하고 있다." ─ 아리엘 가미노(Ariel Gamino), 아테나헬스(Athenahealth) "이제 막 시작하는 사람과 전문가 모두를 위해 해석 가능한 AI의 수수께끼를 효율적으로 설명하고 있다." ─ 비자얀트 싱(Vijayant Singh), 레이저페이(Razorpay) "이 책에 제시된 구체적인 예제는 해석 가능한 AI 시스템을 이해하고 구축하는 데 도움을 준다." ─ 이즈하르 하크(Izhar Haq), 롱아일랜드 대학(Long Island University) ◈ 이 책에서 다루는 내용 ◈ ◆ AI 모델 해석 기법 ◆ 편향, 데이터 누수, 개념 드리프트에 따른 오류에 대처하는 방법 ◆ 공정성을 측정하고 편향을 완화하는 방법 ◆ GDPR을 준수하는 AI 시스템을 구축하는 방법 ◈ 이 책의 대상 독자 ◈ 모델의 동작 방식과 공정하고 편향 없는 모델의 구축 방법을 더 깊이 이해하고자 하는 데이터 과학자 및 엔지니어를 위한 책이다. 공정성을 보장하고 비즈니스 사용자와 브랜드를 보호하기 위해 AI 시스템의 근간을 이루는 모델을 이해하려는 설계자와 비즈니스 이해 관계자에게도 유용할 것이다. ◈ 이 책의 구성 ◈ 이 책은 9개의 장과 4개의 부로 구성돼 있다. 1부에서는 해석 가능한 AI의 세계를 소개한다. ■ 1장은 다양한 유형의 AI 시스템을 살펴보고 해석 가능성과 그 중요성을 정의한다. 화이트박스와 블랙박스 모델을 살펴보고 해석 가능한 AI 시스템을 구축하는 방법을 소개한다. ■ 2장은 화이트박스 모델과 이를 해석하는 방법, 특히 선형 회귀, 의사 결정 트리, GAM(Generalized Additive Model, 일반화 가산 모델)에 초점을 둔다. 2부에서는 블랙박스 모델에 초점을 맞추고 모델이 입력을 처리하고 최종 예측에 도달하는 방법을 소개한다. ■ 3장은 트리 앙상블이라는 블랙박스 모델 클래스와 PDP(Partial Dependence Plot, 부분 의존성 도표) 및 특성 상호작용 도표 등 범위가 글로벌하거나 모델의 유형에 상관없이 훈련 후에 적용할 수 있는 기법을 사용해 이를 해석하는 방법을 다룬다. ■ 4장은 심층 신경망을 설명하고 LIME(Local Interpretable Model-agnostic Explanation, 로컬 해석 가능한 모델 애그노스틱 설명), SHAP(SHapley Additive exPlanations, 샤플리 첨가 설명), 앵커(anchor)와 같이 범위가 로컬이면서 모델의 유형에 상관없이 훈련 후에 적용할 수 있는 기법을 사용해 이를 해석하는 방법을 다룬다. ■ 5장은 합성곱 신경망과 돌출 맵(Saliency map)을 사용해 모델이 집중하고 있는 영역을 시각화하는 방법을 다룬다. 특히 경사, 유도 역전파, Grad-CAM(경사-가중 클래스 활성화 매핑), 유도 Grad-CAM, SmoothGrad(평탄화 경사) 등과 같은 기술에 중점을 둔다. 3부에서는 블랙박스 모델을 계속 다루지만, 블랙박스 모델이 학습한 특성이나 표현을 이해하는 단계로 이동한다. ■ 6장은 합성곱 신경망을 분석해 신경망의 중간 및 히든 레이어에서 학습한 데이터 표현을 이해하는 방법을 살펴본다. ■ 7장은 언어 모델과 PCA(Principal Component Analysis, 주성분 분석) 및 t-SNE(t-distributed Stochastic Neighbor Embedding, t-분산 확률적 이웃 임베딩)와 같은 기술을 사용해 그것이 학습한 고차원 표현을 시각화하는 방법을 다룬다. 4부에서는 공정성과 편향에 초점을 맞춰 설명 가능한 AI를 위한 길을 제시한다. ■ 8장은 공정성에 대한 다양한 정의와 모델이 편향됐는지 확인하는 방법을 다룬다. 또한 편향을 완화하는 기법과 AI 시스템의 이해 관계자 및 사용자에 대한 모델의 투명성과 책임성을 개선하는 데 도움이 되는 데이터시트(datasheet)를 사용한 데이터 세트의 정보를 문서화하는 표준 접근 방식을 설명한다. ■ 9장은 설명 가능한 AI 시스템을 구축하는 방법을 이해함으로써 시스템을 구축할 수 있는 길을 제시하고 반사 실적 예를 사용한 대조적인 설명을 다룬다. ◈ 옮긴이의 말 ◈ AI는 1950년대에 처음 소개됐을 때까지만 하더라도 소수의 전문가가 복잡한 수식과 많은 연산 자원을 이용해 연구하던 영역이었습니다. 하지만 최근 들어 관련 하드웨어의 발전과 여러 기업이나 단체에서 제공하는 오픈소스 도구를 활용해 누구라도 필요한 도구를 간단하게 설치하고 직접 경험해 볼 수 있습니다. 오늘날 AI 기술은 매우 빠르게 발전하고 있습니다. 하루가 멀다하고 새로운 기술이 개발되고 있고 지금 배우는 기법이나 도구가 1년 후에도 여전히 쓰일지 알 수 없습니다. 하지만 실습을 통해 AI가 기본적으로 어떻게 예측에 도달하는지, 근간을 이루는 개념은 무엇인지에 익숙해지면 향후 새로운 기법과 도구를 좀 더 쉽게 활용할 수 있을 것입니다. AI 기술이 발전하고 그것을 활용한 사례가 늘어남에 따라 모델이 한 예측의 안전성과 신뢰성을 확보하기 위해 왜 그런 예측에 도달했는지, 어떻게 하면 결과가 달라졌을지 설명을 해야 할 상황도 늘어나고 있습니다. 이 책은 머신러닝 모델에 최신 해석 기술을 적용해 공정하고 설명 가능한 AI 시스템을 구축하는 데 도움이 되고자 합니다. 해석 가능성에 대한 이야기는 많지만, 실무에 필요한 기술을 설명하거나 실용적인 지침을 제공하는 자료는 거의 없습니다. 이 책은 그 격차를 해소하고자 합니다. 머신러닝, 딥러닝 분야의 용어는 대부분 영어입니다. 국내에서도 활발하게 사용되기 시작한 지 어느 정도 시간이 지났기 때문에 용어를 원문 그대로 사용하는 것이 편한 사람이 많습니다. 원서를 번역하는 과정에서도 원문의 의미를 해치지 않는 범위에서 업계에서 흔히 사용하는 용어를 사용하고자 노력했습니다.

1부. 해석 가능성 개요 1장. 소개 1.1 진단+ AI - AI 시스템 예제 1.2 머신러닝 시스템 유형 1.2.1 데이터 표현 1.2.2 지도 학습 1.2.3 비지도 학습 1.2.4 강화 학습 1.2.5 진단+ AI를 위한 머신러닝 시스템 1.3 진단+ AI 구축 1.4 진단+ AI의 문제점 1.4.1 데이터 누출 1.4.2 편향 1.4.3 규제 미준수 1.4.4 (콘셉트) 드리프트 1.5 강건한 진단+ AI 시스템 구축 1.6 해석 가능성 대 설명 가능성 1.6.1 해석 기법 유형 1.7 이 책에서는 무엇을 배우나? 1.7.1 이 책을 읽는 동안 어떤 도구를 사용하게 되는가? 1.7.2 이 책을 읽기 전에 무엇을 알아야 하는가? 요약 2장. 화이트박스 모델 2.1 화이트박스 모델 2.2 진단+ - 당뇨병 진행 2.3 선형 회귀 2.3.1 선형 회귀 해석 2.3.2 선형 회귀의 한계 2.4 결정 트리 2.4.1 결정 트리 해석 2.4.2 결정 트리의 한계 2.5 일반화 가산 모델(GAM) 2.5.1 회귀 스플라인 2.5.2 진단+ 당뇨병을 위한 GAM 2.5.3 GAM 해석 2.5.4 GAM 한계 2.6 앞으로 살펴볼 블랙박스 모델 요약 2부. 모델 처리 해석 3장. 모델 애그노스틱 기법: 글로벌 해석 가능성 3.1 고등학교 학생 성적 예측기 3.1.1 탐색적 데이터 분석 3.2 트리 앙상블 3.2.1 랜덤 포레스트 훈련 3.3 랜덤 포레스트 해석 3.4 모델 애그노스틱 기법: 글로벌 해석 가능성 3.4.1 부분 의존성 도표 3.4.2 특성 상호작용 요약 4장. 모델 애그노스틱 기법: 로컬 해석 가능성 4.1 진단+ AI: 유방암 진단 4.2 탐색적 데이터 분석 4.3 심층 신경망 4.3.1 데이터 준비 4.3.2 DNN 훈련 및 평가 4.4 DNN 해석 4.5 LIME 4.6 SHAP 4.7 앵커 요약 5장. 돌출 매핑 5.1 진단+ AI: 침습성 관 암종 탐지 5.2 탐색적 데이터 분석 5.3 합성곱 신경망 5.3.1 데이터 준비 5.3.2 훈련 및 평가 5.4 CNN 해석 5.4.1 확률 풍경 5.4.2 LIME 5.4.3 시각적 귀속 기법 5.5 바닐라 역전파 5.6 유도 역전파 5.7 기타 경사 기반 방법 5.8 Grad-CAM 및 유도 Grad-CAM 5.9 어떤 귀속 기법을 사용해야 할까? 요약 3부. 모델 표현 해석 6장. 레이어와 유닛의 이해 6.1 시각적 이해 6.2 합성곱 신경망: 요약 6.3 망 해부 프레임워크 6.3.1 개념 정의 6.3.2 망 조사 6.3.3 일치 정도 정량화 6.4 레이어 및 유닛 해석 6.4.1 망 해부 실행 6.4.2 개념 식별기 6.4.3 학습 과업별 개념 식별기 6.4.4 개념 식별기 시각화 6.4.5 망 해부의 한계 요약 7장. 의미론적 유사성의 이해 7.1 감정 분석 7.2 탐색적 데이터 분석 7.3 신경 단어 임베딩 7.3.1 원-핫 인코딩 7.3.2 워드투벡 7.3.3 글로브 임베딩 7.3.4 감성 분석 모델 7.4 의미론적 유사성 해석 7.4.1 유사성 측정 7.4.2 주성분 분석 7.4.3 t-분포 확률적 이웃 임베딩(t-SNE) 7.4.4 의미론적 유사성 시각화 검증 요약 4부. 공정성과 편향 8장. 공정성과 편향 완화 8.1 성인 소득 예측 8.1.1 탐색적 데이터 분석 8.1.2 예측 모델 8.2 공정성 개념 8.2.1 인구통계 동등성 8.2.2 기회와 확률의 평등 8.2.3 기타 공정성 개념 8.3 해석 가능성과 공정성 8.3.1 입력 특성을 통한 차별 8.3.2 표현을 통한 차별 8.4 편향 완화 8.4.1 무지를 통한 공정성 8.4.2 가중치 재설정을 통한 라벨 편향 수정 8.5 데이터 세트용 데이터 시트 요약 9장. 설명 가능한 AI로 가는 길 9.1 설명 가능한 AI 9.2 반사 실적 설명 요약 부록 A. 준비하기 A.1 파이썬 A.2 깃 코드 저장소 A.3 콘다 환경 A.4 주피터 노트북 A.5 도커 부록 B. 파이토치 B.1 파이토치는 무엇인가? B.2 파이토치 설치 B.3 텐서 B.3.1 데이터 유형 B.3.2 CPU 및 GPU 텐서 B.3.3 운영 B.4 데이터 세트 및 데이터로더 B.5 모델링 B.5.1 자동 미분 B.5.2 모델 정의 B.5.3 훈련