추가 적립 안내

『텐서플로 케라스를 이용한 딥러닝』은 〈딥러닝 데이터와 세 가지 기본신경망〉, 〈최적화와 딥러닝 모형진단〉, 〈TensorFlow 2.x와 Keras〉 등 텐서플로 케라스를 이용한 딥러닝의 기초적이고 전반적인 내용이 수록되어 있다.

1장 서론

2장 딥러닝 데이터와 세 가지 기본신경망
2.1 데이터의 사전정리과정
2.2 딥러닝에 사용되는 데이터의 형태
2.3 은닉층 설계를 위한 세 가지 핵심 신경망
2.3.1 MLP(multilayer perceptrons)
2.3.2 CNN(convolutional neural networks)
2.3.3 RNN(recurrent neural networks)

3장 최적화와 딥러닝 모형진단
3.1 출력층과 손실함수
3.2 역전파
3.3 최적화 알고리즘
3.4 딥러닝 모형의 진단과 일반화

4장 TensorFlow 2.x와 Keras
4.1 TensorFlow 2.x의 기초 문법과 tf.keras의 설치
4.2 딥러닝 구축을 위한 3대 API
4.3 최적화를 위한 점검
4.3.1 callbacks
4.3.2 딥러닝 모형의 시각적 점검과 학습된 모형의 저장과 재사용

5장 딥러닝 모형의 성능향상과 맞춤형 딥러닝 설계
5.1 딥러닝 모형의 성능향상
5.1.1 모수초기치
5.1.2 활성함수
5.1.3 정규화
5.1.4 Dropout
5.1.5 기타 방법
5.2 맞춤형 딥러닝 설계
5.2.1 맞춤형 손실함수
5.2.2 맞춤형 은닉층
5.2.3 맞춤형 활성함수, 초기치, 규제화 그리고 맞춤형 딥러닝 모형

6장 CNN의 응용과 이전학습
6.1 사람의 성별을 구분하는 CNN
6.2 이전학습 I
6.3 Image Generator를 이용한 CNN과 자료증대
6.4 이전학습 II

7장 텍스트 자료에 대한 딥러닝
7.1 Word2Vec과 Glove
7.2 텍스트 자료에 특화된 Word Embedding
7.3 Word Embedding 사례분석

8장 CNN의 응용 - 자율자동차의 이미지분석
8.1 교통표식의 식별
8.2 객체분할
8.3 객체의 의미분할

9장 RNN의 적용과 응용
9.1 RNN 모형의 비교
9.2 다른 형태의 RNN 모형
9.3 딥러닝을 이용한 시계열 자료분석

10장 다중 입출력, 병렬형, 그리고 비순환 딥러닝 아키텍처
10.1 다중입력과 다중출력 딥러닝
10.2 비순환형 딥러닝 아키텍처

11장 머신번역
11.1 자료의 사전정리
11.2 sequence-to-sequence 학습
11.3 머신번역을 위한 Encoder-Decoder 아키텍처
11.4 Attention을 이용한 머신번역

12장 Autoencoder와 Variational Autoencoder
12.1 Autoencoder 모형
12.2 오염제거 autoencoder
12.3 Variational Autoencoder(VAE)

13장 Generative Adversarial Networks(GAN)
13.1 DCGAN
13.2 GAN 학습을 위한 손실함수
13.3 WGAN의 구현
13.4 LSGAN의 구현

14장 Cross-Domain GAN
14.1 CycleGAN
14.2 CIFAR10 데이터를 이용한 CycleGAN
14.3 MNIST 데이터와 SVHN 데이터를 이용한 CycleGAN

[머리말]

딥러닝은 입력층, 은닉층, 출력층으로 구성되어 있다. 입력층에는 목적변수를 예측하기 위한 특성변수가 입력되고 출력층에서는 목적변수의 예측치를 출력한다. 만약 딥러닝 모형에서 은닉층을 제거하면 일반적인 통계모형과 동일하게 된다. 그러므로 은닉층의 구조와 특성, 그리고 자료구조에 따른 은닉층의 설계변경을 잘 이해하면 딥러닝의 수많은 모형을 쉽게 이해할 수 있다. 은닉층의 구조와 특성은 오직 3개의 딥러닝 기본모형만 잘 이해하면 된다. 딥러닝의 모든 모형은 이 3개 기본 모형의 조합이기 때문이다. 딥러닝의 모수추정방법을 포함해서 2, 3장에 이러한 논의를 상세하게 수록하였다. 수학적인 부호에 능숙하지 않은 독자는 처음에는 어렵게 느낄 수 있으나 제시된 여러 개념도를 중심으로 천천히 읽다 보면 이해하는 데 큰 무리는 없을 것이다. 모수의 수를 어떻게 계산하는지를 이해하면 신경망의 구조를 이해한 것으로 생각해도 무방하다.

딥러닝 전문가가 되기 위한 지름길은 2장과 3장의 이해를 바탕으로 끊임없이 ‘try and error’를 해보는 것이다. 남이 짜놓은 프로그램을 무작정 따라서 해보는 것보다, ‘왜 이렇게 딥러닝 아키텍처를 만들었지?’, ‘이걸 바꾸면 무슨 일이 일어날까?’ 등을 생각해봐야 한다. 특히, 모수의 수렴에 관련된 정규화(normalization) 방법, 배치의 크기, 그리고 미분사라짐 현상에 대한 해결방안, 과대적합을 방지하기 위한 규제화(regularization) 방법 등을 익히고 모수를 증가시키거나 감소시켜 딥러닝 모형의 성능을 비교하게 되면 자신만의 딥러닝 모형을 구축할 수 있는 능력이 생기게 된다.

이 책의 4 ~ 14장은 실제 응용문제를 다루고 있으며 프로그램 running time이 10시간 이내인 비교적 짧은 프로그램을 제공하고 있다. 따라서 독자 스스로 4 ~ 14장에 제공된 프로그램을 이용하여 다양한 옵션의 변경을 통해 효과적이고 압축적인 딥러닝 아키텍처를 구성하는 능력을 키울 수 있을 것이다. 14장은 이 책에서 제공하는 프로그램 중 가장 길고 복잡하며 running time 역시 매우 긴 프로그램을 제공하고 있다. 이 프로그램을 쉽게 이해하면 딥러닝의 이론적 배경은 어느 정도 완성되었다고 보아도 되며 딥러닝 전문가가 되기 위해 실제 문제를 직접 다루는 경험을 조금만 더 쌓으면 될 것이다.

이 책을 준비하는 데 약 3년이 소요되었는데 지난 1년여 동안 딥러닝 고급언어 중 하나인 Keras를 이용하여 원고를 거의 완성하였으며 이를 기반으로 학부 및 대학원 강의도 성공적으로 마칠 수 있었다. 그런데 2019년 9월에 출시된 TensorFlow 2.0부터 Keras를 표준고급 프로그램언어로 채택하여 이를 tf.keras라고 명시하였고 더욱이 Keras에서도 tf.keras로 바꿀 것을 공식화하여 TensorFlow 2.x와 tf.keras로 딥러닝 원고를 다시 작성하게 되었다. 이때 개념적 흐름이 자연스럽게 연결되도록 원고를 재구성하였고 딥러닝 모형 성능향상을 위한 튜닝방법과 맞춤형 딥러닝 모형설계에 대해 부족했던 부분을 대폭 강화하였다.

이 책에 제공된 프로그램은 TensorFlow와 tf.keras로 작성되었기 때문에 클라우드 기반의 무료 Jupyter Notebook인 Colab에서 실습하기에 최적화되어 있다. 독자 스스로 프로그램을 이해할 수 있도록 가능한 한 상세한 해설을 하였지만 실습을 하지 않으면 딥러닝은 독자들의 것이 될 수 없다는 것을 명심하길 바란다.

이 책을 통해 독자들은 자료의 사전정리, 모형설정, 모형검증, 모형적용의 순서로 딥러닝 자료분석의 전 과정을 공부하게 될 것이다. 자료의 사전정리과정은 딥러닝 모형 구축에 가장 많은 시간과 정성을 기울여야 할 분야이다. 이 책에서는 연구목적에 따른 이미지 자료, 텍스트 자료 등의 비정형 자료에 대한 사전자료 정리과정을 가능한 한 자세하게 설명하고자 노력하였다. 모형설정에서는 모형의 성능을 향상시키기 위한 초기치와 활성함수의 선택, 최적화 알고리즘의 선택, 과대적합 해결방안, 그리고 맞춤형 딥러닝 모형의 구축을 자세하게 설명하였다. 일정 수준 이상의 데이터 과학자가 되기 위해서는 딥러닝의 전 과정을 이해해야만 한다. 다른 사람이 이미 구축해 놓은 프로그램에 자신의 자료를 집어넣을 줄만 아는 것은 단순한 데이터 기술자에 불과하기 때문이다.

좋은 책을 위해 최선을 다했지만 부족한 부분이 있을 수 있다. 이 점은 양해를 바라며, 책에 나오는 실습 프로그램 및 데이터 파일과 출간 후 나올 수 있는 수정사항 등은 자유아카데미 홈페이지(www.freeaca.com) 자료실을 통해 제공할 예정이니 참조하기를 바란다.