추가 적립 안내

딥러닝의 주요 개념을 컬러 그림을 통해 직관적으로 이해

이 책은 딥러닝의 개념을 소개하는 것으로 시작해 딥러닝에 사용되는 여러 기법을 안내하고 있다. 딥러닝을 처음 배우려는 입문자부터 연구하는 대학생, 실제로 연구개발을 하는 실무자까지 다양한 독자를 이해시키기 위해 그림과 수식을 사용했다. 입문자들은 수식과 함께 나오는 그림을 통해 이해를 높일 수 있을 것이다.

다양한 딥러닝 프레임워크의 사용법을 익힌다!
딥러닝의 주요 개념을 컬러 그림을 통해 직관적으로 이해한다!

이 책은 딥러닝의 개념을 소개하는 것으로 시작해 딥러닝에 사용되는 여러 기법을 안내하고 있다. 딥러닝을 처음 배우려는 입문자부터 연구하는 대학생, 실제로 연구개발을 하는 실무자까지 다양한 독자를 이해시키기 위해 그림과 수식을 사용했다. 입문자들은 수식과 함께 나오는 그림을 통해 이해를 높일 수 있을 것이다.

딥러닝의 개념이나 기법을 이론적으로 설명하는 데 그치지 않고 실제로 활용할 수 있도록 다양한 딥러닝 도구도 소개하고 있다. 특히, 텐서플로와 카페 등 오픈소스로 공개된 인기 있는 도구들의 설치부터 활용 사례까지 포함하고 있다.

이 책의 주요 내용
● 딥러닝
딥러닝이란 무엇인가?
● 신경망
퍼셉트론 / 다층 퍼셉트론 / 역전파법 / 오차 함수와 활성화 함수 / 우도 함수 / 확률적 경사 강하법 / 학습률
● 합성곱 신경망
합성곱층 / 풀링층 / 전결합층 / 출력층
● 제약 볼츠만 머신
홉필드 네트워크 / 볼츠만 머신 / 딥 빌리프 넷
● 자기부호화기
디노이징 자기부호화기 / 희소 자기부호화기 / 적층 자기부호화기
● 일반화 성능을 향상시키는 방법
학습 표본 / 전처리 / 활성화 함수 / 드롭아웃 / 드롭커넥트
● 딥러닝을 위한 도구
Theano / Pylearn2 / Caffe / DIGITS / Chainer / TensorFlow

CHAPTER 01 서론 1
1.1 딥러닝이란 2
1.2 주목받게 된 계기 3
1.3 왜 딥러닝인가 6
1.4 딥러닝이란 무엇인가 7
1.5 이 책의 구성 8

CHAPTER 02 신경망 11
2.1 신경망의 역사 12
2.2 매컬러-피츠의 신경회로망 모형 14
2.3 퍼셉트론 16
2.4 다층 퍼셉트론 18
2.5 역전파법 19
2.6 오차 함수와 활성화 함수 30
2.7 우도 함수 32
2.8 확률적 경사 하강법 33
2.9 학습률 35
2.10 정리 35

CHAPTER 03 합성곱 신경망 37
3.1 합성곱 신경망의 구성 38
3.2 합성곱층 40
3.3 풀링층 41
3.4 전결합층 42
3.5 출력층 43
3.6 신경망의 학습 방법 43
3.7 정리 50

CHAPTER 04 제약 볼츠만 머신 51
4.1 홉필드 네트워크 52
4.2 볼츠만 머신 57
4.3 제약 볼츠만 머신 61
4.4 대조적 발산 63
4.5 딥 빌리프 넷 66
4.6 정리 68

CHAPTER 05 자기부호화기 69
5.1 자기부호화기 70
5.2 디노이징 자기부호화기 73
5.3 희소 자기부호화기 74
5.4 적층 자기부호화기 79
5.5 사전 훈련에서의 이용 79
5.6 정리 80

CHAPTER 06 일반화 성능을 향상시키기 위한 방법 81
6.1 학습 표본 82
6.2 전처리 89
6.3 활성화 함수 94
6.4 드롭아웃 97
6.5 드롭커넥트 98
6.7 정리 101

CHAPTER 07 딥러닝을 위한 도구 103
7.1 딥러닝 개발환경 104
7.2 Theano 104
7.3 Pylearn2 112
7.4 Caffe 122
7.5 학습 시스템 DIGITS 141
7.6 Chainer 149
7.7 텐서플로 164
7.8 정리 179

CHAPTER 08 딥러닝의 현재와 미래 181
8.1 딥러닝의 응용 사례 182
8.2 딥러닝의 미래 198
8.3 정리 200

참고문헌 202
찾아보기 209

첫 번째에서 말하는 특징 표현력을 가진 신경망이란, 같은 클래스 안에서 변동이 있는 패턴, 이를테면, 손글씨처럼 개인 차이 혹은 노이즈가 포함된 상태에서도 바르게 인식할 수 있는 특징으로 변환할 수 있는 것을 말한다. 또, 노이즈가 포함된 경우에는 그 노이즈를 제거할 수 있는 신경망이라는 의미도 있다. 이 신경망을 디노이징 자기부호화기(denoising autoencoder)라고 부른다. 또, 잉여성을 제거하기 위해 규제화 항을 추가한 희소 자기부호화기도 있다.
_70쪽

딥러닝 학습에서 신경망의 종류나 구성도 중요하지만, 가장 중요한 것은 학습 표본이다. 딥러닝이 일반 물체 인식(classification)에서 성공을 거둔 하나의 요인은 대량의 데이터가 있었기 때문이다. 학습 표본으로 사전에 준비된 대량의 데이터 집합이 있으면 그 데이터 집합으로 학습을 수행할 수 있다. 이에 비해, 제한적인 데이터만 확보된 데이터 집합이나 직접 데이터를 수집해서 충분한 데이터를 모으지 못한 경우에는 확보된 데이터를 최대한 효과적으로 사용할 수 있는 방법인 데이터 확장을 생각해 볼 수 있다. 먼저, 충분히 갖춰진 데이터 집합으로 ImageNet과 Places를 소개한다. 그리고 제한적인 데이터에 대해 데이터의 양을 늘릴 수 있는 데이터 확장에 대해서도 설명하겠다.
_82쪽

그럼, 제한된 학습 표본밖에 없다면 딥러닝 기법을 이용한 학습을 수행하기 위해서는 어떻게 해야 할까? 생각해 볼 수 있는 첫 번째 방법으로, 지금 확보한 표본을 기초로 하는 조금 변이된 데이터를 추가하여 이미지 수를 늘리는 데이터 확장(data augmentation)이 있다. 데이터 확장은 표본에 평행이동이나 회전, 거울 반사 등을 적용하여 약간의 변화를 일으킨 새로운 표본을 만드는 방법이다. 여기에 쓴 변화 외에도 기하학적 혹은 이미지의 농담이나 색을 변경하는 경우도 있고, 랜덤 노이즈나 얼룩을 추가하는 경우도 있다.
_87쪽

딥러닝에서 일반화 성능을 향상시키기 위해 쓰이는 방법에는 알고리즘뿐 아니라, 학습 표본도 매우 중요한 영향을 끼친다. 학습 표본을 대량으로 수집하는 것은 상당히 어려우므로, ImageNet이나 Places와 같은 공개 데이터 집합을 이용하면 매우 편리하다. 그리고 이들을 단순히 학습에 이용하는 데 그치지 않고, 클래스 내의 변이를 억제하는 전처리를 가하는 것도 중요하다. 또 알고리즘적 수단으로서는 과학습을 억제하기 위한 드롭아웃과 드롭커넥트가 매우 효과적인 것으로 알려져 있으며, 현재의 딥러닝에서는 필수 불가결한 기법이 되고 있다.
_101쪽

이번 장에서는 현재 나온 많은 도구 중에서 Theano와 이를 이용한 Pylearn2, 이미지 인식 분야에서 확고히 자리 잡은 Caffe, 새로 공개된 도구 중 가장 주목을 받고 있는 Chainer와 텐서플로에 대해 그 특징과 사용법을 소개하였다. 이들 도구는 사용법이나 구현하기 위한 코드 구조도 다르다. 또, 신경망의 층이나 유닛 등에 대한 명칭도 서로 다르기 때문에 혼란스러울 수도 있다. 딥러닝을 이제 막 시작하려는 사람은 Caffe나 Chainer, 새로운 알고리즘을 개발하려는 사람은 Theano나 텐서플로를 사용하는 것이 좋다.
_179쪽