추가 적립 안내

『거침없이 배우는 하둡』은 하둡의 설치에서부터 활용까지 이해하기 쉽게 단계적으로 구성한 책이다. 특히 아마존 클라우드에서 하둡을 직접 구성할 수 있도록 하여 활용성을 높였다. 대용량의 데이터를 병렬적으로 처리하기 위한 MapReduce 프로그램의 상세한 설명과 고급수준의 언어로 대용량 데이터를 처리할 수 있는 Pig에 대해서도 다룬다. 또한 하둡의 실제 비즈니스 적용 사례 연구를 살펴보았다.

하둡은 빅 데이터 시대에 반드시 필요한 기술이다. OS로 비유하면 리눅스 커널로 표현될 정도로 분산처리 기술에서 다양한 분야에 활용되고 있다.
이 책은 하둡의 설치에서부터 활용까지 이해하기 쉽게 단계적으로 구성되어 있다. 특히 아마존 클라우드에서 하둡을 직접 구성할 수 있도록 하여, 그 활용성을 높였다.
그뿐만 아니라 대용량의 데이터를 병렬적으로 처리하기 위한 MapReduce 프로그램의 상세한 설명과 고급수준의 언어로 대용량 데이터를 처리할 수 있는 Pig에 대해서도 다룬다. 마지막으로 하둡의 실제 비즈니스 적용 사례 연구를 살펴본다.

위와 같은 내용을 바탕으로 이 책은 하둡을 처음 접하는 사람들에게 하둡에 대한 좋은 가이드 역할을 할 것이다.

감수후기

오랫동안 현장에서 일하면서 하둡을 처음 접할 때 어려움을 아직도 기억합니다. 특히 개발을 비롯해 운영, 장비 관리까지 하는 경우 그 다양한 특성과 설치 및 관리 개발을 경험해본 개발자라면 더욱더 그 어려움에 동감할 것입니다. 그래서 국내 두 번째 하둡 전문 서적이 출간된 점에 매우 감사드립니다.
‘거침없이 배우는 하둡’은 초심자를 위해서 철저하게 내용이 구성된 책입니다. 하둡의 시작은 설치라고 할 정도로 인프라와 밀접하게 관련 있는 하둡은 초보자에게 있어서 설치부터 그 외 모든 것이 거대한 산과 같아 보입니다. 빅 데이터 기술의 근간인 하둡이 A에서 Z까지 초심자를 위해서 잘 구성된 이 책을 통해 많은 하둡 개발자들이 활동할 수 있는 계기가 되었으면 하며 또한 빅 데이터가 IT 산업 전반에 걸쳐 많이 도입되었으면 하는 바람입니다.
- 김병곤 한국자바개발자협의회(JCO) 회장/클라우다인 대표이사/지식경제부 SWMaestro 멘토/JBoss User Group 대표 운영자

지금까지 나온 하둡 및 분산처리 관련 서적 중에서 가장 practical한 서적이라고 생각합니다. 이전에 나온 하둡 책들이 이론과 API에 대해서 주로 다룬 책이었다면 본 서적은 하둡을 처음 접근하는 사람이 차근차근 다뤄가면서 익히기 좋은 책입니다. 실습 환경을 갖추기 어려운 초심자를 위해서 AWS, S3를 통한 적용을 다루는 등 초심자에 대한 세심한 배려가 인상적입니다.
- 장회수 JBoss User Group

원서 자체가 실용적으로 잘 정리된 훌륭한 책으로서 그 번역서가 나왔다는 점은 매우 고무적인 것 같습니다. 하둡 설치 시 어려웠던 점을 본 서적에서 매우 쉽게 다루고 있어서 초심자에게 있어서 큰 도움이 될 것으로 생각하며 최근 Hadoop 1.0.x를 현장에서 적용 중임에도 활용하는 데 전혀 무리가 없을 만큼 훌륭한 내용을 담고 있습니다. 특히 초심자에게 추천합니다.
- 원종석 KTH 데이터 지능팀/JBoss User Group 운영자

데이터를 만들고, 보관하고 분석하여 비즈니스에 활용하는 예는 IT 기술이 생긴 이래 계속되어 왔습니다. 최근 들어 초기부터 축적했던 엄청난 양의 데이터를 처리하는 기술은 하둡이라는 오픈소스 플랫폼을 통해 다시 한번 빛을 보고 있는 것 같습니다. 하둡은 병렬처리를 통한 빠른 데이터 처리능력뿐만 아니라 하둡을 기반으로 한 여러 가지 오픈 소스를 통해 원하는 데이터를 빠르고, 쉽게 만들어 낼 수 있어, 빅 데이터 처리 분야에서 주목을 받고 있으며, 비용 때문에 구축을 어려워하던 기업들에 최상의 서비스를 제공해줄 수 있는 멋진 오픈소스 플랫폼이라 할 수 있습니다. 또한, 대량의 데이터를 처리하는 기업들이 적극 도입한다면, 데이터 분석을 통해 새로운 비즈니스 창출과 기업 운영에 많은 도움이 될 수 있을 것입니다.
- 김완철 네오위즈/JBoss User Group

PART 01 하둡 - 분산 프로그래밍 프레임워크

CHAPTER 01 하둡 소개
1.1 왜 하둡의 실행을 다루는가?
1.2 하둡은 무엇인가?
1.3 분산시스템과 하둡의 이해
1.4 SQL 데이터베이스와 하둡의 비교
1.5 MapReduce의 이해
1.5.1 간단한 프로그램의 확장
1.5.2 동일한 프로그램을 MapReduce를 이용해 확장
1.6 프로그램의 첫 번째 실행 - 하둡을 이용한 단어세기
1.7 하둡의 역사
1.8 요약
1.9 참고 자료

CHAPTER 02 하둡 시작하기
2.1 하둡의 구성 요소
2.1.1 NameNode
2.1.2 DataNode
2.1.3 Secondary NameNode
2.1.4 JobTracker
2.1.5 TaskTracker
2.2 하둡 클러스터를 위한 SSH의 설정
2.2.1 일반적인 계정 정의
2.2.2 SSH 설치와 확인
2.2.3 쌍으로 이루어진 SSH 키의 생성
2.2.4 공개 키 배포와 로그인 테스트
2.3 하둡의 실행
2.3.1 Standalone(독립실행) 모드
2.3.2 Pseudo-distributed(가상분산) 모드
2.3.3 Fully distributed(완전분산) 모드
2.4 웹 기반의 클러스터 UI
2.5 요약

CHAPTER 03 하둡 컴포넌트
3.1 하둡 파일 다루기
3.1.1 기본적인 파일 명령어
3.1.2 프로그램을 이용한 HDFS의 읽기와 쓰기
3.2 MapReduce 프로그램의 구조
3.2.1 하둡 데이터 타입
3.2.2 Mapper
3.2.3 Reducer
3.2.4 Partitioner - Mapper 결과를 여러 Reducer로 전달
3.2.5 Combiner - 로컬 reduce
3.2.6 미리 정의된 mapper와 reducer클래스를 이용한 단어 세기
3.3 읽기와 쓰기
3.3.1 InputFormat
3.3.2 OutputFormat
3.4 요약

PART 02 하둡 인 액션

CHAPTER 04 MapReduce 기본프로그램 작성
4.1 특허 데이터 가져오기
4.1.1 특허 인용 데이터
4.1.2 특허 기술 데이터
4.2 MapReduce 프로그램의 기본 템플릿(견본) 작성
4.3 카운팅하기
4.4 변경된 하둡API 적용
4.5 하둡 Streaming
4.5.1 유닉스 명령어 기반의 Streaming
4.5.2 스크립트를 이용한 Streaming 처리
4.5.3 키/값 쌍을 이용한 Streaming
4.5.4 Aggregate 패키지를 이용한 Streaming
4.6 Combiners를 이용한 성능의 향상
4.7 배운 내용 연습
4.8 요약
4.9 참고 자료

CHAPTER 05 고급 MapReduce
5.1 MapReduce job들의 사슬 엮기
5.1.1 MapReduce job들을 순서대로 연결하기
5.1.2 복잡한 의존 관계에 있는 MapReduce job들의 사슬 연결
5.1.3 전처리와 후처리 단계를 사슬 관계로 처리하기
5.2 다양한 자료를 활용하기 위한 데이터 조인
5.2.1 Reduce-side 조인
5.2.2 분산캐시(distributed cache)를 사용한 replicated 조인
5.2.3 Semijoin(중간 형태의 조인): reduce 단계의 조인과 map 단계의 필터링
5.3 Bloom 필터의 생성
5.3.1 Bloom 필터의 기능
5.3.2 Bloom 필터의 실행
5.3.3 하둡 0.20+ 버전에서의 Bloom 필터
5.4 배운 내용 연습
5.5 요약
5.6 참고 자료

CHAPTER 06 프로그래밍 연습
6.1 MapReduce 프로그램의 개발
6.1.1 Local(독립실행) 모드
6.1.2 Pseudo-distributed(가상분산) 모드
6.2 Production 클러스터의 모니터링과 디버깅
6.2.1 카운터
6.2.2 잘못된 레코드 건너뛰기
6.2.3 IsolationRunner를 이용한 실패한 태스크의 재실행
6.3 성능향상을위한튜닝
6.3.1 Combiner에서 네트워크 트래픽의 개선
6.3.2 입력 데이터량의 감소
6.3.3 압축의 이용
6.3.4 JVM의 재사용
6.3.5 추론적인 실행(speculative execution)을 통한 동작
6.3.6 코드와 알고리즘의 수정
6.4 요약

CHAPTER 07 CookBook
7.1 Job 관련 파라미터를 태스크로 전달
7.2 태스크 관련 정보검색
7.3 다수의 출력 파일들로 파티셔닝
7.4 데이터베이스로부터 입력, 데이터베이스로의 출력
7.5 모든 출력을 정렬된 순서로 유지
7.6 요약

CHAPTER 08 하둡 관리
8.1 실사용을 위한 파라미터 값 설정
8.2 시스템 Health 체크
8.3 권한 설정
8.4 쿼터 관리
8.5 휴지통(trash) 활성화
8.6 DataNode 제거
8.7 DataNode 등록
8.8 NameNode 관리와 Secondary NameNode
8.9 NameNode 장애복구
8.10 네트워크 레이아웃과 랙 인식 디자인
8.11 다수 사용자의 job 스케줄링
8.11.1 다수의 JobTracker
8.11.2 Fair Scheduler
8.12 요약

PART 03 하둡의 성장

CHAPTER 09 클라우드에서 하둡 수행
9.1 아마존 웹 서비스(AWS) 소개
9.2 AWS 설정
9.2.1 AWS 인증 정보(credentials) 가져오기
9.2.2 커맨드 라인 툴
9.2.3 SSH 키 쌍 준비
9.3 EC2에서 하둡설정
9.3.1 보안 파라미터 설정
9.3.2 클러스터 타입 구성
9.4 EC2에서 MapReduce 프로그램 수행
9.4.1 애플리케이션 코드를 하둡 클러스터로 전송
9.4.2 하둡 클러스터에 있는 데이터 접근
9.5 EC2 인스턴스 종료 및 정리
9.6 아마존 EMR과 그 외 AWS 서비스
9.6.1 아마존 EMR
9.6.2 AWS Import/Export
9.7 요약

CHAPTER 10 Pig 프로그래밍
10.1 Pig처럼 생각하기
10.1.1 데이터 흐름 언어
10.1.2 데이터 형식
10.2 Pig 설치
10.3 Pig 수행
10.3.1 Grunt 셸 관리
10.4 Grunt로부터 Pig Latin 수행
10.5 Pig Latin
10.5.1 데이터 타입과 스키마
10.5.2 표현(expression)과 함수(function)
10.5.3 관계 연산자
10.5.4 실행 최적화
10.6 사용자 정의 함수 사용
10.6.1 사용자 정의 함수 사용
10.6.2 사용자 정의 함수 작성
10.7 스크립트 수행
10.7.1 주석
10.7.2 파라미터 치환
10.7.3 멀티쿼리(multiquery) 실행
10.8 유사한 특허들을 계산하는 예제
10.9 요약

CHAPTER 11 Hive와 하둡 지원 프로젝트들
11.1 Hive
11.1.1 Hive의 설치와 구성
11.1.2 쿼리 예제
11.1.3 HiveQL
11.1.4 Hive 요약
11.2 하둡과 관련된 또 다른 프로젝트
11.2.1 HBase
11.2.2 ZooKeeper
11.2.3 Cascading
11.2.4 Cloudera
11.2.5 Katta
11.2.6 CloudBase
11.2.7 Aster Data와 Greenplum
11.2.8 Hama와 Mahout
11.2.9 search-hadoop.com
11.3 요약

CHAPTER 12 사례연구
12.1 뉴욕 타임즈 보관소에 있는 천백만 개의 이미지 문서 변환
12.2 차이나 모바일에서의 데이터 마이닝
12.3 스텀블어폰에서 최고의 웹사이트 추천
12.3.1 스텀블어폰에서 분산 처리 시작
12.3.2 HBase와 스텀블어폰
12.3.3 스텀블어폰에서 하둡 이상의 것들
12.4 기업용 검색을 위한 분석- IBM Project ES2
12.4.1 ES2 구조
12.4.2 ES2 크롤러
12.4.3 ES2 분석
12.4.4 결론
12.4.5 참고 자료

부록 HDFS 파일 명령어
찾아보기

하둡은 분산된 데이터 세트를 쿼리하기 위한MapReduce 알고리즘을 구현한 오픈 소스 프레임워크이다.
이 정의는 애매모호할 수도 있다. map들이 무엇이고 왜 그것들이 reduce되어야 하지?
대용량 데이터 세트는 전통적인 메커니즘을 사용해 질의하고 분석하기가 매우 어렵다.
특히 쿼리가 복잡하다면 더 그렇다. 실제, MapReduce 알고리즘은 쿼리와 데이터 세트를 부분들로 나누는데, 이것이 mapping이다. 해당 쿼리의map된 컴포넌트들은 동시에 처리(또는reduced )되어 빠른 결과를 얻는다.
이 책은 독자에게 하둡을 사용하는 방법과 MapReduce 프로그램을 작성하는 방법을 알려준다.
주요 독자는 프로그래머, 아키텍트, 그리고 대용량 오프라인 데이터를 처리해야 하는 프로젝트 매니저이다.

이 책은 하둡을 클러스터에 설정하고 데이터 분석 프로그램을 작성하고자 하는 독자에게 가이드를 제공한다.
이 책은 하둡의 기본 아이디어를 소개함으로써 시작한다. 그리고 문서에 나타난 단어의 빈도수를 분석하는 몇몇 간단한 예제를 통해 MapReduce에 대한 개념을 쉽게 이해할 수 있도록 한다. 또한 하둡을 사용해 개발된 MapReduce 애플리케이션의 기본 개념과 프레임워크 컴포넌트에 대한 접근, 다양한 데이터 분석 태스크를 위한 하둡 사용과 하둡의 수많은 예제에 대해 계속해서 설명한다.

MapReduce는 개념이나 그것의 구현이 복잡하기 때문에, 하둡을 구동하기 위해 사용자는 많은 것을 배워야 하는 도전에 직면해 있다. 이 책은 하둡을 운영하는 방법 외에, MapReduce 프레임워크에서 의미있는 프로그램을 작성하는 방법을 알려줄 것이다. 이 책의 코드가 대부분 자바로 작성되었기 때문에, 독자는 기본적으로 자바에 익숙해야하고 통계 개념(예를 들어 히스토그램, 상관 관계)에 대한 지식은 고급 데이터 처리 예제를 이해하는데 도움을 줄 것이다.