파이토치 1.X로 시작하는 딥러닝 : 파이썬를 사용한 딥러닝 기법 및 최신 신경망 아키텍처 구현

목차 (Table of Contents)

• 제1부 파이토치 1.x와 심층 학습 구성 요소
• 제1장 파이토치로 심층 학습 시작하기
• 인공 지능 탐구
• 인공 지능의 역사
• 실제의 기계 학습
• 그래서, 왜 심층 학습(DL) 인가?
• 심층 학습의 응용
• 이미지의 텍스트 자동 번역
• 자율주행 자동차의 물체 감지
• 심층 학습 프레임워크
• 왜 파이토치인가?
• 파이토치 v1.x의 새로운 점은 무엇인가?
• CPU 대 GPU
• CUDA란 무엇인가?
• 어떤 GPU를 사용해야 하는가?
• GPU가 없다면 어떻게 해야 하는가?
• 파이토치 v1.x 구축하기
• 파이토치 설치하기
• 요약
• 제2장 신경망의 구성 요소
• 무엇이 신경망 인가?
• 신경망의 구조 이해하기
• 파이토치에서 신경망 구축하기
• 파이토치 순차형 신경망
• nn.Module을 이용한 파이토치 신경망 구축하기
• 파이토치 텐서 이해하기
• 텐서의 모양 및 변형 이해하기
• 텐서 연산 이해하기
• 파이토치에서 텐서 유형 이해하기
• 파이토치 텐서로 데이터셋 가져오기
• 파이토치에서 신경망 학습하기
• 요약
• 제2부 심층 학습으로 나아가기
• 제3장 신경망 더 깊이 알아보기
• 신경망 구성 요소에 관해 깊이 있게 알아보기
• 레이어-신경망의 기본 블록
• 비선형 활성화
• Sigmoid
• Tanh
• ReLU
• Leaky ReLU
• 파이토치 비선형 활성화
• 심층 학습 알고리즘을 구축하는 파이토치 방법
• 여러가지 심층 학습 문제를 위한 모델 아키텍처
• 손실 함수
• 네트워크 아키텍처 최적화하기
• 심층 학습을 이용한 이미지 분류
• 파이토치 텐서로 데이터 로딩하기
• 네트워크 아키텍처 구축하기
• 모델 학습하기
• 요약
• 제4장 컴퓨터 비전을 위한 심층 학습
• 신경망 소개
• MNIST-데이터 가져오기
• CNN 모델 처음부터 구축하기
• Conv2d
• Pooling
• 비선형 활성화-ReLU
• View
• 모델 학습하기
• 개와 고양이 분류하기-처음부터 CNN
• 전이 학습을 이용하여 개와 고양이 분류하기
• VGG16 모델을 생성하고 알아보기
• 레이어 고정하기
• VGG16 파인튜닝 하기
• VGG16 모델 학습하기
• 특징에 미리 합성곱 계산하기
• CNN 모델의 학습 내용 이해하기
• 중간 레이어의 출력 시각화하기
• CNN 레이어의 가중치 시각화 하기
• 요약
• 제5장 순차 데이터를 이용한 자연어 처리
• 텍스트 데이터로 작업하기
• 토큰화
• N-gram 표현
• 벡터화
• 감성 분류기를 구축하면서 단어 임베딩 학습하기
• IMDb 데이터 다운로드 및 텍스트 토큰화 수행하기
• Vocabulary 구축하기
• 벡터의 배치 생성하기
• 임베딩으로 네트워크 모델 생성하기
• 모델 학습하기
• 사전 학습된 단어 임베딩 사용하기
• 임베딩 다운로드하기
• 모델에 임베딩 불러오기
• 임베딩 레이어 가중치 고정하기
• 순환 신경망
• 예제로 RNN이 작동하는 방법 이해하기
• LSTM을 이용하여 텍스트 분류 문제 해결하기
• 장기 의존성(Long-term dependency)
• LSTM 네트워크
• 순차 데이터에 대한 합성곱 네트워크
• 순차 데이터에 대한 일차원 합성곱 이해하기
• 언어 모델링
• 사전 학습된 모델
• Embeddings from language models
• Bidirectional Encoder Representations from Transformers
• Generative Pretrained Transformer 2
• 파이토치 구현
• 요약
• 제3부 심층 학습의 최신 아키텍처 이해하기
• 제6장 오토인코더(Autoencoders) 구현하기
• 오토인코더의 어플리케이션
• 보틀넥과 손실 함수
• 합성곱 오토인코더
• 노이즈제거(denoising) 오토인코더
• Variational autoencoders
• VAE 학습하기
• 제한된 볼츠만 머신(Restricted Boltzmann machines)
• RBM 학습하기
• 이론적인 예제-RBM 추천 시스템
• DBN 아키텍처
• 미세조정
• 요약
• 제7장 생성적 적대 신경망
• Neural style transfer
• 데이터 로딩하기
• VGG 모델 생성하기
• 콘텐츠 손실
• 스타일 손실
• 손실 추출하기
• 각 레이어의 손실 함수 생성하기
• 최적화기 생성하기
• 모델 학습하기
• GAN에 대한 소개
• DCGAN
• 생성자 네트워크 정의하기
• 판별자 네트워크 정의하기
• 손실 및 최적화기 정의하기
• 판별자 훈련하기
• 생성자 네트워크 훈련하기
• 전체 네트워크 훈련하기
• 생성된 이미지 검사
• 요약
• 제8장 최신 아키텍처로 전이 학습 수행하기
• 최신 네트워크 아키텍처들
• ResNet
• 인셉션(Inception)
• 조밀하게 연결된 합성곱 네트워크 – 덴스넷(DenseNet)
• _DenseBlock 객체
• _DenseLayer 객체
• 덴스넷 모델 생성하기
• 덴스넷 특징 추출하기
• 데이터셋과 로더 생성하기
• 완전 연결 모델 생성하기 및 훈련하기
• 모델 앙상블
• 모델 생성하기
• 이미지 특징 추출하기
• 데이터 로더와 함께 커스텀 데이터셋 생성하기
• 앙상블 모델 생성하기
• 모델 훈련하기 및 검증하기
• 인코더-디코더 아키텍처
• 인코더
• 디코더
• 어텐션(attention)을 갖는 인코더-디코더
• 요약
• 제9장 심층 강화 학습
• RL에 대한 소개
• 모델 기반(Model-based) RL
• 모델 프리(Model-free) RL
• 온-폴리시(on-policy)와 오프-폴리시(off-policy) 비교하기
• Q-learning
• 가치를 이용한 방법
• 가치 반복
• 코드 예제-가치 반복
• 정책을 이용한 방법
• 정책 반복
• 가치 반복 VS 정책 반복
• 정책 경사(Policy gradient) 알고리즘
• Deep Q-networks
• DQN 손실 함수
• 경험 재생(Experience replay)
• 코드 예제-DQN
• Double deep Q-learning
• Actor-critic 방법
• 코드 예제-actor-critic 모델
• Asynchronous actor-critic 알고리즘
• 실용 어플리케이션들
• 요약
• 제10장 그 다음은?
• 그 다음은?
• 이 책의 개요
• 연구 논문을 읽고 구현하기
• 더 알아볼 만한 내용들
• 객체 감지
• 이미지 분할
• 파이토치의 OpenNMT
• Allen NLP
• fast.ai-다시 신경망이 어렵게 느껴진다면
• Open neural network exchange
• 최신 정보를 유지할 수 있는 방법
• 요약