Tomomi Research Inc.
딥러닝 추천교재 및 강좌
2017/12/12
최 성훈
Tomomi Research Inc.
추천교재1 : 밑바닥부터 시작하는 딥러닝
2017/12/12
1. 한글판 제목: 밑바닥부터 시작하는
딥러닝
2. 파이썬 + Numpy로 MNIST의 데이터를
학습,인식하는 프로그램을 작성하는
것이 주 내용.
3. 이론적인 면에서 비교적 깊이 잘
설명하고 있음.
4. 코드가 조금 난해함. 특히 파이썬
초보자에게는 난이도가 높음. 이
책으로 코딩을 하겠다고 하는 것은
조금 힘듬.
5. 제5장의 오차역전법의 설명에
그래픽적 방법을 채택. 코딩에는
유용하지만 이론을 이해하기엔
부적합.
6. 그래도 우선 입문서로는 좋다고 생각.
(본인도 번역교정에 참여)
Tomomi Research Inc.
추천교재 2 : Make Your Own Neural Network
2017/12/12
1. 한글판 제목: 신경망 첫걸음
2. 밑바닥부터 시작하는 딥러닝에서
조우한 의문점은 이 책에서 답을 찾을
수 있음.
3. 굉장히 알기 쉬운 설명.
4. 오차역전법에 관해 직관적인 설명.
5. 이 책의 파이썬 코드가 초보자에게
이해하기 쉬움. 이 책으로 우선
파이썬 MNIST인식을 마스터 해볼 것.
6. 반드시 읽어야할 책.
Tomomi Research Inc.
추천교재 3 : 골빈해커의 3분 딥러닝, 텐서플로맛
2017/12/12
1. 앞장에서 소개한 Make your own
neural network를 마쳤으면, 신경망의
레이어를 늘이고 싶은 욕망이 나옴.
2. 하지만 파이썬, Numpy만으로는
코드가 방대해지는 결점이 있음.
3. 이 때 필요해지는 것이 프레임 워크임.
(다음장에 설명)
4. 현재 가장 많이 쓰이는 프레임 워크는
구글의 텐서플로우
5. 이 책은 텐서플로우의 입문서로써
최적. MNIST, CNN, RNN의 설명이
간결하고 알기 쉽게 잘 되어있음.
6. 코드 역시 알기 쉽게 기술.
Tomomi Research Inc.
추천 온라인 강좌
2017/12/12
모두를 위한 딥러닝 강좌 Convolution neural networks
for visual recognition
Machine Learning
URL https://goo.gl/l3SK2l https://goo.gl/w7zxDr https://goo.gl/gg9iSd
강사 김성 교수, 홍콩과기대 Feifei Li and Andrej Karpathy
Stanford Univ.
Andrew Ng, Stanford Univ
특징 한글로 된 딥러닝 강의.
알기 쉽게 설명
기본적인 이론적인 설명은 이
강좌로 커버가 가능.
텐서플로우를 기준으로
실습도 병행
일명 CS231n 강좌. 2016년
겨울엔 Andrej Karpathy가 강의.
현재 테슬라사의 디렉터.
총 15개의 강의. 시간을
쪼개서라도 볼 것을 추천.
Coursea.org의 간판강좌.
자막도 있음. 알기 쉬운 설명.
파이썬이 아닌 매트랩으로
설명. 양이 방대함.
Tomomi Research Inc.
프레임워크
2017/12/12
1. 별칭: Deep learning framework
2. 파이썬 혹은 별도의 프로그램 (매트랩,
C)위에서 움직이는 모듈이라
이해하면 됨.
3. 프레임 워크엔 딥러닝에 관한 함수가
들어가 있어, 프로그래밍이 엄청엄청
간단하게 됨. (파이썬과 Numpy 로만
코딩할 것과 비교했을 시)
4. 현재 구글의 텐서플로우가 가장
보급율이 높음.
5. 단 텐서플로우가 처음에 이해하기
힘든 단점이 있음. 그때는 먼저
Keras로 우회한 뒤 텐서플로우로
들어가는 것을 추천.
Tomomi Research Inc.
딥러닝 학습의 흐름.
2017/12/12
Python 도입
(IDE구축, Anaconda,
Pycharm, Jupyter)
Neural Network
(Weight, Bias, Activation
Function)
Training the neural
network
(Backward propagation)
Training Techniques
(Gradient decent method,
learning rate, Batch
process…)
교재의 커버
범위
Tomomi Research Inc.
딥러닝 학습의 흐름.
2017/12/12
MNIST with simple
neural network
Convolution Neural
Network (CNN)
MNIST with CNN
Cifar10 with CNN
교재의 커버
범위
Tomomi Research Inc.
GPU의 이용을 추천
2017/12/12
1. 신경망의 학습에 의외로 방대한
시간이 걸림.
2. 예를 들어 MNIST의 CNN의 학습에
CPU만으로1시간-2시간
3. 여기에 GPU를 연산에 이용하면
경험상 1/10인 5-10분에 학습을 끝낼
수 있음
4. CUDA란 범용병렬컴퓨팅 아키텍쳐를
지원하는 하는 것이 필요. 따라서
NVIDIA사의 GPU가 유일한 대안.
5. 선정시 CUDA Benchmarks를 참고할 것.
https://browser.geekbench.com/cuda-
benchmarks
6. 참고로 최근의 노트북에는
Thunderbolt를 이용한 외장형
그래픽어댑터도 판매중.

딥러닝 추천교재 및 강좌

  • 1.
    Tomomi Research Inc. 딥러닝추천교재 및 강좌 2017/12/12 최 성훈
  • 2.
    Tomomi Research Inc. 추천교재1: 밑바닥부터 시작하는 딥러닝 2017/12/12 1. 한글판 제목: 밑바닥부터 시작하는 딥러닝 2. 파이썬 + Numpy로 MNIST의 데이터를 학습,인식하는 프로그램을 작성하는 것이 주 내용. 3. 이론적인 면에서 비교적 깊이 잘 설명하고 있음. 4. 코드가 조금 난해함. 특히 파이썬 초보자에게는 난이도가 높음. 이 책으로 코딩을 하겠다고 하는 것은 조금 힘듬. 5. 제5장의 오차역전법의 설명에 그래픽적 방법을 채택. 코딩에는 유용하지만 이론을 이해하기엔 부적합. 6. 그래도 우선 입문서로는 좋다고 생각. (본인도 번역교정에 참여)
  • 3.
    Tomomi Research Inc. 추천교재2 : Make Your Own Neural Network 2017/12/12 1. 한글판 제목: 신경망 첫걸음 2. 밑바닥부터 시작하는 딥러닝에서 조우한 의문점은 이 책에서 답을 찾을 수 있음. 3. 굉장히 알기 쉬운 설명. 4. 오차역전법에 관해 직관적인 설명. 5. 이 책의 파이썬 코드가 초보자에게 이해하기 쉬움. 이 책으로 우선 파이썬 MNIST인식을 마스터 해볼 것. 6. 반드시 읽어야할 책.
  • 4.
    Tomomi Research Inc. 추천교재3 : 골빈해커의 3분 딥러닝, 텐서플로맛 2017/12/12 1. 앞장에서 소개한 Make your own neural network를 마쳤으면, 신경망의 레이어를 늘이고 싶은 욕망이 나옴. 2. 하지만 파이썬, Numpy만으로는 코드가 방대해지는 결점이 있음. 3. 이 때 필요해지는 것이 프레임 워크임. (다음장에 설명) 4. 현재 가장 많이 쓰이는 프레임 워크는 구글의 텐서플로우 5. 이 책은 텐서플로우의 입문서로써 최적. MNIST, CNN, RNN의 설명이 간결하고 알기 쉽게 잘 되어있음. 6. 코드 역시 알기 쉽게 기술.
  • 5.
    Tomomi Research Inc. 추천온라인 강좌 2017/12/12 모두를 위한 딥러닝 강좌 Convolution neural networks for visual recognition Machine Learning URL https://goo.gl/l3SK2l https://goo.gl/w7zxDr https://goo.gl/gg9iSd 강사 김성 교수, 홍콩과기대 Feifei Li and Andrej Karpathy Stanford Univ. Andrew Ng, Stanford Univ 특징 한글로 된 딥러닝 강의. 알기 쉽게 설명 기본적인 이론적인 설명은 이 강좌로 커버가 가능. 텐서플로우를 기준으로 실습도 병행 일명 CS231n 강좌. 2016년 겨울엔 Andrej Karpathy가 강의. 현재 테슬라사의 디렉터. 총 15개의 강의. 시간을 쪼개서라도 볼 것을 추천. Coursea.org의 간판강좌. 자막도 있음. 알기 쉬운 설명. 파이썬이 아닌 매트랩으로 설명. 양이 방대함.
  • 6.
    Tomomi Research Inc. 프레임워크 2017/12/12 1.별칭: Deep learning framework 2. 파이썬 혹은 별도의 프로그램 (매트랩, C)위에서 움직이는 모듈이라 이해하면 됨. 3. 프레임 워크엔 딥러닝에 관한 함수가 들어가 있어, 프로그래밍이 엄청엄청 간단하게 됨. (파이썬과 Numpy 로만 코딩할 것과 비교했을 시) 4. 현재 구글의 텐서플로우가 가장 보급율이 높음. 5. 단 텐서플로우가 처음에 이해하기 힘든 단점이 있음. 그때는 먼저 Keras로 우회한 뒤 텐서플로우로 들어가는 것을 추천.
  • 7.
    Tomomi Research Inc. 딥러닝학습의 흐름. 2017/12/12 Python 도입 (IDE구축, Anaconda, Pycharm, Jupyter) Neural Network (Weight, Bias, Activation Function) Training the neural network (Backward propagation) Training Techniques (Gradient decent method, learning rate, Batch process…) 교재의 커버 범위
  • 8.
    Tomomi Research Inc. 딥러닝학습의 흐름. 2017/12/12 MNIST with simple neural network Convolution Neural Network (CNN) MNIST with CNN Cifar10 with CNN 교재의 커버 범위
  • 9.
    Tomomi Research Inc. GPU의이용을 추천 2017/12/12 1. 신경망의 학습에 의외로 방대한 시간이 걸림. 2. 예를 들어 MNIST의 CNN의 학습에 CPU만으로1시간-2시간 3. 여기에 GPU를 연산에 이용하면 경험상 1/10인 5-10분에 학습을 끝낼 수 있음 4. CUDA란 범용병렬컴퓨팅 아키텍쳐를 지원하는 하는 것이 필요. 따라서 NVIDIA사의 GPU가 유일한 대안. 5. 선정시 CUDA Benchmarks를 참고할 것. https://browser.geekbench.com/cuda- benchmarks 6. 참고로 최근의 노트북에는 Thunderbolt를 이용한 외장형 그래픽어댑터도 판매중.