Udacity 강의 중 TensorFlow의 흐름을 이해하기 위해 MiniFlow 라는 code를 통해 전체적인 흐름을 파악할 수 있다.

1. MiniFlow
박종민1

2. 박종민2
Neural Network?
• 신경망은 선형 계산(+, *, …) 과 activation 함수로
이루어진 그래프
• 그래프는 node 와 edge로 구성

3. MiniFlow?
• TensorFlow : Google Brain, Neural Network를
구현하기 위한 Python Library
• TensorFlow 의 실행과 학습하는 과정을
알아보기 위해 작성된 튜토리얼 코드
박종민3

4. MiniFlow.py
Class and Definition
• Node
• Input
• Linear
• Sigmoid
• MSE
• topological_sort
• forward_and_backward
• sgd_update
박종민4

5. Node
• tf.placeholder()
• NotImplementedError
• Node Class를 호출하는
곳에서는 반드시 forward,
backward definition을 가지고
있어야 함
박종민5

6. Input
• x, y 값을 입력받아 forward 일
때 값을 전달, backward 일 때
값을 역추적
박종민6

7. Linear
• forward: 선형 행렬 곱, 덧셈
• backward: Output Layer, Hidden
Layer 방향 (역방향)으로
역행렬을 연산
박종민7

8. Sigmoid
박종민8

9. MSE
• 신경망의 정확도를 알아보는
방법
• loss 또는 cost 로 불림
박종민9

10. topological_sort
• YouTube 영상 1
• YouTube 영상 2
박종민10
forward_and_backward
• 각 Class에서 forward, backward
함수를 진행

11. sgd_update
1. 전체데이터에서
배치데이터를 랜덤하게 선택
2. forward, backward 계산
3. Gradient Descent 변경
4. 정해진 숫자만큼 수행 (통상
code의 epochs)
박종민11

12. • Reference
1. DLFND: MiniFlow
2. Cs231n: Lecture4 Backpropagation
3. DLFND: Gradient Descent
4. miniflow.py, nn.py
박종민12