Recommended
More Related Content
Featured
Featured (20)
딥러닝은수능이다
- 2. 들어가기전 : 수능에 관한 설명은 검정색으로 딥러닝에 관한 설명은 초록색으로 하겠습니다. 딥러닝에 대한 전체적인 맥락을 잡기위한 자료입니다 세부적인 부분은 다루지를 않습니다
- 3. 고3이 된 철수 갑자기 공부를 하겠다면서, 수능만점을 목표로 삼습니다 철수의 목표: 수능만점
- 4. 수능만점 철수가 생각하는 정답과 실제 정답이 일치하는 것. (실제정답과 철수의 정답이 차이가 0이 되게하기) =
- 5. 수능만점 철수가 생각하는 정답과 실제 정답이 일치하는 것. (실제정답과 철수의 정답이 차이가 0되게끔 하기) = 딥러닝에서의 목표는 손실함수의 결과값을 0으로 만드는 것입니다 손실함수 : 딥러닝이 예상한 정답과 실제정답과의 차이를 수치로 나타내는 함수
- 6. 수능에는 정답을 기록할 수 있는 OMR 카드가 있다면 딥러닝에서는 정답을 기록할 수 있는 행렬이 있습니다.
- 7. 딥러닝은 행렬 원소 하나하나에 대한 정답을 찾아가는 과정입니다
- 8. 철수는 공부를 하기 전 일정을 짭니다 모의고사 모의고사 수능 TestTest 독학 실제사용 6월 9월 11월 독학 독학 Training Training Training
- 9. 철수는 공부를 하기 전 일정을 짭니다 모의고사 모의고사 수능 TestTest 독학 실제사용 6월 9월 11월 독학 독학 Training Training Training 수능공부를 할 때, 혼자 공부하고 모의고사를 통해 중간점검을 하듯 딥러닝에서도 트레이닝을 하고 이것을 Test를 통해 검증을 합니다
- 10. 막상 일정을 짰지만 어디서부터 공부를 시작할지를 몰라 일단 OMR카드에 찍기신공을 발휘하여 한번 찍어봅니다
- 11. 막상 일정을 짰지만 어디서부터 공부를 시작할지를 몰라 일단 OMR카드에 찍기신공을 발휘하여 한번 찍어봅니다 딥러닝도 어디서 시작할지 몰라 아무값이나 랜덤으로 넣고 시작을 해봅니다
- 12. 결과는.... ㅠㅠ
- 13. 혼자서는 아무래도 안되겠다 싶어 철수는 공부 잘하는 동네형을 찾아갑니다
- 14. 내가 한 수 가르쳐 줄게!!! 철수의 공부 잘하는 동네형 : Andrej Karpathy
- 15. 동네형이 말하는 단기간 고득점 전략 가장 빠르고 정확한 공부법으로 수능을 뽀개버린다 가장 빠르고 정확한 훈련법으로 딥러닝을 뽀개버린다 =
- 16. 수능공부에도 나름의 노하우가 있어 짧은 시간에 고득점을 나오는 방법을 배우듯이 딥러닝에서 우리가 배우는 것은 빠르고 정확하게 Training을 하는 방법을 배우는 것 입니다
- 17. 몇가지 단기간 고득점 전략 1) 행렬 원소의 시작은 xavier나 he로 시작하고, 그리고 나서 batch normalization을 봐. 1) 수학의 시작 : 수학의 정석을 3번보고, 기출문제를 봐
- 18. 처음의 방법
- 19. Xavier를 쓴 뒤
- 20. 몇가지 단기간 고득점 전략 2) Gradient Descent : 어느 부분이 손실이 크고, 학습방향을 어디로 가야할지 알려준다. -> Gradient Descent를 SGD방식으로 사용하자 2) 오답노트를 만들어라 : 자기의 약점을 보완하고 어느 부분을 공부를 해야될지 알려준다. -> 오답노트를 매일 보자!!
- 22. Gradient Descent전략은 좋지만, SGD를 사용하니깐 시간이 너무 오래 걸린다. SGD말고 다른 방법은 없나? 오답노트를 활용하는 전략은 좋지만, 매일 보니깐 시간이 너무 오래 걸린다…. 일주일에 한번씩 보던씩으로 해서 오답노트를 활용하는 전략을 바꿔보자. > 다른방법: Momemtum, Adam, Adagrad,RmsProp…
- 23. 동네형이 알려준대로 열공을 했던 철수 시간은 흘러 모의고사를 보게 되는데..
- 24. 현실은…
- 25. 어라… 이 문제는 내가 못 봤던 문제잖아…ㅠㅠ
- 26. 모의고사는 그렇게 망치게 되고 원인을 분석하는 철수. 그 원인은 너무 책 위주로 공부를 해서, 시험에 대한 응용력이 떨어져서 생긴 문제였습니다 딥러닝에도 똑같은 문제가 발생을 하는데, 너무 training data에 적합하게 훈련을 해서 다른 data에 응용력이 떨어질수 있습니다. 이를 오퍼피팅(over-fitting) 이라고 합니다.
- 27. 동네형을 다시 찾는 철수… 실전에 맞게 공부를 해야지 바보야!
- 28. 동네형이 말하는 실전적응 훈련법 1) Regularization 2) DropOut 자세한것은 동네형이 직접설명하는 cs231n에서
- 29. 동네 형이 말하는 대로 고득점 전략과 실전적용 훈련을 병행했던 철수는 9월 모의고사에서 좋은 성적을 얻게 됩니다 평균 96점 정확도 96점
- 30. 공부를 잘하게 된 철수의 수능점수는? To be continue…