ディープラーニングでできること

1. ディープラーニングゼミ
実践編2
株式会社ネクスト リッテルラボラトリー
石田陽太

2. 𝒚 = softmax(𝑾𝒙 + 𝒃)
入力x
784次元
出力y
10次元
重みW
784×10次元
バイアスb
10次元
画像 各数字の確率

3. MNISTの構成
値が[0-1]の28×28の配列 28×28=784次元のベクトル

4. 𝒚 = softmax(𝑾𝒙 + 𝒃)
入力x
784次元
出力y
10次元
重みW
784×10次元
バイアスb
10次元
画像 各数字の確率

5. 入力として使えるものの例
• センサーのデータ
• 言語
• 音声
• 画像
• 何らかの指標
温度、湿度
加速度、振動、回転角
磁力、方位
など
経済指標（株価、物価、GDPなど）
住宅指標（賃料、広さ、立地など）
反響指標（反響数、クリック率、離脱率）
https://speakerdeck.com/hidef/bu-dong-chan-websabisuwoqiang-kusuruji-jie-xue-xi-
falseshi-ifang
http://d.hatena.ne.jp/Watson/20090227/1235741386

6. 「ワトソン」に２０００万件に上るがん研究の論文を学習
女性の約１５００カ所の遺伝子変異のデータを入力

7. ニューラルネットでなくてもできる
• 機械学習手法
• SVM
• ランダムフォレスト
• ナイーブベイズ

8. http://www.slideshare.net/nlab_utokyo/20160601-62645719

10. ディープラーニングで
高い成果を出しているもの
• 画像（動画を含む）
• 音声認識
• 自然言語処理
• ロボティクス

11. http://www.sbbit.jp/article/cont1/32033

12. 今回の進め方
適用の例を紹介
簡単な仕組みを説明
触ってみる
画像編
言語系
強化学習・ロボティクス

13. 画像編

14. クラス分類

15. デモ
GoogleのInceptionモデルによる分類

16. 畳み込みニューラルネットワーク(CNN)
http://www.wildml.com/2015/11/understanding-convolutional-neural-networks-for-nlp

17. VGG 2016
https://sites.google.com/site/homepagezhichengyan/home/hdcnn

18. Google Inception v3
https://research.googleblog.com/2016/03/train-your-own-image-classifier-with.html
TensorBoardで可視化
http://qiita.com/jim/items/86057fe435b8297810d2

19. 物体検出
https://blogs.nvidia.com/blog/2014/09/07/imagenet/

20. セグメンテーション
http://jamie.shotton.org/work/research.html

21. 画像生成
http://pip-install-deeplearning.hatenadiary.jp/entry/2016/01/21/232837
http://qiita.com/mattya/items/e5bfe5e04b9d2f0bbd47

22. DCGAN＋ポケモンGO

23. 画風変換
https://no2147483647.wordpress.com/2015/12/21/deep-learning-for-hackers-with-mxnet-2/
http://eeveetuna.hatenablog.com/entry/2015/11/23/141035

24. コンテンツ画像
スタイル画像

25. 着色で白黒→グレー
https://digitalfan.jp/126973

26. 画像のキャプション生成
http://www.slideshare.net/YoshitakaUshiku/ss-57148161/

27. 自然言語

28. Word2Vec
King – man + woman = Queen
Tokyo – Japan + France = Paris

29. http://www.slideshare.net/naoakiokazaki/201
50530-jsai2015/7

30. http://www.slideshare.net/naoakiokazaki/201
50530-jsai2015/8

31. デモ

32. 強化学習

33. http://www.slideshare.net/sady_nitro/ss-17680859
強化学習とは？
ある環境内にいるエージェントが、現在の状態を観測し、報酬が最大化するよう
取るべき行動を選択するよう学習させる問題
応用例
・自動運転
・ロボティクス
・ゲームAI
s
行動a
s'
報酬r=Q(s,a)

34. https://www.youtube.com/watch?v=7A9UwxvgcV0
自動運転

35. ひと昔の自動運転の構成
LIDAR
(32方向の周
辺距離)
DQN
Interface
PFI+TOYOTAのデモ構成

36. http://www.slideshare.net/MasatoNakai1/inverse-reinforcement-on-pomdp

37. https://www.youtube.com/watch?v=V1eYniJ0
Rnk
テレビゲーム

38. https://research.googleblog.com/2016/03/dee
p-learning-for-robots-learning-from.html
https://www.youtube.com/watch?v=iaF43Ze1oeI
ロボティクス

39. 3D内でシミュレーション
＆エージェント強化
https://www.youtube.com/watch?v=5SB6xhXpSjM
https://github.com/wbap/lis