2017/3/8 NTTレゾナントさんとサイボウズの合同勉強会 Open Tech Talk 「【解体新書】深層学習を取り入れたサービス作り」での発表資料のマイルド版です。人工知能と機械学習、深層学習の違いについて解説します。 https://connpass.com/event/51436/

1. 人工知能と機械学習の
違いって？
2017/03/08 Open Tech Talk
NTT レゾナント × サイボウズ
サイボウズ・ラボ 中谷 秀洋

2. アジェンダ
• 人工知能と機械学習
‣その違いと「人工知能ブーム」の正体
‣予備知識不要
• 機械学習と深層学習
‣その違いと深層学習のサンプルコード
‣多少の機械学習の知識前提

3. 「人工知能」ブーム
• ライバル社が「人工知能」を使ったサー
ビスをリリース
• 「御社はAIでなにかしないんですか?」
と現場で営業にプレッシャー
• うちも人工知能でなんかできない?
• ところで人工知能って使っているうちに
勝手に賢くなるんだよね?

4. 「人工知能」ってなんだろう?
• 「AIを使った」と言うには?
‣機械学習?
‣深層学習?
‣「本物の人工知能」技術?

5. まず最初に覚えること

6. 人工知能＝賢い

7. 2種類の人工知能
• 強いAI(汎用人工知能)
‣人間の脳に追いつき、超える(目標)
‣物語に出てくる、世の中がイメージするAI
‣一番楽観的な予測で、実現は30年後
• 弱いAI(特化型人工知能)
‣“強いAI”を実現するための要素技術
‣機械学習、エキスパートシステムなどなど
‣賢くないし、(一般的な意味での)学習もしない

8. 機械学習
• 機械学習 ≠「学習」
‣モデルを人間が決める
‣データに対し最高性能になるパラメータを見つける
• できなかったことが、「学習」してできるように
なったりしない
‣モデルを選んだ時点で、理想的な最高性能は決まる
‣追加学習の仕組みを持つモデルもあるが、勝手に追
加学習させるプロダクトはあまりない
• 与えるデータをうまくコントロールしないと性能が下がる

9. エキスパートシステム
• 1970～80年代に流行したAI技術
‣専門家が記述したルール(If-Then)から答え
を自動的に推論
プログラミン
グが得意?
対話的な
機械学習ツール
AzureMLなど
数式が苦手?
Yes
No機械学習
したい!
機械学習
ライブラリ
sklearnなど
Yes
TensorFlowなど
深層学習
ライブラリ
TensorFlowなど
No
もっとも原始的なエキスパートシステム

10. 深層学習＝人工知能?
• 現在 実応用可能な技術の中で “強いAI”
に一番近い技術
理想的な
人工知能の
世界
機械学習(理想)
機械学習(現実)
深層学習

11. 深層学習
• 通常の機械学習
‣パラメータより多いデータを用意
‣解は単純な空間のほうが好ましい(汎化性能)
• 深層学習
‣データよりはるかに多いパラメータ
‣複雑な表現の空間を見つけ出す
すべての画像の空間
数字画像の空間
訓練用の数字画像
ここからは
機械学習の言葉も
使います
「数字画像」を「顔写真」
とかに置き換えてもOK

12. 深層学習の
どのあたりが AI に近い？

13. • Street View House Numbers http://ufldl.stanford.edu/housenumbers/
• ストリートビューから切り出したハウスナンバー(表札)データセット

14. • Street View House Numbers http://ufldl.stanford.edu/housenumbers/
• ストリートビューから切り出したハウスナンバー(表札)
１と９だけじゃなくて
同じデザインの他の数字の
画像も欲しいなあ

15. データの生成
• 従来
‣データの構造を反映したモデルを構築
• 例:文字生成
‣ペン、ストローク、文字の形、フォントの特
徴をモデル化
‣ヒゲなどの特徴のある飾りまでうまく組み込
むのは至難の業

16. Generative Adversarial Nets
(GAN;生成的敵対ネットワーク)
1. ディープニューラルネットワーク D と G を用意
‣D はデータが「本物」か判別(鑑定家)
‣G は乱数から適当な画像を生成(贋作家)
2. D は、本物データと G が作った偽物を見分けら
れるように訓練
3. G は、D に見分けがつかないデータを作れるよ
うに訓練
4. 2. 3. を交互に繰り返すと、G が本物のような
データを生成できるようになる
ペン、ストローク、文字の
形、フォントの特徴、飾り
などの知識を一切使わない

17. GAN を実装
• Python で 180行
‣ https://github.com/shuyo/iir/blob/master/dnn/cdcgan-svhn.py
‣Conditional GAN + DCGAN
• 線形代数とプログラミングの素養が
あれば、深層学習を1ヶ月、
TensorFlow等を使ったプログラミングを
半月学べば書けるようになるレベル

18. 生成結果
• 学習の様子
‣https://youtu.be/IXaeo9wxSoQ

19. 深層学習の特徴
• データの知識を使わない（使ってもいい）
‣GANは写真・イラストも同様に生成できる
‣言語の知識を使わない翻訳モデルとか
‣AI っぽい!
• 本質的に不安定（不良設定問題）
‣データごとに異なる「うまくいく設定」を見つける
• 膨大な試行錯誤＋職人芸
‣リソースが多いほど有利
• 刺しているグラボの枚数が挨拶代わりｗ

20. References
• 岡谷 貴之. 深層学習. 講談社 機械学習プロフェッショナルシ
リーズ. 2015.
• Goodfellow, Ian, et al. "Generative adversarial
nets." Advances in neural information processing
systems. 2014.
• Mirza, Mehdi, and Simon Osindero. "Conditional
generative adversarial nets." arXiv preprint
arXiv:1411.1784 (2014).
• Radford, Alec, Luke Metz, and Soumith Chintala.
"Unsupervised representation learning with deep
convolutional generative adversarial networks." arXiv
preprint arXiv:1511.06434 (2015).