Recommended
More Related Content
What's hot
What's hot (20)
Similar to 人工知能/機械学習/深層学習ってなんぞ
Similar to 人工知能/機械学習/深層学習ってなんぞ (20)
人工知能/機械学習/深層学習ってなんぞ
- 2. スライド作成の経緯 偉い人：ちょっと新人向けにAIとDeep Learningについて 45分ほど話してよ 僕：え。僕専門じゃないですよ。 偉い人：大丈夫大丈夫。相手も機械学習とかまったくやっ てない子たちだから。 僕：まじか＾ｗ＾
- 3. 1. 人工知能 2. 機械学習 3. 深層学習 4. 実用上の課題
- 4. 強い人工知能と弱い人工知能 強い人工知能(汎用) SFに登場するような人工知能 幅広い知識と自意識を保有 人間相当の仕事を自律的に実行 弱い人工知能(専用) 将棋・チェスプログラム 画像・音声認識 カーナビのルート探索 2017年6月時点で世の中に存在する人工知能の大半は「弱い人工知能」 と考えて差し支えない。たぶん。
- 5. スライドの前提 弱い人工知能 強い人工知能はようわからん 誤った前提・認識で議論を進めると変なことに 日本中で起こっていると思うけど 「我々が参加した会議には、機械学習の専門家が少なく、結果として 現場の声が十分に反映されなかった。汎用人工知能と、ある分野に特 化した機械学習の技術を区別せずに議論していた。」 これまで会議に参加していた丸山氏は、議論の中身についてこう不満 を口にする。ターミネーターのようなSFで語られる汎用人工知能に対 する脅威論が、会議でもそのまま展開されていたという。 「こうした議論の結果として開発ガイドラインが作られ、機械学習の イノベーションが萎縮されることがあってはならない。日本が萎縮す れば、中国や米国といった研究開発のライバルに利するだけだ(丸山 氏)。」 引用：人工知能ベンチャーの雄が総務省の開発指針に反対する理由、日経コンピュータ、2017/4/10
- 6. 人工知能ができること(やらせたいこと) 推論 何らかの知識に基づき、今の情報から新しい結論を得る 例：直近株価推移(情報)を株価推移モデル(知識)に当てはめて明日 の株価(結論)を予想 学習 情報から知識を見つける 例：過去2年間の株価推移(情報)から株価推移モデル(知識)を生成 今の情報 過去の情報 知識 新しい結論 学習 推論
- 7. 知識の作り方 ルール 人間が頭で考えて簡単なルールを作る 直観的でわかりやすい 確率・統計 データを確率・統計的に分析して知識を作る 人間が理解できるが、直観的でない場合もある 機械学習 大量データを学習して知識を自動生成する 人間にはまったく理解できない場合が多い 深層学習は機械学習の一方式
- 9. 1. 人工知能 2. 機械学習 3. 深層学習 4. 実用上の課題
- 10. 機械学習の種類 教師あり学習 正解を教えられることで知識を得る 例：「この画像は猫」、「この画像は犬」という入力と出力の組(教 師)を学習させて画像を分類する 教師なし学習 正解なしに自分で知識を得る 例：ネットショッピングの購入履歴から、嗜好が似ているユーザの グループを発見する 強化学習 報酬を与えられることで知識を得る 例：ロボットに迷路を歩かせて、「ゴールしたら+1点」、「穴に落 ちたら-1点」のような報酬を繰り返し与えることで、ロボットの行 動パターンを強化する
- 11. 教師あり学習のイメージ図 モデル 入力 (x1, x2, …,xn) 出力 (y1, y2, …,yn) 入力と出力のペア … … 学習データ 学習 入力と出力のペアを学習して、入力 から出力を計算するモデル(計算式) を自動生成する 推論 学習済モデルを使用して、入力から 出力を計算する
- 15. 特徴量を用いた画像認識 画像の本質を表す数値である「特徴量」を用いて画像を認識 特徴量の選択が認識精度に直結 良い特徴量=画像クラスの差を表せる特徴量 特徴量に唯一の正解はなく、経験則的に選択される 赤ブヨ、緑ブヨ、青ブヨ 特徴量 全画素のR、G、Bの合計値 認識方法 Rが一番多ければ赤ブヨ、… 手書き文字 特徴量 直線の数、曲線の数、○の数、○の位置 認識方法 直線が1本で曲線が0本なら「1」、… …
- 16. 実際はこんなかんじの特徴量で学習する HOG特徴量生画像 … … SVM 学習 推論 人 or 車？ HOG：輝度の勾配 SVM：認識性能に優れる認識器 人 車 ラベル
- 17. 1. 人工知能 2. 機械学習 3. 深層学習 4. 実用上の課題
- 18. 深層学習の登場 2012年の画像認識コンテストで深層学習を用いた認識手法が2 位以下と圧倒的な差をつけて優勝 深層学習は適切な特徴量を自動で学習するため、生の画像データ を入力するだけで分類可能 人間にしかできないと考えられていた特徴抽出が自動化 特徴量研究者に強烈なインパクト 画像 特徴量 (人間の聖域) 機械学習 推論 画像 深層学習 推論
- 19. ニューラルネットワーク 人間の脳の動きを模倣したモデル 大量のデータに基づいて最適な重みを自動調整する 多層のニューラルネットワーク(DNN)を構成することで表 現力の大幅な向上が見込まれるが、学習が非常に難しく、 長年実用化されていなかった ニューロン 入力 X1 X2 １ W1 W2 b Y1 Y1=φ(X1*W1+ X2*W2+…+b) φ=活性化関数 重み 出力 ニューラルネットワーク φ … 入力層 出力層中間層(隠れ 層)
- 20. 深層学習実現の要因 学習アルゴリズムの改良 バックプロパゲーション ドロップアウト 等々 学習データの増加 あらゆる分野で情報がデジタル化 インターネットの普及 学習リソースの増加 クラウドコンピューティングの普及 GPUコンピューティングの進化 技術と「環境」の進化によって 多層ニューラルネットワークの学習(深層学習)が可能に
- 21. 多層ニューラルネットワークの例 CNN(Convolutional Neural Network) 画像に特化したネットワーク 深層学習ブームの火付け役 RNN(Recurrent Neural Network) 連続的なデータの処理が得意なネットワーク 自然言語分野で多数の成功事例 DQN(Deep Q-Network) 強化学習(Q学習)に深層学習を適用したネットワーク 一部のゲームにおいて人間以上のスコアを獲得
- 22. CNN(Convolutional Neural Network) 畳み込み層とプーリング層で構成されるDNN 畳み込み層 画像に小さなフィルター処理を施して特徴マップを作製 画像の上下左右の関係性を利用 プーリング層 特徴マップを縮小 画像の位置移動に対する頑強性を確保 入力画像 (8x8) 畳み込みフィルター (3x3) 畳み込み層 (特徴マップ生成) プーリング層 (画像の拡縮) 層 = 画像 エッジ = フィルター 学習 = フィルター作成 と考えると理解しやすい
- 24. 1. 人工知能 2. 機械学習 3. 深層学習 4. 実用上の課題
- 25. 最低限クリアすべきポイント 学習データの収集方法を考える 学習・推論時間を短縮する 動作保証の仕組みを考える アルゴリズム・技術開発は勿論必要として
- 26. 学習データの収集方法を考える データを戦略的に収集する仕組みを作る 専用のデータ収集装置や専門部隊 WebサービスやIoT活用によるデータ収集 データ不足を補う方法を考える 画像合成、画像生成による学習データ水増し、転移学習 実用上の精度はさておき データがないなら人間の知識を使う ルールや確率・統計的知見を活用 機械学習、深層学習が最適解とは限らない More data beats better algorithms. 意訳：まずデータを持ってこようか
- 27. 転移学習 転移学習 ある分野の学習結果を他の分野に流用する技術 獲得済みの知識を活用することで、学習時間短縮や学習データ量削 減の効果が得られる Fine Tuning 画像認識で用いられる転移学習の一種 大量のデータセット(例：ImageNet)で学習済のモデルを汎用特徴 量抽出器として利用して、少ない画像での学習を可能にする方法 新たに分類したい画像を数千枚程度用意するだけで、かなりの 精度で分類可能になるとかならないとか
- 29. 学習・推論時間を短縮する 深層学習の計算量はとても大きい 学習に数日～数か月 推論1回で百万回以上計算することもザラ 対策 計算の並列化 GPUコンピューティング 自宅で勉強する場合も、GPUがないと相当つらい PCの並列化 クラウドコンピューティング
- 30. 動作保証の仕組みを考える 動作保証に関する問題 中身がかなりブラックボックスで、見たこともないデータが入力さ れたときにどう動くか予測困難 推論結果の妥当性が説明困難 各層の重みが何を意味するのか、理解できない場合が多い 対策 関係者と試験方法(テストデータ)を事前に合意する 機械学習以外の方法を組み合わせる 法規で定められている挙動はルールで実現、とか 推論の理由を人が理解・説明しなければならない仕事では、線 形モデルに落としこむとか
- 31. あちゃー ってなった例 Microsoft Tay SNSのやりとりを学習して進化するボット 不適切な発言を繰り返して1日で公開停止 Google Photo デジタル画像から人や物を自動認識 黒人をゴリラとラベル付けしてしまい、Googleが謝罪 入力データのフィルタリングや発言禁止ルールの導入など システム全体で動作を保証する仕組みが必要 9/11はブッシュがやったことだ。 ヒトラーは今のサルより 良い大統領になれたんだ。 SNSの やりとり 学習
- 32. まとめ 人工知能 ⊃ 機械学習 ⊃ 深層学習 実際は完全に含まれているわけではないけどイメージで 深層学習は非常にパワフルなツールだが、課題も多い データ 計算リソース 動作保証 技術の特性を知り、その時々の要件を満たす最適な手法を 選択することが人工知能応用アプリ開発の面白さ のよう な気がしている
- 33. オマケ：深層学習で遊びたくなったら Pythonを覚える データ分析用パッケージAnacondaでインストール楽々 機械学習ライブラリの使い方を覚える scikit-learn：汎用機械学習ライブラリ Tensor Flow：Google製の深層学習ライブラリ Chainer：PFN製の深層学習ライブラリ Keras：Tensor Flowやその他有名ライブラリのラッパー ← 超簡単でオススメ データセットをダウンロードして遊ぶ MNIST：手書き文字セット(数万枚) GTSRB：ドイツの標識画像セット(数万枚) ImageNet：Web画像セット(1400万枚) 迂闊に学習すると数か月かかるので要注意 他にも腐るほどある PCを新調する メモリ16GB、グラボGTX1060ぐらいあればそこそこ楽しめる もしくはクラウドサービスを使う