More Related Content
Similar to Cognitive science for the development of human like ai
Similar to Cognitive science for the development of human like ai (13)
Cognitive science for the development of human like ai
- 1. Human-like AI実現に向けた認知科学的アプローチ 〜人間の思考過程のリバースエンジニアリング〜 発表者： メンター： ニューヨーク大学修士(予定) 慶應義塾大学修士2年 東京大学博士1年 慶應義塾大学博士1年 南井 優希 松森 匠哉 八木 拓真 福地 庸介
- 2. Self Introduction 南井 優希(Minai Yuki) -2013年3月 奈良女子大学数学科 -2015年7月 京セラコミュニケーションシステム株式会社 -2018年3月 楽天株式会社 -2019年5月 ABEJA株式会社 2019年9月- ニューヨーク大学大学院心理学部 2
- 5. アジェンダ 1. AIに対する期待と現実 2. 認知科学とは 3. 人間の認知機能のモデリング 3.1. 直観心理学 (Intuitive Psychology) 3.2. 直観物理学 (Intuitive Physics) 3.3. 構成性 (Compositionality) 4. まとめ 5
- 7. 7 AIに対する期待
- 9. AlphaGo Zero - 36時間自己学習のみ - トッププロ棋士に勝利したAlphaGoと同等のパフォーマンス 引用：David Silver, et al. Mastering the game of go without human knowledge. Nature, 550:354– 359, 2017. 近年のディープラーニングの台頭 9
- 10. AIに対する期待の高まり 10
- 11. 11 AIの現実
- 17. 2. 認知科学とは What is Cognitive Science? 17
- 23. 分類・回帰 予め決められた概念を出力することしかできない 23 引用：B. M. Lake, T. D. Ullman, J. B. Tenenbaum, S. J. Gershman, "Building machines that learn and think like people", Behavioral and Brain Sciences, 2016.
- 25. 世界を解釈・ 説明 - 砂埃→引きづられている - 自分だったら→痛いだろうな - 馬にロープをくくりつけられている 25 物事を様々な角度から考え、多くの情報を理解する 引用：B. M. Lake, T. D. Ullman, J. B. Tenenbaum, S. J. Gershman, "Building machines that learn and think like people", Behavioral and Brain Sciences, 2016.
- 30. 3-1. 直観心理学 30
- 31. 31 幼児の直観心理学
- 33. 33 心の理論 (Theory of Mind) 人は、他者の行動に基づき、心を読むことができる
- 34. 34 信念・欲求に基づいた行動計画をモデル化 環境の状態 他者の状態 知覚 信念 欲求 計画 行動 他者の心 ダ イ ナ ミ ク ス 参考：Baker, Chris, Saxe, Rebecca, and Tenenbaum, Joshua. Bayesian theory of mind: Modeling joint belief-desire attribution. In Proceedings of the Cognitive Science Society, volume 33, 2011.
- 40. 40 人間の信念・欲求の推論能力を計算モデル化したい 環境の状態 他者の状態 知覚 信念 欲求 計画 行動 他者の心 ダ イ ナ ミ ク ス 参考：Baker, Chris, Saxe, Rebecca, and Tenenbaum, Joshua. Bayesian theory of mind: Modeling joint belief-desire attribution. In Proceedings of the Cognitive Science Society, volume 33, 2011.
- 41. 仮想シナリオの設計 41 A君は、大学のお昼にランチを買いに行った。大学には、韓国・レバノ ン・メキシコ料理のランチトラックが来るが、A君は二つある停車スペー スにその日にどの料理が並んでいるか知らない。 参考：Baker, Chris, Saxe, Rebecca, and Tenenbaum, Joshua. Bayesian theory of mind: Modeling joint belief-desire attribution. In Proceedings of the Cognitive Science Society, volume 33, 2011.
- 43. 43 信念 見えない方のスペースに Mのトラックがある 欲求 M > K > L 行動 一度見えないスペースを確 認してからKに戻った 仮想シナリオの設計
- 46. 結果 (1) ベイジアンモデルによる推測結果が、人間の推測結果と強く相関 46 人 間 が つ け た ス コ ア モデルがつけたスコア 人 間 の 予 測 確 率 モデルの予測確率 欲求の推測 信念の推測 参考：Baker, Chris, Saxe, Rebecca, and Tenenbaum, Joshua. Bayesian theory of mind: Modeling joint belief-desire attribution. In Proceedings of the Cognitive Science Society, volume 33, 2011.
- 47. 見えない場所に向かって長い距離を移動している →見えない場所に自分が求めているトラックがいると信じている 例 (1) 47 参考：Baker, Chris, Saxe, Rebecca, and Tenenbaum, Joshua. Bayesian theory of mind: Modeling joint belief-desire attribution. In Proceedings of the Cognitive Science Society, volume 33, 2011.
- 48. ほぼ真っ直ぐに一番近いトラックに向かっている →近くのトラックが他のトラックのものよりも魅力的である 例 (2) 48 参考：Baker, Chris, Saxe, Rebecca, and Tenenbaum, Joshua. Bayesian theory of mind: Modeling joint belief-desire attribution. In Proceedings of the Cognitive Science Society, volume 33, 2011.
- 49. (左)長い距離を進み、先にあるトラックを確認した後に最初のトラックに 戻る →出現しなかったもう一つの料理(M)を食べたいと強く思っている ※(右)では、(左)と比べ出現しなかったMに対するDesireが低くなっている 例 (3) 49 参考：Baker, Chris, Saxe, Rebecca, and Tenenbaum, Joshua. Bayesian theory of mind: Modeling joint belief-desire attribution. In Proceedings of the Cognitive Science Society, volume 33, 2011.
- 50. まとめ - ベイジアンモデルを用いることで、人間と同じ様な傾向で、信念と欲 求の推測を行うことができた - 扱ったモデルでは、中間ゴールを何も設定していないが、適切な中 間ゴールを設定できるように拡張をしていくことが重要 - 一方で、現状の単純なベイジアンモデルでも、人間のDesireやBelief の更新モデルをどこまで表現できるかを調べることも非常に有望な 方向性 50
- 55. 55 人間の知覚の推論能力をモデリングする 引用：Baker. Chris L, et al. Rational quantitative attribution of beliefs, desires and percepts in human mentalizing. Nature Human Behaviour, 1(4):0064, 2017. エージェントがトラックを目指してマス目を移動する行動から、三つあるト ラックが北・西・東のどこの場所に存在していたかを推測
- 56. 56 - トラックは、A、B、Cの三種類 - トラックは、北(N)、西(W)、東(E)のいずれかの場所に出店する - Cは常に開いているが、AとBは、お店が開いていない場合もある - エージェントは、A > B > C の順で好んでいる - エージェントは、最も好みのランチが見つかるまで探索をする N W E 仮想シナリオの設計
- 57. 57 N W E 1. Nを確認する 2. Wにを確認する 3. Nに移動をする エージェントの行動 仮想シナリオの設計
- 58. 58 N W E 1. Nを確認する 2. Wにを確認する 3. Nに移動をする 1. NはAではない or Aだけど開いていない エージェントの行動 仮想シナリオの設計
- 59. 59 N W E 1. Nを確認する 2. Wにを確認する 3. Nに移動をする 1. NはAではない or Aだけど開いていない 2. WはAではない or Aだけど開いていない エージェントの行動 仮想シナリオの設計
- 60. 60 N W E 1. Nを確認する 2. Wにを確認する 3. Nに移動をする 1. NはAではない or Aだけど開いていない 2. WはAではない or Aだけど開いていない 3. NはB エージェントの行動 仮想シナリオの設計
- 61. 61 N W E B A C 1. Nを確認する 2. Wにを確認する 3. Nに移動をする 1. NはAではない or Aだけど開いていない 2. WはAではない or Aだけど開いていない 3. NはB エージェントの行動 仮想シナリオの設計
- 62. 結果 62 ベイジアンモデルによる推測結果が、人間の推測結果と強く相関 人 間 の 予 測 確 率 モデルの予測確率 人 間 の 予 測 確 率 モデルの予測確率 人 間 の 予 測 確 率 モデルの予測確率 人 間 の 予 測 確 率 モデルの予測確率 引用：Baker. Chris L, et al. Rational quantitative attribution of beliefs, desires and percepts in human mentalizing. Nature Human Behaviour, 1(4):0064, 2017.
- 63. 例 (1) 63 人間が一つの選択肢を知覚した確率を高く予測している際に、 モデルも同様の選択肢を高く予測することができている 引用：Baker. Chris L, et al. Rational quantitative attribution of beliefs, desires and percepts in human mentalizing. Nature Human Behaviour, 1(4):0064, 2017.
- 64. 例 (2) 64 人間が複数の選択肢を同様に高く予測している際に、モデルも同様の 選択肢を高く予測することができている 引用：Baker. Chris L, et al. Rational quantitative attribution of beliefs, desires and percepts in human mentalizing. Nature Human Behaviour, 1(4):0064, 2017.
- 65. 例 (3) 65 人間が選択肢を絞りきれていない際に、モデルも同様の傾向を予測す ることができている 引用：Baker. Chris L, et al. Rational quantitative attribution of beliefs, desires and percepts in human mentalizing. Nature Human Behaviour, 1(4):0064, 2017.
- 66. 直観心理学まとめ - 人は、他者の行動に基づき、心を読むことができる - 行動から、他者の知覚・信念・欲求を推測する実験において、ベイジアン モデルによる推測結果は、人間の推測結果と強く相関した - 人間が確率モデルに基づいて他者の心の状態を理解している可能性が 示唆された 66
- 67. 67 3-2. 直観物理学
- 68. 赤ちゃんに物理学は必要ない 68
- 70. 幼児の直観物理学を確率モデルで明らかにする 70 - 1才未満の幼児を対象に、物理現象における推論能力をテスト するための実験を行った - 結果を、物理現象における確率モデルの予測結果と比較し、 幼児が物理的な推論を確率的に導いている可能性を検証した 引用：T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9.
- 71. 71 実験1 時間 x 距離 x 個数 現象を推論 時系列で変化するシーンにおける物理的推測能力を計測 引用：T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9.
- 72. 72 実験1 - 一方のオブジェクトは3つ、他方は1つ - 画面が隠されるタイミングは、3つのオブジェクトが近くにある、 1つのオブジェクトが近くにある場合の2パターン - 画面が隠されてからボールが出てくるまでの時間は0s、1s、2sの 3パターン - 幼児が画面を見つめる時間を計測
- 73. 73 結果(1) B: 距離のみを考慮 C: 距離とオブジェクト数の 両方を考慮 D: オブジェクト数のみを考慮 注 視 時 間 (s) 引用：T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9.
- 74. 74 結果(1) B: 距離のみを考慮 C: 距離とオブジェクト数の 両方を考慮 D: オブジェクト数のみを考慮 幼児は時間・距離・個数を考慮した推測を行なっている 注 視 時 間 (s)
- 75. 75 結果(2) モデルによって予測された、該当現象の発生しにくさと、幼児が 画面を見つめる時間は強く相関している 注 視 時 間 (s) 引用：T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9.
- 76. 76 結果(2) モデルによって予測された、該当現象の発生しにくさと、幼児が 画面を見つめる時間は強く相関している 注 視 時 間 (s) 幼児は物理的な事象が起こる確率と同様の傾向で推測をしている
- 77. 77 実験2 環境的な制約が入った事象に対する幼児の推論を計測 事象の発生確率が 制約に依存 起こる現象を推論 引用：T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9.
- 78. 78 結果 確率モデルにおける発生確率が低いものほど、幼児の驚きは大きい 幼児の驚き - 障害があり、外に出ることができないと思われる オブジェクトが出てきた - 箱の中に入ったボールが出口が少ないサイドから 出てきた 注 視 時 間 (s) 反 応 時 間 (s) 引用：T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9.
- 80. 80 実験3 動く棒を用いて、幼児の物体認識能力を計測 静止している棒 vs 動いている棒 起こる現象を推論 引用：T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9.
- 84. 84 実験4 二種類のスクリーンとオブジェクトを用いて、幼児の物体認識能力を計測 スクリーンと オブジェクトの関係 起こる現象を推論 引用：T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9.
- 88. - 人間の幼児が様々な物理的な直感に基づき、物理現象を推測してい ることが実験で示された - また、直観物理学を表現する認知モデルが、確率モデルで表現され ている可能性が示唆された - 人間がどのように汎用的な物理な直観を手に入れているのかは解明 されていない 88 直観物理学まとめ
- 89. 3-3. 構成性
- 93. 93 分解することで人間ができること 同じ物体の識別 新しい例の生成 新しい概念の生成 引用：B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015.
- 95. 新しい文字の学習 1,623個の手書き文字のイメージとペンストロークのデータセット 95引用：B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015.
- 98. - それぞれの文字を一つに例から学習(One-shot learning) - 新たに提示された例が、20個のサンプルのうち、どれに分類される かを人間・機械がそれぞれ選択する 検証内容(1)：文字の識別 98
- 99. 結果 - たった一つの例から学習したにも関わらず、 ベイジアンモデルは人間と同等のエラー率 - Deep Convolutional Networkより高精度 99 誤 分 類 率 (%) 引用：B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015.
- 100. 検証に使われたベイジアンモデル 文字はより原始的な構成要素と関係の組み合わせにより生成さ れていると仮定 100引用：B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015.
- 101. - 一つの例から各要素やその繋がりから提示された例が生成される 確率(Log-probability score)を計算 - 問題として提示された文字において、最も確率の高かった構成を出 力し、その結果との類似度が最も高い文字に分類する 101 検証に使われたベイジアンモデル 引用：B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015.
- 106. 結果 - ベイジアンモデルは、機械の識別率が無作 為とほぼ同値の50%となった - ベイジアンモデルが、人間と区別ができない 質の例を生成できたことが示された 106 正 しく 判 別 出 来 た 確 率 (%) 引用：B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015.
- 107. 検証されたベイジアンモデル 新しい例は、一つの例を元に学習された文字の構成において、パーツや 関係の一部を確率的に動かすことで生成された 107引用：B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015.
- 109. - 少数の例を見せて、人間とモデルそれぞれが、同じ文字群に属する 新しい文字を生成する - 両者を見比べ、別の人間がどちらが機械が生成したものかを当てる 検証内容(3)：新しい文字の生成 109
- 110. - 少数の例を見せて、人間とモデルそれぞれが、同じ文字群に属する 新しい文字を生成する - 両者を見比べ、別の人間がどちらが機械が生成したものかを当てる 検証内容(3)：新しい文字の生成 110
- 111. 結果 - ベイジアンモデルにおいて、機械の識別率 が無作為とほぼ同値の50%となった 111 正 しく 判 別 出 来 た 確 率 (%) 引用：B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015.
- 112. 構成性まとめ - 人間が新しい文字に関して、分割して理解をし、新しい文字の識 別や生成を行う過程をベイジアンモデルで表現することができた - このような確率モデル的なアプローチを取り入れていくことで、少 数の例に基づいた学習における人間と機械の差を縮めることが できるかもしれない - 人間が行う、よりリッチなコンセプト学習に関しても、人間の compositionalな学習を再現していくことが長期的なゴール 112
- 113. 4. まとめ
- 117. - 認知科学において、人間のリバースエンジニアリングを目指す 研究が進んでいる - 現状の研究では、シンプルな問題設定を通じて、人間の認知能力をモ デリングしている - 一つの有力なモデリング手法として確率モデルが用いられている - まだ複雑な人間の振る舞いをモデリングするには至っていない 117 人間のリバースエンジニアリングに向けた研究
- 118. - 未だ解き明かされていない人間に向き合い、モデル化をするというプロ セス、またAIに将来的に実装され、社会を大きく変えていくのではない かという認知科学の将来性は魅力的 - これから実用に向けた研究がさらに進んでいってほしい - AIの研究において、認知科学だけでなく、様々な分野を巻き込んだ研 究が進んでいくことが重要 118 個人的な想い
- 119. - B. M. Lake, T. D. Ullman, J. B. Tenenbaum, S. J. Gershman, "Building machines that learn and think like people", Behavioral and Brain Sciences, 2016. - Baker, Chris, Saxe, Rebecca, and Tenenbaum, Joshua. Bayesian theory of mind: Modeling joint belief-desire attribution. In Proceedings of the Cognitive Science Society, volume 33, 2011. - Baker, Chris L, Jara-Ettinger, Julian, Saxe, Rebecca, and Tenenbaum, Joshua B. Rational quantitative attribution of beliefs, desires and percepts in human mentalizing. Nature Human Behaviour, 1(4):0064, 2017. - T´egl´as, E., Vul, E., Girotto, V., Gonzalez, M., Tenenbaum, J. B., & Bonatti, L. L. (2011). Pure reasoning in 12-month-old infants as probabilistic inference. Science, 332 (6033), 1054–9. - B. M. Lake, R. Salakhutdinov, and J. B. Tenenbaum, “Human-level concept learning through probabilistic program induction,” Science, vol. 350, no. 6266, pp. 1332–1338, 2015. 119 参考文献