Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

第4回全脳アーキテクチャハッカソン説明会

524 views

Published on

第4回全脳アーキテクチャ・ハッカソン「AIにまなざしを」説明会資料
眼球運動タスクを基底核による強化学習で解く。
CFP: https://wba-initiative.org/3151/
タスクの動画: https://www.youtube.com/channel/UCT708fP0Tj38-PDV3t8wveA/videos

Published in: Science
  • Be the first to comment

第4回全脳アーキテクチャハッカソン説明会

  1. 1. 全脳アーキテクチャ ハッカソン説明会
  2. 2. Agenda • 背景と目的 • タスク • 評価基準 • サンプルの解説 • 参加される方の課題
  3. 3. 背景と目的
  4. 4. これまでのハッカソン 2015年 2016年 2017年 Key Concept Hackathon 全脳アーキテクチャ 中心仮説 オープン プラットフォーム 戦略 脳を学び始める 複合機械学習 ハッカソン LIS を利用した 認知アーキテクチャ ハッカソン 触覚ミニハッカソン 海馬ハッカソン
  5. 5. 脳器官フレームワーク (標準外部仕様) 今年の主要な活動 脳型 AGI の仕様として脳器官の結線、I/F、能力、タスクを整理中 Agent St. ML St. St. Environment タスク (テスト) 脳器官I/F (情報処理的な 意味付け) WBCA (コネクトーム) 脳器官 の能力 :スタブ :機械学習[WBA開発] :脳器官I/F St. ML
  6. 6. 今後の研究・開発シナリオ 追加開発 プロト開発 プロト開発 マージ開発 プロト開発 ML St. St. St. Environment St. ML St. St. Environment St. St. ML St. Environment ML ML St. St. Environment St. St. ML ML Environment 追加開発 改良開発 ML ML St. St. Environment St. ML ML ML Environment マージ開発 ML ML ML ML Environment MLへの置き換え: 帰納推論の範囲の拡大 脳型アーキテクチャ の汎用性①脳器官 フレームワーク (I/F・能力)設計 ②脳に制約された リファクタリング アーキ拡張 ML ML ML ML Environment ③メタレベルでの 表現操作の仕組み (理論) W B A の 完 成 :スタブ :機械学習[WBA開発] :脳器官I/F St. ML 全部 アーキ テクチャ 追加開発 プロト開発 プロト開発 マージ開発 プロト開発 ML St. St. St. Environment St. ML St. St. Environment St. St. ML St. Environment ML ML St. St. Environment St. St. ML ML Environment 追加開発 改良開発 ML ML St. St. Environment St. ML ML ML Environment マージ開発 ML ML ML ML Environment
  7. 7. 今年のハッカソンの目的と方針 ハッカソンではプロト開発を実施していただく Stub 中心の サンプル モジュール別 研究開発 仕様と 脳の知識 • まだ脳器官フレームワークは道半ば・・・ • サンプルでは結線、脳器官の能力、タスクの概要を提示 • 本日 8/19(日) の勉強会や脳科学入門などで情報を提示 • Deep Learning では特徴量がよくわからなくなる問題がある • Actuator 系から Neural Network 系の実装に置き換えていく • Sensor 系の特徴量はあとから Deep に置き換えていく想定 • 追加開発していくのに、複数のループが存在する大脳基底核がよさそう
  8. 8. タスク
  9. 9. 基本的な眼球運動 Saccade VOR Fixation OKN Vergence Pursuit 周辺視野に見える対象を中心視野にとらえる際におきる運動。 (周辺視野では視力が低下する) 意識的に選択した移動する物体などを中心視野でとらえ続けるときにおこる なめらかな眼球運動。 頭部が空間に対して動いた場合に、空間に対する眼球の向きを一定にたもつように、 頭部の動きと反対方向に生じる眼球運動。 視覚的外界の全体の動きにより誘発される眼球運動。 自動車や列車から景色を眺めているときに起こる。 上下左右遠近に移動する対象を両目でとらえるための眼球運動。 ちなみに近い物体では両目が寄り、遠い物体では両目が離れる。 静止した視覚像を網膜の同じ場所に写し続けると順応して見えなくなる。 それをさけるために固視微動という微細な眼球運動をしている。
  10. 10. 0 0.2 0.4 0.6 0.8 1 -80 -60 -40 -20 0 20 40 60 80 中心視野・周辺視野の視力 視野による視力制約のため、眼球運動が発生? 網膜の中心:中心窩 Fovea centralis ↓ Location on retina, degrees 網膜の位置(角度) 視力 Visualacuity (1/minutesofarc) Saccade の例 Pursuit の例 周辺視野で目立つ物体を検出 中心視野で物体を知覚 物体を中心視野へ移動 物体が中心視野から外れそうになる 視野の中心に収まるように追跡する
  11. 11. Saliency ざっくり言うと、目立つものに注意を引かれること 視覚探索における pop out と関係 Saliency Map 周囲と比べて 色で目立つ 周囲と比べて 方向で目立つ すべて 探索しないと よくわからない 色 輝度 方向 方位 入力動画 並行処理 ③サリエンシー・マップ 特徴マップの加算 ②特徴マップ 側抑制メカニズム ①特徴分析
  12. 12. Point To Target •画面が赤の十字カーソルを表示 •画面の中心は視野の中心を想定。 Step.1 •エージェントが十字カーソルを見ると次に遷移Step.2 •画面が大きなEと小さな E を表示Step.3 •エージェントが大きな E を見ると報酬を1点獲得 •小さな E をみると 2点獲得 Step.4
  13. 13. Random Dot • 画面が赤の十字カーソルを表示 • 画面の中心は視野の中心を想定。 Step.1 • エージェントが十字カーソルを見ると次に遷移Step.2 • 画面がランダムに点滅する点、動く点、8方向の矢印 を表示 Step.3 • エージェントがどれが動く点の方向か見つけるStep.4 • エージェントが判断した中心視野で見る • 正解なら1点、不正解なら0点の報酬を獲得 Step.5
  14. 14. Odd One Out • 画面が赤の十字カーソルを表示 • 画面の中心は視野の中心を想定。 Step.1 • エージェントが十字カーソルを見ると次に遷移Step.2 • 画面が「仲間はずれ」を含む、いくつかのオブジェ クトを表示 Step.3 • エージェントが「仲間はずれ」を見つけるStep.4 • エージェントが「仲間はずれ」を見るまで、画面は 表示し続ける Step.5
  15. 15. Visual Search • 画面が赤の十字カーソルを表示 • 画面の中心は視野の中心を想定。 Step.1 • エージェントが十字カーソルを見ると次に遷移Step.2 • 画面がいくつかのオブジェクトを表示Step.3 • エージェントが「マゼンダのT」を見つけるStep.4 •エージェントが「マゼンダのT」を見つけたら、右の黒いボックス、 見つからなかったら左の黒いボックスを見る •正解なら1点、不正解なら0点の報酬を獲得 Step.5
  16. 16. Change Detection •画面が赤の十字カーソルを表示 •画面の中心は視野の中心を想定。 Step.1 •エージェントが十字カーソルを見ると次に遷移Step.2 •画面がいくつかのオブジェクトを表示Step.3 •画面がオブジェクトを消去Step.4 • エージェントが再表示 • ときに違うものがあり、ときにまったく同じ Step.5 • エージェントは前と同じか変化ありか判断Step.6 • 正解なら1点、不正解なら0点の報酬を獲得Step.7
  17. 17. Multiple Object Tracking •画面が赤の十字カーソルを表示 •画面の中心は視野の中心を想定。 Step.1 • エージェントが十字カーソルを見ると次に遷移Step.2 • 画面がいくつかのオブジェクトを表示 • 一つは緑色 Step.3 • 画面が緑を黒に変更Step.4 • 画面がオブジェクトを動かすStep.5 • 画面がオブジェクトを停止 • 一つのオブジェクトを青に変更 Step.6 • エージェントが緑と青のオブジェクトが同じか判断Step.7 •同じなら右の黒いボックス、違うなら左の黒いボックスを見る •正解なら1点、不正解なら0点の報酬を獲得 Step.8
  18. 18. タスクのサマリ Multiple Object Tracking Change Detection Visual Search Odd One Out Random Dot Point to Target 眼球運動の種類 Saliency の 利用 Working Memoryの 利用 備考 Saccade Saccade Saccade Saccade Saccade Pursuit ◯ - ◯ - - ◯ - - - - ◯ ◯ 大きなルアーに 騙されがち - - - - 追いかける Object は 1, 2 個くらいで実施
  19. 19. 評価基準
  20. 20. GPS 基準 Functionally General Biologically Plausible Computationally Simple さまざまなタスクに対応出来る汎用性をもつこと 生物学的に妥当であること Big Switch 型 AI ではない、 計算論的にシンプルであること
  21. 21. Functionally General + Measures 詳細な評価の重み付けは検討中 多くの課題への対応 報酬レートの評価 実行速度&正確さ 学習の速度 基本的に多くのタスクを解けると高評価 報酬レート=タスクの成功率/意思決定に要する平均時間 Ex. 3分間タスクを繰り返し、正解率 0.8で意思決定まで10秒なら R=0.8/10sec 報酬レートと loss 関数が飽和するまでの時間で評価 1フレーム計算するのに1分時間がかかるのはNG、 モジュールごとにO(10msec)、全体でO(100msec)ぐらいが理想
  22. 22. Biologically Plausible Cortex, BG, SC の3種のモジュールで実装する制約※ Basal Ganglia Cortexで likelihood (ex. Accumulator model) を計算 Cortex – Basal Ganglia (BG) – Superior Colliculus (SC) で閾値を調節 ドーパミン作動性ニューロンの学習で、 Cortex からStriutum (BG の入口) への 強さを修正 SC で likelihood が 閾値を超えたらバースト (運動として出力) ※モジュールの追加、および、分割は可
  23. 23. Computationally Simple • 審査会の担当者がレビューします。評価用の GitHub レポジトリ を提示してください。 • 期限は 10月7日(日) 24:00 です。 • 提出が遅れる場合、評価が低くなる可能性があるのでご承知お きください。
  24. 24. その他、加点ポイント • プレゼン、コードなどで個別に判断 • オリジナリティ • 発展性
  25. 25. サンプルの解説
  26. 26. Docker と BriCA の提供 Docker BriCA 機械学習を始めるのに 環境でつまづくことが多い 問題意識 導入意図 ライブラリ • Tensorflow, Keras, Chainer など主要 な DL 系ライブラリをてんこ盛り • OpenCV の導入 • BriCA の利用 準備時間をモデルの検討や プロトの初期検証に 使って欲しい 全脳アーキテクチャ中心仮説 脳はよく学習された 機械学習モジュールが結合して 知能を発揮 問題意識 導入意図 機械学習モジュールを できるだけ非同期並列処理で 結合して検証して欲しい 脳は非同期並列処理で 動いているため、 それにならった実装 仕様
  27. 27. サンプルで登場する脳器官(と関連する)モジュール モジュール名 日本語名 脳における処理概要 Retina Visual Cortex LIP FEF PFC Cerebellum 網膜 視覚野 LIP野 前頭眼野 前頭前皮質 小脳 • 中心視野はよく見えて、周辺視野はぼやけて見える • 大まかにWhat 回路(物体)と Where 回路(動き)がある • 今回のサンプルモジュールは画像を素通りさせる • Where 回路上、頭頂葉の一部 • Saliency map を作成 • 電気刺激で眼球運動が誘発される (眼球の運動指令?) • プランニング、タスクスイッチング • ワーキングメモリ • (サルや人間では)第三者視点からの位置情報(allocentric)の生成 • 運動をスムーズにする • 大まかな運動の目標にたいして「エイや!」でざっくりした運動指令を出す BG 大脳基底核 • Actor-Critic の強化学習 SC 上丘 • BGとFEFから入力を受けて、運動指令の出力を調整
  28. 28. Saccade の場合の配線 Environment Retina Visual Cortex LIP FEF PFC SC BG Hippocampal Formation RetinalAccumulator E 位置依存のAccumulation NonRetinal Accumulator パネル上のAllocentric な位置情報 Image 周辺視の ぼかし処理 サンプルでは 素通り Saliency Map 作成 位置に依存しない Accumulation [[likelihood, ex, ey], [likelihood, ex, ey], … [likelihood, ex, ey]] Allocentric な位置情報 フェーズの切替管理等 パネル上の Allocentric な 位置情報, その他? Image Saliency Map ? ? ? [likelihood_threshold, likelihood_threshold, … likelihood_threshold] ? ? 各Accumulatorの Likelihood に対する 閾値調整 Action=[ex, ey] or None ?は参加者の設計・実装が必要 Retinal Image Reward
  29. 29. Pursuit の場合の配線 Environment Retina Visual Cortex LIP FEF PFC SC BG Hippocampal Formation RetinopicAccumulator E 位置依存のAccumulation NonRetinopic Accumulator パネル上のAllocentric な位置情報 Image 周辺視の ぼかし処理 サンプルでは 素通り Saliency Map 作成 位置に依存しない Accumulation [[likelihood, ex, ey], [likelihood, ex, ey], … [likelihood, ex, ey]] Allocentric な位置情報 フェーズの切替管理等 パネル上の Allocentric な 位置情報, その他? Retinal Image Saliency Map ? ? ? [likelihood_threshold, likelihood_threshold, … likelihood_threshold] ? ? 各Accumulatorの Likelihood に対する 閾値調整 Action=[ex, ey] or None Cerebellum Action=[ex, ey] ? Retinal Image ?は参加者の設計・実装が必要 SC の出力が None でなければ SC 出力を優先 Likelihood が threshold を超えたら Action を送信 Reward
  30. 30. テストツールの提供 Accumulator と画像特徴量を表示するツールを提供 • 強化学習の実験をするときに、特徴量がわか りにくい • 今回は Accumulator モデルを導入しており、 各 Accumulator の likelihood がわかりにくい 特徴量と可視化ツールが重要 上記をリアルタイムで表示
  31. 31. サンプルコード解説とデモ • 三好さんによるコード解説
  32. 32. 参加される方の課題
  33. 33. 正直なところ、このハッカソンは難易度が高い。。。 • 脳がわかっきて議論すると様々な仮説が出てきて、やりたいことが 発散しがち • 早々にハッカソンで検証すべき仮説を決め打ちすることが重要 • BriCA と現在の DeepLearning の接地 • Back Propagation を中心にした Deep Learning は同期処理で誤差を伝播する • そもそもステップの遅れが発生するため、そもそもどの程度学習に影響する かわかりにくく、学習時に問題の切り分けが難しくなる • 場合によっては、複数のモジュールを一つに束ねて同期処理するように置き 換えるなど、微妙な判断が求められるかもしれない • タスクに認知的な要素が含まれる • 脳的にはプランニング、タスクスイッチングなど、認知科学的な要素が含ま れる • 強化学習とどのように組み合わせるかが試される

×