Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

海馬と記憶モデル 松岡佑磨

12,006 views

Published on

全脳アーキテクチャ若手の会第10回勉強会<http://wbawakate.jp/posts/events/10th/>
昨今の脳神経科学の分野の発展により、少しずつですが脳の構造と機能が解明されつつあります。
これに伴い、脳の中でも特に海馬の知見を活かした人工知能の研究に注目が集まっています。
しかしながら、汎用型人工知能の実現に関して海馬の知見は必要なのでしょうか。

Published in: Engineering
  • Follow the link, new dating source: ♥♥♥ http://bit.ly/2F90ZZC ♥♥♥
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • Sex in your area is here: ❤❤❤ http://bit.ly/2F90ZZC ❤❤❤
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here

海馬と記憶モデル 松岡佑磨

  1. 1. 海馬と記憶モデルの展望 法政大学 応用情報工学科3年 松岡 佑磨 1
  2. 2. 自己紹介 松岡 佑磨(Matsuoka Yuma) 法政大学理工学部 知的情報処理研究室3年 趣味:旅行、ボイパ 東京→名古屋(徒歩) 広島→東京(自転車) 2
  3. 3. 世界5分前仮説って 知ってますか? 3
  4. 4. 世界5分前仮説 世界は実は5分前に始まったのかもしれない 4ウィキペディア https://ja.wikipedia.org/wiki/世界五分前仮説
  5. 5. 世界5分前仮説 哲学における懐疑主義的な思考実験の一つ 5ウィキペディア https://ja.wikipedia.org/wiki/世界五分前仮説
  6. 6. 世界5分前仮説 この仮説を確実に否定することは不可能 6ウィキペディア https://ja.wikipedia.org/wiki/世界五分前仮説
  7. 7. 世界5分前仮説 5分以上前の記憶があることは 何の反証にもならない 偽の記憶を植え付けられた状態で 5分前に世界が始まったかもしれない 7ウィキペディア https://ja.wikipedia.org/wiki/世界五分前仮説
  8. 8. 世界5分前仮説 昨日は何時に寝ましたか? 8
  9. 9. 世界5分前仮説 昨日寝たとは思いますが… 寝る前の自分と起きた時の自分は 同じ「自分」ですか? 9
  10. 10. 世界5分前仮説 昨日の自分と今日の自分は 同じだという確証はない 10
  11. 11. 世界5分前仮説 記憶が「私という存在」を保証する 11
  12. 12. いきなりですが 次のスライドの 文字列を 12 覚えてください
  13. 13. MTOKYM 13
  14. 14. 覚えられましたか? 次はちょっと難しいです。 14
  15. 15. ZNNAKTKCWKTNKI 15
  16. 16. 難しくないですか? ちなみに先ほどの6つの アルファベットは覚えていますか? 16
  17. 17. MTOKYM 17
  18. 18. 工夫をすれば覚えやすくなる MTOKYM 実は… まつおかゆうま と覚えることができます 18
  19. 19. ZNNAKTKCWKTNKI 19
  20. 20. 工夫をすれば覚えやすくなる ZNNAKTKCWKTNKI 全脳アーキテクチャ若手の会 20
  21. 21. この話をしたのは… マジックナンバー7: 7つ程度のものを20秒程度しか維持できない 21
  22. 22. 今朝何を食べましたか? 22
  23. 23. ちなみに自分は… ガイパットメットマムアンヒムマパーン を作りました 23
  24. 24. 自分の誕生日を思い出してください 24
  25. 25. この「誕生日」っていつ、どこで覚えましたか? 25
  26. 26. これらの記憶をおなじものとして 扱っていいのか • マジックナンバー7 • 今朝、何を食べたか • 自分の誕生日 26
  27. 27. 同じものではない 27
  28. 28. 記憶は分類されている 28
  29. 29. 記憶 手続的記憶 陳述的記憶 エピソード記憶 意味的記憶 記憶の性質による分類 • エピソード記憶は、朝ごはんと対応 • 意味的記憶は、誕生日と対応 覚えた時の情景などの情報は欠落している 29
  30. 30. 記憶の持続時間による分類 短期記憶 中期記憶 長期記憶 30 ~補足~ 短期記憶の前に感覚記憶が置かれる場合や 中期記憶と長期記憶を合わせて長期記憶として みなす分け方がある
  31. 31. 記憶の持続時間による分類 短期記憶:マジックナンバー7 中期記憶:朝ごはん 長期記憶:誕生日 31 ~補足~ 短期記憶の前に感覚記憶が置かれる場合や 中期記憶と長期記憶を合わせて長期記憶として みなす分け方がある
  32. 32. 記憶の種類によって 扱われている脳の部位が異なる 32
  33. 33. 記憶を保持する部位 • 短期記憶 → 新皮質(前頭前野) • 中期記憶 → 海馬 • 長期記憶 → 新皮質(情報ごとに領野が異なる) 33 といわれている
  34. 34. 機能局在や記憶の階層性などの 生理学の知見が どのように工学に応用されているのか 34
  35. 35. 脳の知見を工学へ 短期記憶はデータそのものとして 扱われることが多い 35
  36. 36. 脳の知見を工学へ 長期記憶は… 長期記憶は深層学習などによるモデル化が 活発に行われている WBAIウェブページより 脳において汎用性を担う 新皮質のモデルと見なしうる深層学習 の研究が成功 36 全脳アーキテクチャ・イニシアティブ http://wba-initiative.org/wba/
  37. 37. 脳の知見を工学へ 中期記憶は… • 深層学習はデータを直接モデルに送っている • つまり、深層学習において… 中期記憶は無視されている 37
  38. 38. 脳の知見を工学へ 38 中期記憶を形成する海馬も 工学モデルとして使われるべきか?
  39. 39. AGIに海馬は必要か? • AGI(汎用人工知能)とは – 様々な特定タスクを学習によって実行できるように なるような一般的な仕組み • 全脳アーキテクチャ(WBA)中心仮説 – 人工的に構成された機械学習器を組み合わせる ことで人間並みかそれ以上能力を持つ汎用の 知能機械を構築可能である 39 汎用人工知能 http://www.sig-agi.org/home 全脳アーキテクチャ勉強会 http://www.sig-agi.org/wba
  40. 40. 海馬 本日のテーマ 40The Day His World Stood Still: The Strange Story of "H.M" http://brainconnection.brainhq.com/2011/04/26/the-day-his-world-stood-still/
  41. 41. 今日話すこと • 海馬の生理学的な知見 • 主な海馬の機能 • 海馬の知見を取り入れた工学モデル • 海馬の工学モデルの今後の展望 41
  42. 42. 今日話すこと • 海馬の生理学的な知見 • 主な海馬の機能 • 海馬の知見を取り入れた工学モデル • 海馬の工学モデルの今後の展望 42
  43. 43. ネズミの脳と海馬 Allen Brain Atlas 43Allen Brain Atlas http://www.brain-map.org/
  44. 44. 海馬以外の部位を取り除く 44
  45. 45. 新皮質を取り除く 45
  46. 46. 嗅覚野を取り除く 46
  47. 47. 大脳基底核を取り除く 47
  48. 48. サブプレートを取り除く 48
  49. 49. 小脳を取り除く 49
  50. 50. 後脳を取り除く 50
  51. 51. 中脳を取り除く 51
  52. 52. 間脳を取り除く 52
  53. 53. 海馬体 53
  54. 54. 海馬体 海馬体 歯状回 海馬 CA1 CA2 CA3 海馬台 嗅内野 54 きゅうないやしじょうかい 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  55. 55. 海馬体 海馬体 歯状回 海馬 CA1 CA2 CA3 海馬台 嗅内野 55 ←海馬 普段私たちは ここを海馬と呼ぶ きゅうないやしじょうかい 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  56. 56. 海馬の構造 56 CA3 CA1 歯状回CA2 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  57. 57. 海馬の構造 57 CA3 CA1 歯状回CA2 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  58. 58. 他の脳部位と海馬 58
  59. 59. 他の脳部位と海馬 主な海馬へ投射する部位とその機能 • 偏桃体 • 内側中隔核 • 青斑核 • 縫線核 • 乳頭体 59海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  60. 60. 扁桃体(へんとうたい) 60 大脳基底核
  61. 61. 扁桃体(へんとうたい) 61
  62. 62. 扁桃体(へんとうたい) 62 扁桃体は物理的に近く、海馬に強い影響を与えている
  63. 63. 扁桃体(へんとうたい) 63 • 主に恐怖という情動に関与 • 海馬-扁桃体の関係性を解き明かすことで うつ病の治療を目指す 光で記憶を書き換える http://www.riken.jp/pr/press/2014/20140828_2/ 記憶痕跡回路の中に記憶が蓄えられる http://www.riken.jp/pr/press/2015/20150529_2/
  64. 64. 内側中隔核とマイネルト基底核 64 大脳基底核 ないそくちゅうかくかく きていかく
  65. 65. 内側中隔核とマイネルト基底核 65 ないそくちゅうかくかく きていかく 内側中隔核 マイネルト基底核
  66. 66. 内側中隔核とマイネルト基底核 • アルツハイマー型認知症の 記憶障害メカニズムに関係する – 内側中隔核を除去すると、動物は物体が「どこ」に あったかわからなくなった – マイネルト基底核を除去すると、その物体が「何」であった かわからなくなった 66 ないそくちゅうかくかく きていかく アルツハイマー型認知症の記憶障害メカニズムに関する新発見 http://www.hiroshima-u.ac.jp/top/koho_press/press/h2701-12/p_2ufywt.html
  67. 67. 内側中隔核とマイネルト基底核 • アルツハイマー型認知症の 記憶障害メカニズムに関係する – 内側中隔核を除去すると、動物は物体が「どこ」に あったかわからなくなった(空間再認記憶の障害) – マイネルト基底核を除去すると、その物体が「何」であった かわからなくなった(物体再認記憶の障害) 67 内側中隔核は海馬に投射している 記憶の想起に関与している アルツハイマー型認知症の記憶障害メカニズムに関する新発見 http://www.hiroshima-u.ac.jp/top/koho_press/press/h2701-12/p_2ufywt.html
  68. 68. 青斑核(せいはんかく) 68 後脳
  69. 69. 青斑核(せいはんかく) 69
  70. 70. 青斑核(せいはんかく) 70Tuning arousal with optogenetic modulationof locus coeruleus neurons 青斑核は覚醒状態に関与
  71. 71. 青斑核(せいはんかく) 71Tuning arousal with optogenetic modulationof locus coeruleus neurons 青斑核内の神経細胞を強制的に活性化 ネズミは寝だす 活性化を止める 少し時間がたって目覚める 青斑核は覚醒状態に関与 これらのことから…
  72. 72. 縫線核(ほうせんかく) 72 中脳
  73. 73. 縫線核(ほうせんかく) 73
  74. 74. 縫線核(ほうせんかく) • セロトニン細胞を多く含み、 セロトニンを分泌する 74 セロトニン(神経伝達物質) 睡眠、食欲、うつ状態、不安、闘争行動、 さまざまな行動を制御する 危険に対して冷静かつ適切に対処できるようになるための神経回路を発見 http://www.riken.jp/pr/press/2014/20141121_2/
  75. 75. 縫線核(ほうせんかく) • ゼブラフィッシュから哺乳類まで(ネズミを含む) 腹側手綱核-縫線核神経回路を持つ 75 腹側 手綱核 縫線核 海馬,他の 脳部位 危険予測値 セロトニン 危険を回避する行動学習に必要 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm 危険に対して冷静かつ適切に対処できるようになるための神経回路を発見 http://www.riken.jp/pr/press/2014/20141121_2/
  76. 76. 乳頭体(にゅうとうたい) 76 間脳
  77. 77. 乳頭体(にゅうとうたい) 77
  78. 78. 変位によりコルサコフ症候群を生ずる コルサコフ症候群 長期記憶の前方性健忘と逆行性健忘が 同時に発生 乳頭体(にゅうとうたい) 78 健忘症候群 https://bsd.neuroinf.jp/wiki/健忘症候群 家兎食餌性てこ押し行動に対する乳頭体破壊の影響 乳頭体.臨床科学, 23, 209-214, 1987 前方性健忘-長期記憶を形成できない 逆行性健忘-記憶を思い出しづらくなる
  79. 79. 乳頭体(にゅうとうたい)の変位 79 https://bsd.neuroinf.jp/wiki/健忘症候群 家兎食餌性てこ押し行動に対する乳頭体破壊の影響 乳頭体.臨床科学, 23, 209-214, 1987 記憶の保存、形成に影響を与える コルサコフ症候群 長期記憶の前方性健忘と逆行性健忘が 同時に発生
  80. 80. 海馬外から海馬への投射 80 歯状回 内側中隔核、青斑核、縫線核 CA3 内側中隔核、青斑核、縫線核 CA2 乳頭体 CA1 中隔核、扁桃体 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  81. 81. 海馬外から海馬への投射 81 CA3 CA1 歯状回CA2 内側中隔核, 青斑核, 縫線核内側中隔核, 青斑核, 縫線核 乳頭体 中隔核, 扁桃体 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  82. 82. 連合野と海馬の情報処理 神経回路図を用いて情報の処理を確認 82
  83. 83. 広義の海馬 83
  84. 84. 連合野-嗅内野-海馬 84 連合野 海馬 情報 嗅内野
  85. 85. 連合野-嗅内野-海馬 85 連合野 海馬嗅内野 情報 海馬体
  86. 86. 海馬の活動に関係する回路図 86佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ デル." 人工知能学会全国大会論文集29. CA2はよくわかっていないため 省いて考えられる事が多い
  87. 87. トリシナプティック回路 87 嗅内野⇔海馬の閉回路で 情報を伝達する
  88. 88. トリシナプティック回路 88 嗅内野⇔海馬の閉回路で 情報を伝達する
  89. 89. トリシナプティック回路 89 苔状線維 シャッファー側枝 貫通線維 たいじょうせんい かんつうせんい そくし
  90. 90. 貫通線維 90 嗅内野Ⅱ層から歯状回 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  91. 91. 歯状回の新生ニューロン 91 海馬では成体でも常に新 たな神経細胞が 誕生している 成体脳におけるニューロン新生の生理的意義の解明 http://www.kyoto-u.ac.jp/static/ja/news_data/h/h1/news6/2008/080901_2.htm
  92. 92. 苔状線維 92 歯状回からCA3
  93. 93. 苔状線維 93 歯状回→CA3 苔状繊維の基礎知識 http://gaya.jp/research/mossy.htm 歯状回CA3
  94. 94. CA3の再帰回路 94 CA3内部に 再帰的な経路が存在 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  95. 95. シャッファー側枝 95 CA3からCA1 局所的な結合をもつ 多様な投射パターン
  96. 96. シャッファー側枝:CA3→CA1への投射 96 1つのCA3錐体細胞は3000~60000のCA1錐体細胞に投射 1つのCA1錐体細胞は5000のCA3錐体細胞から投射 苔状繊維の基礎知識 http://gaya.jp/research/mossy.htm CA3 CA1
  97. 97. 規則的な投射パターンを持つ シャッファー側枝 97 CA3錐体細胞 投射先 CA3(歯状回に遠い部分) CA1(CA2との境界付近) CA3(歯状回に近い部分) CA1(海馬台に近い部分) CA1 CA3CA3 CA1 投射に規則性がある 苔状繊維の基礎知識 http://gaya.jp/research/mossy.htm
  98. 98. CA1→(海馬台)→嗅内野 98 CA1から嗅内野または 他の脳部位
  99. 99. CA1→(海馬台)→嗅内野 99 CA1から海馬台への投射に規則性がある CA1 CA1 海馬台遠位 海馬台近位 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm 大脳辺縁系 http://shutoku.fc2web.com/special_subjects/3rd_grade/D7/D7/limbic_system.html
  100. 100. 海馬台の投射 100 前海馬台海馬台 外側中隔核 嗅内野 投射する海馬台の神経細胞の大きさ CA1 小 大 側坐核視床前核 内側乳頭体 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  101. 101. 嗅内野と海馬の経路 101 • 嗅内野は6層構造 • 層によって役割が違う 嗅内野Ⅱ&Ⅲ ↓ 海馬 ↓ 嗅内野深層Ⅳ&Ⅴ ↓ 嗅内野Ⅱ&Ⅲ 海馬の基礎知識 http://gaya.jp/research/hippocampus.htm
  102. 102. 新皮質-嗅内野-海馬 102 山川宏(2015): "物語としての海馬体計算モデルの提案: 全 脳アーキテクチャを構築するために." 人工知能学会全国大 会論文集29. 図1を一部改変
  103. 103. 新皮質-嗅内野-海馬 103 山川宏(2015): "物語としての海馬体計算モデルの提案: 全 脳アーキテクチャを構築するために." 人工知能学会全国大 会論文集29. 図1を一部改変
  104. 104. 工学的に使えそうな海馬の 生理学的な知見 • 海馬以外の脳部位も記憶の形成に関与 • トリシナプティック回路 • 歯状回の新生ニューロン • CA3の再帰構造 • CA3-CA1-海馬台の投射の規則性 104
  105. 105. 今日話すこと • 海馬の生理学的な知見 • 主な海馬の機能 • 海馬の知見を取り入れた工学モデル • 海馬の工学モデルの今後の展望 105
  106. 106. 海馬の機能 • 空間認知 • 中期記憶 • エピソード記憶 106
  107. 107. 海馬の機能 • 空間認知 • 中期記憶 • エピソード記憶 107
  108. 108. 空間認知 動物の空間認知を支える細胞 • 場所細胞 • グリッド細胞 • ヘッドディレクション細胞 108
  109. 109. 場所細胞 空間中の特定の場所に発火する 109佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ デル." 人工知能学会全国大会論文集29. 受容野 ネズミ
  110. 110. グリッド細胞 環境における位置に応じて活動 普遍的な距離の指標といわれる 110 受容野 ネズミ 佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ デル." 人工知能学会全国大会論文集29.
  111. 111. 実際に私達が紹介した 場所選択制細胞になります • 場所細胞(芦原) • グリッド細胞(松岡) 111 受容野 ネズミ
  112. 112. グリッド細胞と場所細胞の関係 • 場所細胞活動が複数のグリッド細胞によって 支配的に決定されている仮説がある 112 From Grid Cells to Place Cell http://www.dei.brain.riken.jp/?page_id=392
  113. 113. ヘッドディレクション細胞 動物の頭の向きに反応して発火する 113 ネズミ 佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ デル." 人工知能学会全国大会論文集29.
  114. 114. シータ位相歳差 • 場所細胞は活動の初めはシータ波の遅れ 位相が生じるが移動が進むにつれて、徐々 に進み位相に活動が生じるようになる • シータ波(4~12Hz)の位相と場所細胞の 発火タイミングの関連性から自己位置推定 をしていると考えられている 114 Place Cell & Theta Rhythms http://www.dei.brain.riken.jp/?page_id=396 佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ デル." 人工知能学会全国大会論文集29.
  115. 115. 経路積分仮説 • 出発位置から、方向と移動速度を積分するこ とで現在位置を推定しながら目標とする位置 にたどり着く • 予測誤差はランドマークによって補正 115
  116. 116. 空間認知機能のまとめ • 特定の場所や頭の向きに特定的に反応する 神経細胞が存在 • 空間認知に関する複数の細胞の組み合わせ で自己位置推定を行うことができる 116
  117. 117. 海馬の機能 • 空間認知 • 中期記憶 • エピソード記憶 117
  118. 118. 階層的な記憶構造 名称 時間範囲 細胞でのメカニズム 場所 短期記憶 数ミリ秒~60秒 細胞の電気活動、 伝達物質の蓄積 新皮質 中期記憶 数秒~数週間 海馬LTP 海馬 長期記憶 数十分~一生 シナプスの形態変化、 タンパク合成 新皮質 118 学習時定数の違いによっておきる海馬と 新皮質の記憶における機能分離のモデル_表1 海馬LTP(長期可塑性)
  119. 119. 中期記憶 • 高速な学習機能 – LTP(高頻度刺激によってシナプス強度が変化する現象) • 新皮質に記憶を転送する機能をもつ 119
  120. 120. LTP(長期増強) • 高頻度刺激によってシナプス結合強度が 数秒で変化する現象 • 一度LTPが形成されるとその効果は 数週間は続くと言われている • LTPを誘導する方法 – 高頻度の刺激 – シータバースト刺激 – 誘導しやすい発火タイミングの刺激 120 学習時定数の違いによっておきる海馬と 新皮質の記憶における機能分離のモデル
  121. 121. 中期記憶の意義とは • 時間の間を埋めるため • 海馬のLTPのような機能を脳全体で行うと 記憶の破壊が起きてしまう • 記憶の選別 121
  122. 122. 海馬の機能 • 空間認知 • 中期記憶 • エピソード記憶 122
  123. 123. エピソード記憶 時間と場所その時の感情変化などを伴う記憶 123
  124. 124. エピソード記憶 全裸で 病院 峠で 職質 2階から チャリ投げ お風呂で パスタ 124
  125. 125. エピソード記憶の意義 • プランニングに寄与 – 例えば腕時計を無くした時、自分の行動 を思い出して忘れ物を探すことができた • 円滑なコミュニケーションを行うことができる 125
  126. 126. 海馬の機能 • 空間認知(自己位置推定) • 中期記憶(長期記憶破壊の防止) • エピソード記憶(プランニングに寄与) 126
  127. 127. 工学に海馬の機能が役に立つ • 海馬の空間認知は ロボットの自律制御に役に立っている – SLAM 127
  128. 128. 海馬はAGIにとっても有用か? 128
  129. 129. 空間認知機能 あらゆる環境で動作するために環境ごとに 地図を作って自己位置推定 129
  130. 130. 中期記憶 高速に一時的な学習をして知識を利用 130
  131. 131. エピソード記憶 マルチモーダルな時系列情報を使って プランニング 131
  132. 132. 海馬はAGIにとっても有用である 132
  133. 133. 今日話すこと • 海馬の生理学的な知見 • 主な海馬の機能 • 海馬の知見を取り入れた工学モデル • 海馬の工学モデルの今後の展望 133
  134. 134. 海馬の知見を取り入れた記憶モデル 134 [大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分 離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890. [大澤+ 2015]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.” 第25回日本神経回路学会 全国大会: 2015. • 大森モデル[大森+ 94] • 大澤モデル[大澤+ 15]
  135. 135. 海馬の知見を取り入れた記憶モデル 135 [大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分 離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890. [大澤+ 2015]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.” 第25回日本神経回路学会 全国大会: 2015. • 大森モデル[大森+ 94] • 大澤モデル[大澤+ 15]
  136. 136. 大森モデル[大森+94] 海馬-皮質の関係を中心とした エピソード記憶モデル 136 [大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分 離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890.
  137. 137. 大森モデルとエピソード記憶 エピソード記憶の定義 一度経験したことを即座に記憶すること 137
  138. 138. 大森モデルの特徴 • 新皮質-統合野-海馬の3層構造 • 細胞群の閉回路による高頻度の発火が 長期記憶の形成に必要 • 海馬は複数の感覚情報間の連合を形成 • エピソードを符号化する統合野を形成 • 外部からの制御入力により、 入力パターンの探索機能を持つ • 3つの学習時定数を用意 138
  139. 139. 大森モデル 139 知覚情報 知覚情報 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層
  140. 140. 知覚情報 知覚情報 新皮質-統合野-海馬の3層構造 140 新皮質 海馬 統合層 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層
  141. 141. 知覚情報 知覚情報 新皮質-統合野-海馬の3層構造 141 新皮質 海馬 統合層 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 知覚情報
  142. 142. 閉回路における発火 • 2重の閉回路が存在 • 閉回路で刺激を表現 142 新皮質 海馬 統合層
  143. 143. 海馬は感覚情報間の連合を形成 同時に発生した複数の感覚情報を連合 144 閉回路 閉回路 閉回路 刺激 刺激 刺激
  144. 144. エピソードを符号化する統合野 145 新皮質 海馬 統合層 知覚情報 興奮パターン 閉回路 対応する閉回路 興奮パターン (エピソード) ↓ 閉回路として 符号化
  145. 145. 入力パターンの探索機能 146 新皮質 統合層閉回路を形成 外部制御信号 類似した興奮パターン 異なる閉回路を形成 新たな興奮パターン 別々の事象は異なるパターンとして符号化
  146. 146. 3つの学習時定数 記憶の形成に必要とする時間スケール 147 学習時定数 時間 記憶の形成 Ta 1秒 短期記憶 Tb 数秒 中期記憶 Tc 数十分 長期記憶
  147. 147. 学習時定数と学習定数の対応 148 記憶 学習時定数 学習定数 脳部位 短期記憶 Ta(1秒) なし 新皮質 中期記憶 Tb(数秒) 大 海馬 長期記憶 Tc(数十分) 小 新皮質
  148. 148. 知覚情報 知覚情報 大森モデル 149 新皮質 低い学習定数 海馬 高い学習定数 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層
  149. 149. 知覚情報 知覚情報 知覚情報の取得 150 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 新皮質 低い学習定数
  150. 150. 知覚情報 知覚情報 短期記憶の形成 151 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 部分特徴層に短期記憶(興奮パターン)が形成 新皮質 低い学習定数
  151. 151. 知覚情報 知覚情報 短期記憶の形成 152 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 外部制御信号がなければ学習時定数 Ta(数秒)で消滅 このとき新皮質の学習はほとんど起きない 新皮質 低い学習定数
  152. 152. 知覚情報 知覚情報 統合層の閉回路の形成 153 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 新皮質 低い学習定数 外部制御信号が働くと、統合層に閉回路を形成 外部制御信号
  153. 153. 知覚情報 知覚情報 中期記憶の形成 154 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 新皮質 低い学習定数 外部制御信号が海馬に働くと学習時定数 Tb(数秒)で 閉回路が学習され、海馬に中期記憶(閉回路)が形成 海馬 高い学習定数 外部制御信号
  154. 154. 知覚情報 知覚情報 複数の海馬の閉回路の発火 155 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 新皮質 低い学習定数 海馬の閉回路の連合が形成 海馬 高い学習定数 外部制御信号
  155. 155. 知覚情報 知覚情報 海馬による新皮質発火の補助 156 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 新皮質 低い学習定数 海馬 高い学習定数 新皮質の学習が 終わるまで 中期記憶をもつ海馬 が新皮質の発火を 促す 外部制御信号
  156. 156. 知覚情報 知覚情報 長期記憶の形成 157 統合層 海馬 入力部 部分特徴層 入力部 部分特徴層 新皮質 低い学習定数 海馬 高い学習定数 学習時定数 Tc(数十分)で新皮質内の シナプス結合が形成 長期記憶の学習が完了する
  157. 157. 海馬機能の損失 • 動物 – 前方性健忘 • 大森モデル – 部分特徴層による遅い記憶形成 158 大森モデルの海馬機能が生理学的知見と対応
  158. 158. 大森モデルとエピソード記憶 159 モデルの記憶形成過程が記憶障害の臨床例や 生理実験データと整合性をもつ 大森モデルはエピソード記憶を再現できた
  159. 159. 大森モデルと海馬の知見の整合性 • 海馬において複数の感覚情報を連合 • 海馬モジュールの停止と前方性健忘症 • 3種類の記憶の階層性 • インデックス機能 160
  160. 160. 大森モデル まとめ • 時間スケールの異なる3つの学習時定数 によって記憶の階層性を再現 • 海馬が記憶のINDEX機能をもつ • 新皮質-統合層-海馬の情報の閉回路に対応 • エピソード記憶の形成過程を再現 161
  161. 161. 海馬の知見を取り入れた記憶モデル • 大森モデル[大森+ 94] • 大澤モデル[大澤+ 15] 162 [大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分 離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890. [大澤+ 15]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.”第25回日本神経回路学会全 国大会: 2015.
  162. 162. 大澤モデル 深層学習の計算論を 取り入れた記憶の工学モデルの提案 163 [大澤+ 15]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.”第25回日本神経回路学会全 国大会: 2015.
  163. 163. 大澤モデル 従来の深層学習は中期記憶を 考慮していないことに注目 164 記憶 脳 深層学習 (既存) 短期記憶 ワーキングメモリ データ 中期記憶 海馬 × 長期記憶 新皮質 深層学習 中間的な記憶器を導入した 深層学習器
  164. 164. 大澤モデル 2つのモジュールで記憶の階層性を表現 海馬モジュール – 海馬の機能を参考にした機械学習モデル[大澤 +15b] – 新皮質モジュールへの記憶転送法[大澤+15d] を新たに提案 新皮質モジュール – 従来の深層学習モデル 165 [大澤+15b]大澤正彦, 萩原将文(2015): "海馬-大脳新皮質系に着目した深層学習による記憶モデルの提案." 人工知能学会全国大 会論文集29. [大澤+15d]大澤正彦, 萩原将文(2015): “中間期奥から長期記憶への転送モデル." 第25 回神経回路学会全国大会.
  165. 165. 166 RBM ESN SdA IL-RBM IL-ESN-RBM 半RBM 大澤モデル 大澤モデル
  166. 166. 167 RBM ESN SdA IL-RBM IL-ESN-RBM 半RBM 大澤モデル 大澤モデル
  167. 167. RBM, Deep Learningと学習 東京工業大学 3年 八木 拓真 yagi.t.ad@m.titech.ac.jp @t_Signull 全脳アーキテクチャ 若手の会 第3回ディープラーニング勉強会
  168. 168. RBMとは? • ボルツマンマシン(BM)の結合に制約を持た せた確率的無向グラフィカルモデルの一種 可視層(Visual Layer) 隠れ層(Hidden Layer) 可視素子 𝑣𝑖 (Visual Unit) 結合重み 𝑤𝑖𝑗 (Weight) 隠れ素子ℎ𝑗 (Hidden Unit)
  169. 169. 170 RBM ESN SdA IL-RBM IL-ESN-RBM 半RBM 大澤モデル 大澤モデル
  170. 170. IL-RBM[大澤+15a, e] • IL-RBM(Incremental Learning RBM) – 隠れ層素子を追加しながら学習するRBM – 既学習情報を失わずに追加学習を 行うことができる – 学習が速い 171 [大澤+15a]大澤正彦, 萩原将文(2015): "RBM における未学習データ検出法の提案と追加学習への応用." 信学会信 学技報ニューロコンピューティング研究会 [Osawa + 15e] M. Osawa, et al.,(2015) “Analysis of Learning Characteristics of RBMs and an Automatic Method for Deciding the Number of Hidden Units,” ISIS
  171. 171. 172 RBM ESN SdA IL-RBM IL-ESN-RBM 半RBM 大澤モデル 大澤モデル
  172. 172. 173 第5回DL勉強会より
  173. 173. 174 第5回DL勉強会より
  174. 174. 175 第5回DL勉強会より
  175. 175. 176 第5回DL勉強会より
  176. 176. 第5回DL勉強会より
  177. 177. 178 RBM ESN SdA IL-RBM IL-ESN-RBM 半RBM 大澤モデル 大澤モデル
  178. 178. 半RBM[大澤+15c] • 時系列データを扱えるRBM 179 [大澤+15c]山岸優, 大澤正彦, 萩原将文(2015): "RBM を用いたEcho State Network の荷重決定法." 第25 回神経 回路学会全国大会.
  179. 179. 180 RBM ESN SdA IL-RBM IL-ESN-RBM 半RBM 大澤モデル 大澤モデル
  180. 180. IL-ESN-RBM[大澤+15b] • IL-ESN-RBM – IL-RBMと半RBMの組み合わせ – 高速な学習を行える – 時系列データの記憶・想起が可能 181 [大澤+15b]大澤正彦, 萩原将文(2015): "海馬-大脳新皮質系に着目した深層学習による記憶モデルの提案." 人工知能学会全国大 会論文集29.
  181. 181. IL-ESN-RBMの検証実験 • シーケンスの想起 (実例) 182学習エピソード 想起エピソード
  182. 182. 183 RBM ESN SdA IL-RBM IL-ESN-RBM 半RBM 大澤モデル 大澤モデル
  183. 183. 184
  184. 184. 185
  185. 185. 186 RBM ESN SdA IL-RBM IL-ESN-RBM 半RBM 大澤モデル 大澤モデル
  186. 186. 大澤モデル[大澤+15d] 187 海馬モジュール 新皮質モジュール [大澤+15d]大澤正彦, 萩原将文(2015): “中間期奥から長期記憶への転送モデル." 第25 回神経回路学会全国大会.
  187. 187. 大澤モデルの動作 • データが入力されているとき – 海馬モジュールによるデータの学習 • データが入力されていないとき – 新皮質モジュールにデータを転送 188
  188. 188. 大澤モデルと海馬の知見の共通点 189 嗅内野 海馬から情報を受け取る 海馬に情報を送る
  189. 189. 大澤モデルと海馬の知見の共通点 190 歯状回 新生ニューロン 嗅内野から情報を受 け取る 嗅内野 海馬から情報を受け取る 海馬に情報を送る
  190. 190. 大澤モデルと海馬の知見の共通点 191 歯状回 新生ニューロン 嗅内野から情報を受 け取る CA3 自己ループ構造 歯状回から情報を受け取る 嗅内野 海馬から情報を受け取る 海馬に情報を送る
  191. 191. 大澤モデルと海馬の知見の共通点 192 歯状回 新生ニューロン 嗅内野から情報を受 け取る CA3 自己ループ構造 歯状回から情報を受け取る CA1 CA3から情報を 受け取る 嗅内野に情報を 送る 嗅内野 海馬から情報を受け取る 海馬に情報を送る
  192. 192. 大澤モデルと海馬の知見の共通点 193 海馬モジュールと 新皮質モジュールで 閉回路を形成 海馬モジュール 新皮質モジュール
  193. 193. 大澤モデルと海馬の知見の共通点 194 海馬の知見 大澤モデル 歯状回新生ニューロン IL-RBMの隠れ層を追加 CA3自己ループ 半RBM(ESN)の自己ループ トリシナプティック回路 IL-ESN-RBMとSdAの閉回路
  194. 194. 活用されていない海馬の知見 • 海馬内の海馬台に対応するモジュール • 偏桃体などの他の脳部位からの入力 • 抑制性細胞の存在 195
  195. 195. 大澤モデルのまとめ • モデルは海馬の知見と共通点をもつ • 記憶の階層性を考慮した深層学習モデル • トリシナプティック回路を再現 196
  196. 196. 今日話すこと • 海馬の生理学的な知見 • 主な海馬の機能 • 海馬の知見を取り入れた工学モデル • 海馬の工学モデルの今後の展望 197
  197. 197. 海馬の工学モデルの今後の展望 工学モデルに対して 新たにどんな海馬の知見を 生かすことができそうか? 198
  198. 198. 海馬の知見を取り入れた記憶モデル • 大森モデル • 大澤モデル 199 海馬の知見がどれくらい活用されていたか? [大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分 離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890. [大澤+ 2015]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.” 第25回日本神経回路学会 全国大会: 2015.
  199. 199. 大森モデル 大澤モデル モデルの構成 新皮質-統合野-海馬 嗅内野-歯状回-CA3-CA1 エピソード記憶 一度経験したことを即座に 記憶すること 時系列の連想記憶 記憶の階層性 ○ ○ トリシナプティック回路 ○ ○ 記憶の時定数 ○ × 海馬機能損傷との整合性 ○ × 歯状回の新生ニューロン × ○ CA3の再帰回路 × ○ 抑制性細胞 × × 他の脳部位からの投射 × × 空間認知 × × 利用されている海馬の知見 200
  200. 200. 工学的に使えそうな海馬の知見 • 他の脳部位との関連性 – 扁桃体などの記憶の形成に関与すると考えられ ている脳部位からの影響を考慮していない 201 脳部位 内側中隔核 空間再認記憶の障害 乳頭体 前方性健忘と逆行性健忘を同時に発生 扁桃体 記憶の形成に恐怖が関与しない
  201. 201. 工学的に使えそうな海馬の知見 • 他の脳部位との関連性 – 扁桃体などの記憶の形成に関与すると考えられ ている脳部位からの影響を考慮していない 202 脳部位 内側中隔核 空間再認記憶の障害 乳頭体 前方性健忘と逆行性健忘を同時に発生 扁桃体 記憶の形成に恐怖が関与しない 扁桃体は、脳に入る情報に 恐怖という付加価値をつけている!
  202. 202. 大澤モデルに一言 203 海馬 モジュール 新皮質 モジュール 海馬モジュールにおいて、 • 時系列データを扱える • 追加学習が可能 • 簡単な行動学習が可能
  203. 203. 大澤モデルに一言 204 海馬 モジュール 新皮質 モジュール データの重要性を考慮していない!!!
  204. 204. データの価値判断モジュール 205 海馬 モジュール 新皮質 モジュール 海馬モジュールに扁桃体のような機能を追加 扁桃体のような情報に 付加価値をつける機能
  205. 205. 海馬の工学モデルの今後の展望 工学モデルに対して 新たにどんな海馬の知見を 生かすことができそうか? みなさんの意見をお願いします 206
  206. 206. おわりです 質疑応答に移ります 207

×