Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
神経科学をカジュアルにトーク
吉田雄紀
1
はじめに
• 神経科学をちょっとだけ布教しにきました
– よければ興味をもってもらえるとうれしいです
2
自己紹介
• 吉田雄紀
twitter: @yos1up
• 東大大学院 新領域創成科
学研究科
• 機械学習・計算論的神経科
学に興味があります
• 昨年度まで医師として病院
に勤めていましたが、脳機
能を数理的に理解したく、
心機一転こちら...
4
『マリオメーカーで31×31=961まで掛け算できる「ほぼ全自動」乗算回路』
http://www.nicovideo.jp/watch/sm27849028
自己紹介
機械学習と神経科学の関係
機械学習
Machine Learning
神経科学
Neuroscience
SOM
パーセプトロン
CNN
RBM
RNN
選択的注意
脳の機能を理解する
ための枠組みを与える
知性を実現するための
ヒントを与える...
知性を実現するための
ヒントを与える
• パーセプトロン
– 神経細胞の仕組みからアイデアを得た
• CNN(畳み込みニューラルネットワーク)
– 視覚野の神経細胞の応答特性からアイデアを得た
• PredNet
– 予測符号化仮説(predi...
神経科学のミクロ~マクロ
いろいろな神経科学
分子神経科学 認知神経科学
行動生理学
精神医学
システム神経科学
神経解剖学
細胞神経科学
(他にも色々)
ミクロ マクロ
7
神経科学の知見は膨大
これくらいしか話せません 8
脳
http://www.ft-patho.net/index.php?brain
http://www.wako-chem.co.jp/siyaku/product/life/Silver_Protein/
9
神経細胞
Cajal, Estructura de los centros nerviosos de las aves (1905)
https://ja.wikipedia.org/wiki/神経科学 10
神経細胞
入力:
樹状突起へのイ
オンの流入
出力:
膜電位(細胞の内外の
電位差)が閾値を
超えると生じる
「発火」(スパイク)
http://kazoo04.hatenablog.com/entry/agi-ac-3
11
シナプス
①スパイクがやっ
てくると,神経伝
達物質が放出され
る
②神経伝達物質が
「受容体」にくっ
つくと
「イオンチャネ
ル」が開いてイオ
ンが流入
①
②
https://www.willamette.edu/~gorr/classes...
発火率
x1(t)
y(t)
x2(t)
13
発火率
x1
x2
y = f(w1x1+w2x2)
「活性化関数」f
14
パーセプトロン (Rosenblatt(1957))
当時は「学習」は出力層だけだったが、
やがて確率的勾配法(誤差逆伝播法)によ
る全層の学習へ 15
神経細胞の学習
ヘブの仮説 (Hebb (1952))
『細胞Aの軸索が細胞Bを発火させる
のに十分近くにあり、繰り返しある
いは絶え間なくその発火に参加する
とき、いくつかの成長過程あるいは
代謝変化が一方あるいは両方の細胞
に起こり、細胞B...
いろいろな学習則
STDP(スパイクタイミング
依存可塑性)
A | | | | | t
B | | | |
A B
発火の時間差(B-A)
重みの変化
L. F. Abbott and Sacha B. Nelson, Synaptic pl...
いろいろな学習則
Kawato M, Kuroda S, Schweighofer N, Cerebellar supervised learning revisited: biophysical modeling and degrees-
o...
発火率コード・位相コード
x(t)
発火率コード:
発火率で情報を表現
例: 多くの感覚入力
位相コード:
(集団振動に対する)
発火時刻の「位相」で
情報を表現
例: 場所細胞 19
場所細胞の位相コード
特定の場所に居る
ときだけ発火する
細胞が知られる
(海馬の場所細胞)
海馬には4-8Hz程度の
集団振動(θリズム)
が生じている
ラットの「走る」時系列が、θリズムの
一周期の中に埋め込まれている
http://www...
神経細胞の応答特性
神経科学では、「その細胞を最も発火させる刺激」を
ベースに考える場合が多い
•特定の場所に居るときに反応する細胞
•特定の線分の傾きに反応する細胞
•特定の表情に反応する細胞
•特定の人物に反応する細胞
21
視覚系
22
視覚系の細胞の応答特性
変化する
ランダム刺激
固定された猫
視覚野の神経細胞の発火を計測
|| | ||| | t
足し合わせると…
23
視覚系の細胞の応答特性
単純細胞
所定の位置に
所定のパターンがある
時だけ発火する
画像はイメージです
24
視覚系の細胞の応答特性
複雑細胞
が下の範囲内にあれば発火する
(範囲内ならどこにあっても良い)
25
ネオコグニトロン(福島(1979))
コントラスト抽出細胞
エッジ抽出細胞
複雑細胞
をモデル化
プーリング層 プーリング層
K.Fukushima, Neocognitron: A Self-organizing Neural Network...
予測符号化仮説
脳には上位層の細胞から下位層の細胞へ向かう結合も
ある。何をやっているのか?
予測符号化(predictive coding)仮説
下位領野 上位領野
予測値と実際の活動の
誤差を伝達
下位領野の神経活動の
予測値を伝達
27
PredNet
(2016/6) 28
AI の技術発展
記号処理
パターン
ダイナミク
ス
エキスパートシステムフレーム問題
パーセプトロン
ベイズ推論
ネオコグニトロン
第一次
人工知能ブーム
第一次
ニューロブーム
誤差逆伝播法
1960 1970 1980 1990 2000...
おまけ:Pepperの感情システム
• 詳しくは解りませんが…
http://www.itmedia.co.jp/news/articles/1506/18/news143_2.html
30
さらに神経科学を知りたい方は…
• kazoo04『人工知能アドベントカレンダー』
– 神経科学と機械学習の両方の知見がまとまっていて非常にお勧めです
(無料で読める!)
• エンジニア向けの神経科学の入門書
– 高橋宏和『メカ屋のための脳科学...
さらに神経科学を知りたい方は(続)
• 計算論的神経科学(計算神経科学)
神経科学を数理科学や情報科学を用いて研究しようとい
う立場
– 銅谷賢治『計算神経科学への招待』
• 脳の学習の神経科学的知見とモデル
– 甘利俊一『神経回路網の数理』
...
Upcoming SlideShare
Loading in …5
×

of

神経科学をカジュアルにトーク Slide 1 神経科学をカジュアルにトーク Slide 2 神経科学をカジュアルにトーク Slide 3 神経科学をカジュアルにトーク Slide 4 神経科学をカジュアルにトーク Slide 5 神経科学をカジュアルにトーク Slide 6 神経科学をカジュアルにトーク Slide 7 神経科学をカジュアルにトーク Slide 8 神経科学をカジュアルにトーク Slide 9 神経科学をカジュアルにトーク Slide 10 神経科学をカジュアルにトーク Slide 11 神経科学をカジュアルにトーク Slide 12 神経科学をカジュアルにトーク Slide 13 神経科学をカジュアルにトーク Slide 14 神経科学をカジュアルにトーク Slide 15 神経科学をカジュアルにトーク Slide 16 神経科学をカジュアルにトーク Slide 17 神経科学をカジュアルにトーク Slide 18 神経科学をカジュアルにトーク Slide 19 神経科学をカジュアルにトーク Slide 20 神経科学をカジュアルにトーク Slide 21 神経科学をカジュアルにトーク Slide 22 神経科学をカジュアルにトーク Slide 23 神経科学をカジュアルにトーク Slide 24 神経科学をカジュアルにトーク Slide 25 神経科学をカジュアルにトーク Slide 26 神経科学をカジュアルにトーク Slide 27 神経科学をカジュアルにトーク Slide 28 神経科学をカジュアルにトーク Slide 29 神経科学をカジュアルにトーク Slide 30 神経科学をカジュアルにトーク Slide 31 神経科学をカジュアルにトーク Slide 32
Upcoming SlideShare
Costruire giocattoli con le stampanti 3 d
Next
Download to read offline and view in fullscreen.

6 Likes

Share

Download to read offline

神経科学をカジュアルにトーク

Download to read offline

第16回 全脳アーキテクチャ若手の会 勉強会 カジュアルトーク http://wbawakate.connpass.com/event/35690/ でのLT資料です。

Related Books

Free with a 30 day trial from Scribd

See all

神経科学をカジュアルにトーク

  1. 1. 神経科学をカジュアルにトーク 吉田雄紀 1
  2. 2. はじめに • 神経科学をちょっとだけ布教しにきました – よければ興味をもってもらえるとうれしいです 2
  3. 3. 自己紹介 • 吉田雄紀 twitter: @yos1up • 東大大学院 新領域創成科 学研究科 • 機械学習・計算論的神経科 学に興味があります • 昨年度まで医師として病院 に勤めていましたが、脳機 能を数理的に理解したく、 心機一転こちらの分野に飛 び込みました 3
  4. 4. 4 『マリオメーカーで31×31=961まで掛け算できる「ほぼ全自動」乗算回路』 http://www.nicovideo.jp/watch/sm27849028 自己紹介
  5. 5. 機械学習と神経科学の関係 機械学習 Machine Learning 神経科学 Neuroscience SOM パーセプトロン CNN RBM RNN 選択的注意 脳の機能を理解する ための枠組みを与える 知性を実現するための ヒントを与える 予測符号化仮説 神経調整物質 海馬 強化学習 PredNet 複雑細胞 カラム構造 5
  6. 6. 知性を実現するための ヒントを与える • パーセプトロン – 神経細胞の仕組みからアイデアを得た • CNN(畳み込みニューラルネットワーク) – 視覚野の神経細胞の応答特性からアイデアを得た • PredNet – 予測符号化仮説(predictive coding)からアイデアを得 た • Pepperの感情システム – ホルモンバランスが感情に与える影響をモデル化 6
  7. 7. 神経科学のミクロ~マクロ いろいろな神経科学 分子神経科学 認知神経科学 行動生理学 精神医学 システム神経科学 神経解剖学 細胞神経科学 (他にも色々) ミクロ マクロ 7
  8. 8. 神経科学の知見は膨大 これくらいしか話せません 8
  9. 9. 脳 http://www.ft-patho.net/index.php?brain http://www.wako-chem.co.jp/siyaku/product/life/Silver_Protein/ 9
  10. 10. 神経細胞 Cajal, Estructura de los centros nerviosos de las aves (1905) https://ja.wikipedia.org/wiki/神経科学 10
  11. 11. 神経細胞 入力: 樹状突起へのイ オンの流入 出力: 膜電位(細胞の内外の 電位差)が閾値を 超えると生じる 「発火」(スパイク) http://kazoo04.hatenablog.com/entry/agi-ac-3 11
  12. 12. シナプス ①スパイクがやっ てくると,神経伝 達物質が放出され る ②神経伝達物質が 「受容体」にくっ つくと 「イオンチャネ ル」が開いてイオ ンが流入 ① ② https://www.willamette.edu/~gorr/classes/cs449/brain.html 12
  13. 13. 発火率 x1(t) y(t) x2(t) 13
  14. 14. 発火率 x1 x2 y = f(w1x1+w2x2) 「活性化関数」f 14
  15. 15. パーセプトロン (Rosenblatt(1957)) 当時は「学習」は出力層だけだったが、 やがて確率的勾配法(誤差逆伝播法)によ る全層の学習へ 15
  16. 16. 神経細胞の学習 ヘブの仮説 (Hebb (1952)) 『細胞Aの軸索が細胞Bを発火させる のに十分近くにあり、繰り返しある いは絶え間なくその発火に参加する とき、いくつかの成長過程あるいは 代謝変化が一方あるいは両方の細胞 に起こり、細胞Bを発火させる細胞の 1つとしての細胞Aの効率が増加す る。』 20年後、この仮説が実際に脳内で 生じていることが電気生理学実験で 確かめられた (Bliss, Lømo (1973)) https://bsd.neuroinf.jp/wiki/ヘブ則 LTP(長期増強) 16
  17. 17. いろいろな学習則 STDP(スパイクタイミング 依存可塑性) A | | | | | t B | | | | A B 発火の時間差(B-A) 重みの変化 L. F. Abbott and Sacha B. Nelson, Synaptic plasticity: taming the beast, Nature (2000) 生物種や脳領 野によっても 学習則は様々 なものが見つ かっている 17
  18. 18. いろいろな学習則 Kawato M, Kuroda S, Schweighofer N, Cerebellar supervised learning revisited: biophysical modeling and degrees- of-freedom control, Curr Opin Neurobiol (2011) Shen W, Flajolet M, Greengard P, Surmejer DJ: Dichotomous dopaminergic control of striatal synaptic plasticity. Science (2008) 小脳のプルキンエ細胞 A B 教師信号 Aの発火の直後にCが発 火した場合に限り、 A→Bの効率が変化する C A B ドパミンニューロン C 線条体の中型有棘ニューロン A→BのSTDPが、 (Cからの)ドパミ ン放出に依存して変 化 運動学習などに関わるといわれる 強化学習に関わるといわれる 誤差逆伝播法 ??? 18
  19. 19. 発火率コード・位相コード x(t) 発火率コード: 発火率で情報を表現 例: 多くの感覚入力 位相コード: (集団振動に対する) 発火時刻の「位相」で 情報を表現 例: 場所細胞 19
  20. 20. 場所細胞の位相コード 特定の場所に居る ときだけ発火する 細胞が知られる (海馬の場所細胞) 海馬には4-8Hz程度の 集団振動(θリズム) が生じている ラットの「走る」時系列が、θリズムの 一周期の中に埋め込まれている http://www.brain.riken.jp/bsi-news/bsinews22/no22/special.html 20
  21. 21. 神経細胞の応答特性 神経科学では、「その細胞を最も発火させる刺激」を ベースに考える場合が多い •特定の場所に居るときに反応する細胞 •特定の線分の傾きに反応する細胞 •特定の表情に反応する細胞 •特定の人物に反応する細胞 21
  22. 22. 視覚系 22
  23. 23. 視覚系の細胞の応答特性 変化する ランダム刺激 固定された猫 視覚野の神経細胞の発火を計測 || | ||| | t 足し合わせると… 23
  24. 24. 視覚系の細胞の応答特性 単純細胞 所定の位置に 所定のパターンがある 時だけ発火する 画像はイメージです 24
  25. 25. 視覚系の細胞の応答特性 複雑細胞 が下の範囲内にあれば発火する (範囲内ならどこにあっても良い) 25
  26. 26. ネオコグニトロン(福島(1979)) コントラスト抽出細胞 エッジ抽出細胞 複雑細胞 をモデル化 プーリング層 プーリング層 K.Fukushima, Neocognitron: A Self-organizing Neural Network Model for a Mechanism of Pattern Recognition Unaffected by Shift in Position. Biol. Cybern.(1980) 26
  27. 27. 予測符号化仮説 脳には上位層の細胞から下位層の細胞へ向かう結合も ある。何をやっているのか? 予測符号化(predictive coding)仮説 下位領野 上位領野 予測値と実際の活動の 誤差を伝達 下位領野の神経活動の 予測値を伝達 27
  28. 28. PredNet (2016/6) 28
  29. 29. AI の技術発展 記号処理 パターン ダイナミク ス エキスパートシステムフレーム問題 パーセプトロン ベイズ推論 ネオコグニトロン 第一次 人工知能ブーム 第一次 ニューロブーム 誤差逆伝播法 1960 1970 1980 1990 2000 2010 第二次 ニューロブーム 第二次 人工知能ブーム 深層学習 第三次 人工知能ブーム 第三次 ニューロブーム コグニティブ コンピューティング システム 29
  30. 30. おまけ:Pepperの感情システム • 詳しくは解りませんが… http://www.itmedia.co.jp/news/articles/1506/18/news143_2.html 30
  31. 31. さらに神経科学を知りたい方は… • kazoo04『人工知能アドベントカレンダー』 – 神経科学と機械学習の両方の知見がまとまっていて非常にお勧めです (無料で読める!) • エンジニア向けの神経科学の入門書 – 高橋宏和『メカ屋のための脳科学入門』 – 合原一幸、神崎亮平『理工学系からの脳科学入門』 • 神経科学の定番の教科書 – ベアー・コノーズ・パラディーソ『神経科学―脳の探求』 – カンデル『カンデル神経科学』 • 読み物 – ラマチャンドラン『脳のなかの幽霊』 – コッホ『意識の探究』 – トノーニ・マッスィミーニ『意識はいつ生まれるのか――脳の謎に挑む統 合情報理論』 今後 AI に活かせるかもしれない! 31
  32. 32. さらに神経科学を知りたい方は(続) • 計算論的神経科学(計算神経科学) 神経科学を数理科学や情報科学を用いて研究しようとい う立場 – 銅谷賢治『計算神経科学への招待』 • 脳の学習の神経科学的知見とモデル – 甘利俊一『神経回路網の数理』 • 脳が用いている計算原理を数学的に紐解く – 川人光男『脳の計算理論』 • 運動学習の理論 – P Dayan & LF Abbott “Theoretical Neuroscience” • 他にも色々あります 32
  • ssuser95c6ca

    Oct. 20, 2019
  • mizukiS1

    Jun. 24, 2019
  • TakashiOtsu

    Jan. 6, 2019
  • tanibayashihiroki

    Mar. 31, 2018
  • daynap1204

    Nov. 22, 2016
  • naotomoriyama

    Aug. 4, 2016

第16回 全脳アーキテクチャ若手の会 勉強会 カジュアルトーク http://wbawakate.connpass.com/event/35690/ でのLT資料です。

Views

Total views

2,233

On Slideshare

0

From embeds

0

Number of embeds

2

Actions

Downloads

16

Shares

0

Comments

0

Likes

6

×