SlideShare a Scribd company logo
1 of 38
Download to read offline
⾃自⼰己組織化マップ
⾃自⼰己組織化とは
    ⼊入⼒力に対する正解(教師信号)を⽤用いず
  外界との相互作⽤用をもとに学習を⾏行うことをいう。
⾃自⼰己組織化マップは似た特徴を持つ
                データを空間的に近い場所に配置した
                              低次元のマップを作成する。
&KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
KDSWHU
   [テーマ]  講義の構成
教師なし学習とHebb則
⾃自⼰己組織化マップ
Rによるシミュレーション
まとめ
  教師なし学習とHebb則
Hebb則
PV
ഥ‫୕۽‬Φ
᪸ડ  ɶɬɣડƹ
ධ୕Φ
ˉ˜˩ˋ
ज‫ݟؼ‬൪
˝˷ƪ˿̅ $ ˝˷ƪ˿̅ %
ˉ˜˩ˋ
Hebb則
シナプスの可塑性
シナプスの伝達効率が
    時間とともに変化
˝˷ƪ˿̅ $ ˝˷ƪ˿̅ %
ˉ˜˩ˋ
Hebb則
シナプスの可塑性
シナプスの伝達効率が
    時間とともに変化
Hebb則
「ニューロンAが発⽕火して
  ニューロンBが発⽕火する」
ということが繰り返されると
A  と  B  をつなぐ
  シナプス結合が強化される。
特徴抽出細胞
Blakemore    Cooper    (1970)
⽣生後間もないネコを
  垂直なストライプのみの
  視覚環境のもとで育てる。
→  ⽔水平なスリットに反応する
  特徴抽出細胞が形成されない。
特徴抽出細胞の形成
特徴抽出細胞
Blakemore    Cooper    (1970)
⽣生後間もないネコを
  垂直なストライプのみの
  視覚環境のもとで育てる。
→  ⽔水平なスリットに反応する
  特徴抽出細胞が形成されない。
⽣生後の視覚環境の影響
特徴抽出細胞の形成
特徴抽出細胞のコラム構造
コラム構造を簡略化した模式図
特徴が近いかどうかという
  情報(位相)が
反応する神経細胞の配置
  で表現されている。
トポロジカルマップ
特徴抽出細胞のコラム構造
コラム構造を簡略化した模式図
特徴が近いかどうかという
  情報(位相)が
反応する神経細胞の配置
  で表現されている。
トポロジカルマップ
Hebb則を⽤用いて
  トポロジカルマップが
構築できる。
௬ອৰ
ࡰອৰ
トポロジカルマップ
⼊入⼒力層と出⼒力層
    ネットワーク
Hebb則を⽤用いた
    ⾃自⼰己組織化
結合荷重の
  初期値は
      ランダム
௬ອৰ
ࡰອৰ
トポロジカルマップ
Hebb則を⽤用いた
    ⾃自⼰己組織化
結合荷重の
  2乗の和が⼀一定
といった
  条件を加える
௬ອৰ
ࡰອৰ
トポロジカルマップ
出⼒力層同⼠士の
  相互結合
近隣は強め合い
遠⽅方とは弱め合う
競合
トポロジカルマップ
௬ອৰ
ࡰອৰ
競合
ある⼊入⼒力パターン
⼀一つの集団が
      勝ち残る
Winner  Takes  All
トポロジカルマップ
௬ອৰ
ࡰອৰ その結合を強め
他の結合を弱める
学習
トポロジカルマップ
௬ອৰ
ࡰອৰ その結合を強め
他の結合を弱める
学習
௬ອৰ
ࡰອৰ
トポロジカルマップ
似た⼊入⼒力パターン
近い場所にある
    集団が
      勝ち残る
⼊入⼒力の特徴が
  場所によって
表現される
  ⾃自⼰己組織化マップ
⾃自⼰己組織化マップ
௬ອৰ
ࡰອৰ
x= (x
(p)
1 , · · · , x
(p)
i , · · · , x
(p)
n )
n  個の⼊入⼒力
N  個のパターン
⾃自⼰己組織化マップ
௬ອৰ
ࡰອৰ
wj = (w1j, · · · , wij, · · · , wnj)
x= (x
(p)
1 , · · · , x
(p)
i , · · · , x
(p)
n )
n  個の⼊入⼒力
N  個のパターン
結合荷重
⾃自⼰己組織化マップ
௬ອৰ
ࡰອৰ
競合
結合荷重は
⼊入⼒力パターンの近さ
であると考える
wj = (w1j, · · · , wij, · · · , wnj)
⾃自⼰己組織化マップ
௬ອৰ
ࡰອৰ
競合
d(x(p)
, wc) = min
j
d(x(p)
, wj)
⾃自⼰己組織化マップ
௬ອৰ
ࡰອৰ
競合
1番⼊入⼒力に近い
  結合荷重を
持つものを選ぶ
d(x(p)
, wc) = min
j
d(x(p)
, wj)
⾃自⼰己組織化マップ
௬ອৰ
ࡰອৰ
学習
∆wj = hcj(t)(x(p)
− wj(t))
௬ອৰ
ࡰອৰ
⾃自⼰己組織化マップ
学習
結合荷重が
⼊入⼒力に近づくように
修正
∆wj = hcj(t)(x(p)
− wj(t))
௬ອৰ
ࡰອৰ
⾃自⼰己組織化マップ
学習
hcj = α(t) exp(−
d(c, j)2
2σ2
)
他のユニットの
結合荷重も修正
௬ອৰ
ࡰອৰ
⾃自⼰己組織化マップ
近隣は⼤大きく
遠⽅方は微かに修正
学習
hcj = α(t) exp(−
d(c, j)2
2σ2
)
他のユニットの
結合荷重も修正
0
d(c, j)
⾃自⼰己組織化マップ
௬ອৰ
ࡰອৰ 近隣は⼤大きく
遠⽅方は微かに修正
学習
他のユニットの
結合荷重も修正
hcj = α(t) exp(−
d(c, j)2
2σ2
)
௬ອৰ
ࡰອৰ
⾃自⼰己組織化マップ
近隣は⼤大きく
遠⽅方は微かに修正
学習
他のユニットの
結合荷重も修正
hcj = α(t) exp(−
d(c, j)2
2σ2
)
௬ອৰ
ࡰອৰ
⾃自⼰己組織化マップ
近隣は⼤大きく
遠⽅方は微かに修正
学習
他のユニットの
結合荷重も修正
hcj = α(t) exp(−
d(c, j)2
2σ2
)
  Rによるシミュレーション
 plot(  anim4,  xlim=c(-­1,11),  ylim=c(-­1,11)    )
  text(  anim4,  rownames(anim1),  pos=1  )
  anim3  -­  som(anim2,  xdim=10,  ydim=10,  rlen=500  )
  anim4  -­  anim3$visual[  ,  1:2]
  library(  som  )
  anim1    -­    read.csv(  “anim.csv”,  header=T,  row.names=1)
  anim2    -­    normalize(  anim1  )
Rによる計算(som)
Rによる計算(som)
 plot(  anim4,  xlim=c(-­1,11),  ylim=c(-­1,11)    )
  text(  anim4,  rownames(anim1),  pos=1  )
  anim3  -­  som(anim2,  xdim=10,  ydim=10,  rlen=500  )
  anim4  -­  anim3$visual[  ,  1:2]
  library(  som  )
  anim1    -­    read.csv(  “anim.csv”,  header=T,  row.names=1)
  anim2    -­    normalize(  anim1  )
Rによる計算(som)
 plot(  anim4,  xlim=c(-­1,11),  ylim=c(-­1,11)    )
  text(  anim4,  rownames(anim1),  pos=1  )
  anim3  -­  som(anim2,  xdim=10,  ydim=10,  rlen=500  )
  anim4  -­  anim3$visual[  ,  1:2]
  library(  som  )
  anim1    -­    read.csv(  “anim.csv”,  header=T,  row.names=1)
  anim2    -­    normalize(  anim1  )
Rによる計算(som)
Rによる計算(som)
  plot(  anim4,  xlim=c(-­1,11),  ylim=c(-­1,11)    )
  text(  anim4,  rownames(anim1),  pos=1  )
  anim3  -­  som(anim2,  xdim=10,  ydim=10,  rlen=500  )
  anim4  -­  anim3$visual[  ,  1:2]
  library(  som  )
  anim1    -­    read.csv(  “anim.csv”,  header=T,  row.names=1)
  anim2    -­    normalize(  anim1  )
まとめ
教師なし学習
特徴抽出細胞,Hebb則
競合,Winner  Takes  All
⾃自⼰己組織化マップ
特徴を保ったまま,低次元のマップを作成
    まとめ

More Related Content

More from anonymousouj (8)

T08
T08T08
T08
 
C07
C07C07
C07
 
C06
C06C06
C06
 
C02
C02C02
C02
 
C03
C03C03
C03
 
C04
C04C04
C04
 
C05
C05C05
C05
 
1554522_C01
1554522_C011554522_C01
1554522_C01
 

Recently uploaded

TokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentationTokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentation
YukiTerazawa
 
The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024
koheioishi1
 

Recently uploaded (8)

TokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentationTokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentation
 
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
 
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
 
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
 
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
 
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
 
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
 
The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024
 

C13