Uploaded on

 

More in: Technology
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Be the first to comment
    Be the first to like this
No Downloads

Views

Total Views
4,047
On Slideshare
0
From Embeds
0
Number of Embeds
5

Actions

Shares
Downloads
24
Comments
0
Likes
0

Embeds 0

No embeds

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
    No notes for slide

Transcript

  • 1. FIT 2007 第6回情報科学技術フォーラム ノイズのある環境下でオンライン学習が可能な 自己増殖型ニューラルネットワークを用いた 連想記憶モデル 東京工業大学 知能システム科学専攻 須藤 明人 佐藤 彰洋 長谷川 修 2007/09/05
  • 2. 知能ロボットと連想記憶  連想記憶は人間の知的プロセスに不可欠である  連想記憶を知能ロボットに適用する研究が近年行われて いる.[1][2] [1] K. Itoh et al., “New memory model for humanoid robots – introduction of co-associative memory using mutually coupled chaotic neural networks,” Proc. of the 2005 International Joint Conerene on Neural Networks, pp. 2790–2795, 2005 [2] K. Mizutani and T. Omori, “On-line Map Formation and Path Planning for Mobile Robot by Associative Memory with Controllable Attention,” Proc. the 1999 International Joint Conference on Neural Networks(IJCNN’99), pp.2051-2056, 1999.Copyright(C) 2007 Akihito Sudo All rights reserved. 1
  • 3. 知能ロボットの連想記憶に必要な機能 実世界で働く知能ロボットのための連想記憶には、以下 の機能が必要不可欠である. 追加学習・・・事前に全ての知識を列挙できないため ノイズ耐性・・・実世界のデータはノイジーなため 実数値データの取り扱い・・・センサー情報は実数値データ 多対多の連想・・・多対多の知識も存在するためCopyright(C) 2007 Akihito Sudo All rights reserved. 2
  • 4. 従来の連想記憶モデル 従来の連想記憶モデルは2つに大別できる 1.分散多重学習型連想記憶モデル 例1:ホップフィールドネットワーク 例2:Bidirectional Associative Memory(BAM) 2.競合学習型連想記憶モデル 例1:KFMAM(SOMを拡張した連想記憶モデル) 例2:KFMAM-FW(KFMAMを追加学習のために拡張)Copyright(C) 2007 Akihito Sudo All rights reserved. 3
  • 5. 分散多重学習型連想記憶モデルの問題点 分散多重学習型連想記憶モデルは 新たな学習で、既存の知識が破壊されてしまう 「追加学習に不向き」ということ!!! Frenchはこの問題を避けることの困難さを指摘した[1] [1]R. French, “Using Semi-Distributed Representation to Overcome Catastrophic Forgetting in Connectionist Networks,” Pm. of the 13h Annual Cognitive Science Society Conference, pp. 173–178, 1991Copyright(C) 2007 Akihito Sudo All rights reserved. 4
  • 6. 一方で・・・ “競合学習型連想記憶モデル”は比較的追加学習に向いて いる 特に追加学習を目的としたモデルKFMAM-FW[1]がある KFMAM-FWは、新たな学習で既存の知識が破壊されない [1]T. Yamada et al., “Sequential Learning for Associative Memory using Kohonen Feature Map,” in Proc. of the 1999 International Joint Conference on Neural Networks, pp. 1920–1923, 1999.Copyright(C) 2007 Akihito Sudo All rights reserved. 5
  • 7. KFMAM-FWの問題点 獲得可能な連想対の数の上限が 事前に設定したノードの数に依存して決まってしまう もし、事前に設定したノード数が少なすぎると・・・ ▪途中から連想対を追加獲得できなくなってしまう もし、事前に設定したノード数が多すぎると・・・ ▪不要な計算時間とメモリを浪費してしまう 獲得すべき知識の総数が事前にわからない環境では 「追加学習に不向き」ということ!!! 人間の赤ちゃんはこのような環境におかれている!Copyright(C) 2007 Akihito Sudo All rights reserved. 6
  • 8. 研究目的 次の機能を持つ連想記憶モデルAssociative Memory with SOINN (SOINN-AM) を提案する. 上述の追加学習の問題を克服 高いノイズ耐性を持つ 知能ロボットに不可欠 実数値データを取り扱える 多対多の連想を行えるCopyright(C) 2007 Akihito Sudo All rights reserved. 7
  • 9. SOINNについて 提案手法はSelf-organizing Incremental Neural Network (SOINN) の拡張とみなせる SOINNはオンラインで教師無し分類を行うことができる 自己組織的に増殖・消滅するノードの持つ重みベクトルで、オ ンラインで入力されるデータを表現する 入力 出力 (5クラスのデータ)Copyright(C) 2007 Akihito Sudo All rights reserved. 8
  • 10. 提案手法の特徴1~追加学習の観点から~ ノードが自己組織的に増殖・消滅する そのため・・・ 追加学習時に既存の知識が破壊されない KFMAM-FWでも実現されている 学習すべき知識の量が事前にわからない環境に適応 KFMAM-FWにできないことCopyright(C) 2007 Akihito Sudo All rights reserved. 9
  • 11. 追加学習の観点での提案手法と従来手法の比較 学習すべき知識の 新たな学習で既存の 総数が事前に不明な 知識を破壊しない 環境に適応 SOINN-AM (提案手法) ○ ○ KFMAM-FW ○ × KFMAM △ × BAM × × Hopfield Network × ×Copyright(C) 2007 Akihito Sudo All rights reserved. 10
  • 12. 提案手法の特徴2 追加学習性能だけでなく、以下の3点も実現している ノイズ耐性が他手法より優れている 実数値データが取り扱える 多対多の連想が行えるCopyright(C) 2007 Akihito Sudo All rights reserved. 11
  • 13. 提案手法のノイズ耐性について 実世界のノイズには以下の2タイプがある。 (a)のノイズについて 提案手法は従来手法を上回る耐性を持つ。 (b)のノイズについて このタイプのノイズにも提案手法は耐性がある。 従来手法でこのタイプのノイズに耐性があるものは自己連想し か行えない。Copyright(C) 2007 Akihito Sudo All rights reserved. 12
  • 14. 提案手法のアーキテクチャ 入力層は2つの入力ベクトルを受け取ることができる ベクトル1 ベクトル2 入力層 ・・・ ・・・“エッジ”でノードが結合されることで、 クラスタリングされる ノードは重みベクトル W を持つ   重心にプロトタイプノードが W  [ w1 , w2 ] 生成される 連想対に対応 競合層 競合層では、“ノード”と、ノードをつなぐ“エッジ”が 自律的に増殖・消滅するCopyright(C) 2007 Akihito Sudo All rights reserved. 13
  • 15. 学習フェーズの概要 ①学習すべき連想対が入力層に入力される F R 入力層 ・・・ ・・・ 競合層 ②競合層では、連想対を保持するノードがクラ スタリングされながら自律的に増殖・消滅するCopyright(C) 2007 Akihito Sudo All rights reserved. 14
  • 16. 学習フェーズのアルゴリズム1入力層での処理 1. 入力層に学習すべき連想対FとRが入力される ( ) 2. FとRを一つのベクトルXに結合する 3. X にわずかな摂動を加えたものをIcとする ( ) 4. Icを競合層に入力するCopyright(C) 2007 Akihito Sudo All rights reserved. 15
  • 17. 学習フェーズのアルゴリズム2第1勝者ノードと第2勝者ノードを探す 5. 競合層にある全てのノードの重みベクトルと、競合層へ の入力Icのユークリッド距離を計算 6. 最も距離の小さいノードと、2番目に距離の小さいノー ドをそれぞれ「第1勝者ノード」「第2勝者ノード」と 名付ける 競合層 競合層への入力 Ic 第1勝者ノード 第2勝者ノード ・・・競合層のノードCopyright(C) 2007 Akihito Sudo All rights reserved. 16
  • 18. 学習フェーズのアルゴリズム3 Icが既存のノードと同じクラスタに属するかを判定 7. 第1勝者ノードと第2勝者ノードについて、 下式dを計算する 8. もし、 Icと第1勝者の距離<第1勝者のd Icと第2勝者の距離<第2勝者のd のどちらかが成り立てば、Icは既存のノードと同じクラ スタに属すると判定するCopyright(C) 2007 Akihito Sudo All rights reserved. 17
  • 19. 学習フェーズのアルゴリズム4同じクラスタに属さないと判断されたときの処理 9. Icを重みベクトルに持つノードを競合層に 新たに生成する 競合層 競合層への入力 Icを重みに持つノード c このステップでノードが新たに生成される!!!Copyright(C) 2007 Akihito Sudo All rights reserved. 18
  • 20. 学習フェーズのアルゴリズム5同じクラスタに属すると判断されたときの処理 その1 9’-1. 第1勝者と第2勝者の間を年齢1の“エッジ”で結合す る(もし既にエッジがあれば、その年齢を1に戻す) 9’-2. 第2勝者以外のノードと第1勝者の間のエッジの年齢 を1だけ増やす 9’-3. 年齢が、あらかじめ定めた値 を越えた エッジを削除Copyright(C) 2007 Akihito Sudo All rights reserved. 19
  • 21. 学習フェーズのアルゴリズム6同じクラスタに属すると判断されたときの処理 その2 9’-4. 第1勝者の重みベクトルおよび、第1勝者とエッジで つながっているノードの重みベクトルに と をそれぞれ加えるCopyright(C) 2007 Akihito Sudo All rights reserved. 20
  • 22. 学習フェーズのアルゴリズム7不要なノードを削除し、プロトタイプノードを生成 10.もし、これまでに入力された学習データの総数が事前 に設定した値 l の整数倍であるならば、エッジを持た ないノードを削除する 11.各クラスタに属するノードの重みベクトルの平均を重 みベクトルとして持つノードを生成する  このノードは“プロトタイプノード”と呼ばれ、想起フェーズで 利用されるCopyright(C) 2007 Akihito Sudo All rights reserved. 21
  • 23. 学習フェーズでの競合層の様子 ・・・通常のノード ・・・プロトタイプノード 学習データにガウシアンノイズを混入させているためクラスタに広がりがあるCopyright(C) 2007 Akihito Sudo All rights reserved. 22
  • 24. 想起フェーズの概要 ①連想キーとしてベクトルが一つだけ入力される F R 入力層 ・・・ ・・・ 競合層 ②対応するノードが発火し、連想結果が出力さ れるCopyright(C) 2007 Akihito Sudo All rights reserved. 23
  • 25. 想起フェーズのアルゴリズム1入力層での処理 1. 入力層にベクトル F または R が入力される 2. 下式のIcを競合層へ入力するCopyright(C) 2007 Akihito Sudo All rights reserved. 24
  • 26. 想起フェーズのアルゴリズム2競合層での処理 その1 3. 下式で、 Icと全てのノード i の重みベクトルの距離を計 算する ここで、 である。Copyright(C) 2007 Akihito Sudo All rights reserved. 25
  • 27. 想起フェーズのアルゴリズム3競合層での処理 その2 4. 事前に設定した値drについて、 が成り立つノードが全て発火するCopyright(C) 2007 Akihito Sudo All rights reserved. 26
  • 28. 想起フェーズのアルゴリズム4競合層での処理 その3 4. 発火したノードの属するクラスタのプロトタイプノード の重みを としたとき、出力Oは下式で表される ここで、Copyright(C) 2007 Akihito Sudo All rights reserved. 27
  • 29. 想起フェーズのアルゴリズム5競合層での処理 その4 4’. 発火するノードが一つも無い場合は、連想キーをノイ ズであると判断し、”Unknown”と出力する 注意)出力Oが複数存在することもありうる。 この場合は、1対多の連想を行っていることになるCopyright(C) 2007 Akihito Sudo All rights reserved. 28
  • 30. 実験設定~比較手法~ 分散多重学習型連想記憶モデル BAM with PRLAB[1]・・・論文[3]で比較手法として用いられ ている手法 競合学習型連想記憶モデル KFMAM[2]・・・SOMを連想記憶モデルに拡張したモデル KFMAM-FW[3]・・・[2]の追加学習性能を高めた手法 [1]H. Oh and S.C. Kothari, “Adaptation of the relaxation method for learning in bidirectional associative memory,” IEEE Tans. Neural Networks, Vol.5, No.4, pp. 576–583, 1994. [2]H. Ichiki et al., “Kohonen feature maps as a supervised learning machine,” in Proc. of the IEEE International Conference on Neural Networks, pp. 1944–1948, 1993. [3]T. Yamada et al., “Sequential Learning for Associative Memory using Kohonen Feature Map,” in Proc. of the 1999 International Joint Conference on Neural Networks, pp. 1920–1923, 1999.Copyright(C) 2007 Akihito Sudo All rights reserved. 29
  • 31. 実験設定~パラメタと学習回数~ パラメタは下表のように設定した 学習回数は以下とした 提案手法・・・1つの連想対について50回ずつ BAM with PRLAB と KFMAM・・・重みが収束するまで KFMAM-FW・・・重みが固定されたノードができるまでCopyright(C) 2007 Akihito Sudo All rights reserved. 30
  • 32. 実験設定~用いたデータ~ 用いたデータ 2値画像・・・7×7ピクセルの英語アルファベット画像 ▪比較手法が2値データしか扱えないため使用した グレースケール画像 ・・・92×112ピクセルのAT&T顔画像データベースの画像Copyright(C) 2007 Akihito Sudo All rights reserved. 31
  • 33. 行った実験 1. 追加学習性能の比較実験 2. 提案手法が多対多の連想を行えることの確認実験 3. ノイズ耐性の比較実験  2つのタイプのノイズについてそれぞれ実験 4. 提案手法が実数値データを扱えることの確認実験Copyright(C) 2007 Akihito Sudo All rights reserved. 32
  • 34. 実験1追加学習性能の比較実験 学習させた連想対 , , ・・・ 学習データは逐次的に与えた バッチ学習ではない! 学習後、連想キーとして大文字のアルファベットを与え 出力を見たCopyright(C) 2007 Akihito Sudo All rights reserved. 33
  • 35. 実験1追加学習性能の比較実験~結果~ 全て正しく連想できたのは、提案手法とKFMAM-FW(36 nodes and 64 nodes)のみ ただし、KFMAM-FW(25 nodes and 16 nodes)は学習中に無限ループに陥っ てしまった Proposed→Copyright(C) 2007 Akihito Sudo All rights reserved. 34
  • 36. 実験2多対多の連想性能の確認実験 下図の連想対を提案手法に学習させた 連想キーとして、A 、C 、F 、J を与え、出力 を見た 実験結果 すべての連想がうまくいったCopyright(C) 2007 Akihito Sudo All rights reserved. 35
  • 37. 実験3-1ノイズ耐性の比較実験 その1 学習させた連想対 , , ・・・ 学習後、アルファベットの大文字の画像に0%~26% のバイナリノイズを加えたものを連想キーとして与え、 出力を見た。 同じノイズレベルについて100個の連想キーを生成して与えた ↓ノイズを加えた連想キーの例Copyright(C) 2007 Akihito Sudo All rights reserved. 36
  • 38. 実験3-1ノイズ耐性の比較実験 その1 ~結果~ 高いノイズレベルにおいても、他手法よりも正しく連想が行える 100 SOINN-AM 90 80 KFMAM-FW Perfect recall (%) 70 KFMAM (batch learning) 60 50 KFMAM (sequential learning) 40 30 BAM (batch learning) 20 10 BAM (sequential learning) 0 0 2 4 6 8 10 12 14 16 18 20 22 24 26 Noise level (%)Copyright(C) 2007 Akihito Sudo All rights reserved. 37
  • 39. 実験3-2ノイズ耐性の比較実験 その2 まず、下記の連想対を学習させた , , ・・・ その後、ランダムに発生させたデータを連想キーとして 与えたところ、以下の出力を得た 望ましい出力! 無意味な出力・・・ 提案手法の出力 比較手法の出力Copyright(C) 2007 Akihito Sudo All rights reserved. 38
  • 40. 実験4多値データの取り扱いに関する確認実験 下図のような1対5の連想対を10人分学習させた 10人分用意し、与える 実験結果 SOINN-AMの出力と正解画像の次元あたりの誤差は1.0×10-5 ~2.0×10-5と極めて低かったCopyright(C) 2007 Akihito Sudo All rights reserved. 39
  • 41. まとめ 以下の機能を併せ持つ連想記憶モデルを提案した 追加学習に適する ▪新たな学習で既存の知識を破壊しない ▪知識の総数が事前にわからない環境にも適する 高いノイズ耐性を持つ 実数値データを取り扱える 多対多の連想を行えるCopyright(C) 2007 Akihito Sudo All rights reserved. 40
  • 42. 課題・展望 提案手法をロボットに適用する より複雑なタスクに対応するため、提案手法を“パターン情報ベー スの推論”のために拡張する 提案手法を拡張した“パターン情報ベースの推論”について セッション[推論と学習](9/7 13:00~)にて発表予定Copyright(C) 2007 Akihito Sudo All rights reserved. 41