超高速オンライン転移学習

26,552 views
26,962 views

Published on

Published in: Technology
0 Comments
12 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total views
26,552
On SlideShare
0
From Embeds
0
Number of Embeds
20,076
Actions
Shares
0
Downloads
66
Comments
0
Likes
12
Embeds 0
No embeds

No notes for slide

超高速オンライン転移学習

  1. 1. 超高速オンライン転移学習 2011年8月1日版 東京工業大学 木村大毅, Kankuekul Pichai, Aram Kawewong, 長谷川修 画像センシングシンポジウム 2011
  2. 2. Introduction• 実世界の物体認識は極めて困難 現在、この問題を根本的に解決する「現実的な」手 法は存在しない。 実世界の難しさ ・多種多様の物体 ・高ノイズ ・新しい物が増える ・オクルージョン など・・・
  3. 3. コンピュータやロボットに極めて多様な実世界を 現実的な方法で 認識させたい。
  4. 4. これまでは、Caltech 256 など対象をクラス毎に学習・認識させる試み
  5. 5. 対象毎に、沢山の学習画像を用意。 下記は「ラクダ」の例
  6. 6. しかし、私たちの身の周りには膨大な数の モノがあり、その数は増え続けている。
  7. 7. パラダイムシフトが必要!• 「月」に行くには? – 飛行機をどんなに改良しても「絶対」月には行けない – 同様に、従来方式をどんなに改良しても、人の目のような 人工視覚はできないのでは…? × ○
  8. 8. 本研究の成果と意義• 下記を兼ね備えた、現実的な物体認識 手法 を構築。 – 転移学習を導入 • 実世界を少数の基本的な属性知識の組合せで認識( 例:赤+球+果物=リンゴ) – 命令するだけで「自力で・直ちに」賢くなる • 学習データはインターネットから自動収集 • 超高速にオンライン追加学習&認識 – 画像以外にも多様・Noisy・曖昧な情報に対応 • 多様な曖昧情報を複合的に利用可能
  9. 9. きれいな「花」だな。 何という名前だろう? つまり、人間は 初めて見る対象でも 相応に認識できる。これに近い(と思われる)のが転移学習(Transfer Learning)
  10. 10. Transfer Learning:予め学習させた基本的な知識、「属性」の組み合わせにより、初めて見る対象でも認識させる技術。
  11. 11. Transfer Learning (転移学習)• 対象について学習するのではなく、 基本的な概念(「属性」と呼ぶ)を学習• 属性の組み合わせで未学習物体も認識 窓 ダイヤル学習 ボール 箱 転移画像 電子レンジ ダイヤルと窓がある箱型のもの= 電子レンジ 人間が定義
  12. 12. Transfer learning (転移学習)• この関係はアルファベットと辞書の関係に類似 – 英語の場合、26文字の組合せで数十万の単語。 – 前頁の例では「ダイヤル+箱=金庫」もわかる。• さらに、提案手法はベクトルデータ全般を属性 として超高速オンライン追加学習可能。 – 画像、音声、各種センサデータ、モータの制御信号 など、あらゆるパターンデータが入力可能。
  13. 13. 超高速オンライン・マルチモーダル転移学習手法 提案手法 24,295 枚の学習時間 6,180 枚の認識時間 SSII 2011:画像センシングシンポで発表 関連研究を ViEW 2011 にて基調講演
  14. 14. Proposed SOINN• AT-SOINN: 1つのノード=1つのクラス• 提案1つのノード=複数のクラス : (度合い) New Input Online Learning 属性をSOINNのクラスとする Attr.01 : 20% Attr.01 : 70% Attr.02 : 80% Attr.02 : 30% ・ ・ ・ ・ Attr.02 ・ ・ Attr.85 : 50% Attr.85 : 45% Attr.01 Attr.01 : 10% Attr.02 : 85% ・ ・ ・ Attr.01 : 95% Attr.85 : 45% Attr.02 : 10% ・ ・ Attr.01 : 15% ・ Recognition Attr.02 : 80% Attr.85 : 30% ・ ・ ・ Noise Robust Attr.85 : 45%
  15. 15. Proposed Method (Training phase) e.g. SIFT Labeling Features Proposed-SOINN … Attributes Extraction ・・・ Images of Feature-1 F-2 F-Q Q : Number of Features Training classes 画像の特徴と属性の関連を学習 Class/Attribute SOINNの数=特徴の数 Matrix これを利用してクラスから属性へ変換 Images of Test classes ex) 「りんご」⇒「赤+球」2011/07/05 Dataset 15
  16. 16. Proposed Method (Test phase) e.g. SIFT Labeling Features Proposed-SOINN … Attributes Extraction ・・・ Images of Feature-1 F-2 F-QTraining classes 与えられた特徴から 各々の属性の度合いを算出 Class/Attribute Calculate Attributes using statistical recognition Matrix 未知クラスも属性のみは知っている Images of Guess the Class according to these Attributes Test classes Q : Number of Features Dataset 各々の属性からクラスへ変換 ex) 「赤+球」⇒「りんご」
  17. 17. SOINNとは? 東工大 長谷川修研で独自開発 コンピュータやロボットが「見て、聞いて、覚えて、考えて、行動する」 ための脳をヒントにした情報処理技術 17
  18. 18. SOINNの機能脳がそうであるように、1. 視覚、聴覚、触覚、モータの時系列制御信号などの マルチモーダル・パターン情報を、超高速かつ発達 的(オンラインかつ追加的)に学習できる。2. 学習したパターン情報から、連想・推論・転移などの 高次知能情報処理が実現できる。こうした機能を兼ね備えた学習器は、SOINNだけ。 18SOINNのソフトウエアは、長谷川修研ホームページから無償でダウンロード可能。
  19. 19. SOINN [Shen, Hasegawa, NN06]• 自己増殖型ニューラルネットワーク – オンラインかつ追加的に学習可能 – クラス数や分布の形などの事前知識が不要 – 実世界での運用を考慮したノイズ耐性 – マルチモーダルなパターン情報を学習可能 強力な ノイズ耐性 入力情報 SOINN内の情報
  20. 20. さらに、長谷川研の提案手法は、超高速オンライン・マルチモーダル転移学習手法つまり、画像以外にも、音声や、温度や圧力などの各種センサ情報、多数のモータの制御情報、なども複合的に扱える!だから、ロボットにそのまま使える!
  21. 21. 提案手法の発展例• 従って、こんなことが出来る。 他のロボットの学習結果 楽チン! イ ン タ ー ネ ット膨大な情報 物理的経験 学習 オンラインで 人の命令 データ 準備不要 超高速に学習 属性知識 獲得した属性知識を 「箱+窓+ダイヤル+チン♪」 未知対象に適用し認識 ⇒電子レンジ
  22. 22. Experiments• Lampertら[1]の動物の画像で比較実験 – 50種類の動物 • ライオン、シマウマ、豚、シロクマ、イルカなど – 85種類の属性(基本的な概念) • 肉食動物、尻尾がある、速く走る、賢いなど – 6種類の画像特徴 • SIFT、SURF、pHOG、rgSIFT、LSS、CQの それぞれのヒストグラム(Bag-of-Features)※上で挙げた従来手法以外にも多くの論文で使用されている
  23. 23. Experiments 例)未知の豚を当てる方法 草食動物 飛べない 肉食動物 だろう だろう 足が短い 飛べない肉食動物 学習動物 見たことがない 動物 40 10 足が短い 種類 草食動物 属性 を転移 種類 飛べる 足が長い 足が短い だろう 飛べない ライオン コウモリ 足が短く飛べない草食動物 馬 =豚?! 未知動物も属性の組み合わせは知っている
  24. 24. Results オンライン学習 バッチ学習 AT- 提案手法 SOINN[2] DAP[1] IAP[1] 認識率 26.82% 26.96% 40.51% 27.83%学習時間 7分 6時間 >70日認識時間 1分半 4時間 >2日データ量 1,825 347,082 - (ノード数) 99.47%削減SOINNの数 6 1020 - なお学習時間と認識時間は、特徴検出の時間を含めない
  25. 25. Results オンライン学習 バッチ学習 AT- 提案手法 SOINN[2] DAP[1] IAP[1]曖昧な属性※ ○ × × ×属性の 追加 ○ △ × ×※曖昧な属性とは、連続値での属性の定義が出来るという意味である提案手法は、 54枚/秒で学習、16ミリ秒/枚で認識 更に、曖昧な属性や柔軟な属性の追加が可能
  26. 26. 更なる展開:インターネットの活用 例)• その場で、直ちに賢くなる – 高速性やオンライン学習性を活用 • 複雑な実環境では、有効な属性を事前に 想定するのは困難。 • 有効な属性を、人や環境とのインタラクションを通じて 決定。 – ネットの情報は極めてノイジー • SOINNのノイズ耐性を活用 – 大規模評価実験の実施を予定
  27. 27. 主要参考文献[1] C. H. Lampert, H. Nickisch, and S. Harmeling, “Learning to detect unseen object classes by between-class attribute transfer”, CVPR 2009.[2] A. Kawewong, Sirinart Tangruamsub, Pichai Kankuekool and Osamu Hasegawa, “Fast Online Incremental Transfer Learning for Unseen Object Classification Using Self-Organizing Incremental Neural Networks”, The 2011 International Joint Conference on Neural Networks (IJCNN).[3] F. Shen, O. Hasegawa, “An Incremental Network for On-line Unsupervised Classification and Topology Learning”, Neural Networks 2006.

×