Your SlideShare is downloading. ×
超高速オンライン転移学習
Upcoming SlideShare
Loading in...5
×

Thanks for flagging this SlideShare!

Oops! An error has occurred.

×
Saving this for later? Get the SlideShare app to save on your phone or tablet. Read anywhere, anytime – even offline.
Text the download link to your phone
Standard text messaging rates apply

超高速オンライン転移学習

23,397
views

Published on

Published in: Technology

0 Comments
4 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total Views
23,397
On Slideshare
0
From Embeds
0
Number of Embeds
6
Actions
Shares
0
Downloads
52
Comments
0
Likes
4
Embeds 0
No embeds

Report content
Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
No notes for slide

Transcript

  • 1. 超高速オンライン転移学習 2011年8月1日版 東京工業大学 木村大毅, Kankuekul Pichai, Aram Kawewong, 長谷川修 画像センシングシンポジウム 2011
  • 2. Introduction• 実世界の物体認識は極めて困難 現在、この問題を根本的に解決する「現実的な」手 法は存在しない。 実世界の難しさ ・多種多様の物体 ・高ノイズ ・新しい物が増える ・オクルージョン など・・・
  • 3. コンピュータやロボットに極めて多様な実世界を 現実的な方法で 認識させたい。
  • 4. これまでは、Caltech 256 など対象をクラス毎に学習・認識させる試み
  • 5. 対象毎に、沢山の学習画像を用意。 下記は「ラクダ」の例
  • 6. しかし、私たちの身の周りには膨大な数の モノがあり、その数は増え続けている。
  • 7. パラダイムシフトが必要!• 「月」に行くには? – 飛行機をどんなに改良しても「絶対」月には行けない – 同様に、従来方式をどんなに改良しても、人の目のような 人工視覚はできないのでは…? × ○
  • 8. 本研究の成果と意義• 下記を兼ね備えた、現実的な物体認識 手法 を構築。 – 転移学習を導入 • 実世界を少数の基本的な属性知識の組合せで認識( 例:赤+球+果物=リンゴ) – 命令するだけで「自力で・直ちに」賢くなる • 学習データはインターネットから自動収集 • 超高速にオンライン追加学習&認識 – 画像以外にも多様・Noisy・曖昧な情報に対応 • 多様な曖昧情報を複合的に利用可能
  • 9. きれいな「花」だな。 何という名前だろう? つまり、人間は 初めて見る対象でも 相応に認識できる。これに近い(と思われる)のが転移学習(Transfer Learning)
  • 10. Transfer Learning:予め学習させた基本的な知識、「属性」の組み合わせにより、初めて見る対象でも認識させる技術。
  • 11. Transfer Learning (転移学習)• 対象について学習するのではなく、 基本的な概念(「属性」と呼ぶ)を学習• 属性の組み合わせで未学習物体も認識 窓 ダイヤル学習 ボール 箱 転移画像 電子レンジ ダイヤルと窓がある箱型のもの= 電子レンジ 人間が定義
  • 12. Transfer learning (転移学習)• この関係はアルファベットと辞書の関係に類似 – 英語の場合、26文字の組合せで数十万の単語。 – 前頁の例では「ダイヤル+箱=金庫」もわかる。• さらに、提案手法はベクトルデータ全般を属性 として超高速オンライン追加学習可能。 – 画像、音声、各種センサデータ、モータの制御信号 など、あらゆるパターンデータが入力可能。
  • 13. 超高速オンライン・マルチモーダル転移学習手法 提案手法 24,295 枚の学習時間 6,180 枚の認識時間 SSII 2011:画像センシングシンポで発表 関連研究を ViEW 2011 にて基調講演
  • 14. Proposed SOINN• AT-SOINN: 1つのノード=1つのクラス• 提案1つのノード=複数のクラス : (度合い) New Input Online Learning 属性をSOINNのクラスとする Attr.01 : 20% Attr.01 : 70% Attr.02 : 80% Attr.02 : 30% ・ ・ ・ ・ Attr.02 ・ ・ Attr.85 : 50% Attr.85 : 45% Attr.01 Attr.01 : 10% Attr.02 : 85% ・ ・ ・ Attr.01 : 95% Attr.85 : 45% Attr.02 : 10% ・ ・ Attr.01 : 15% ・ Recognition Attr.02 : 80% Attr.85 : 30% ・ ・ ・ Noise Robust Attr.85 : 45%
  • 15. Proposed Method (Training phase) e.g. SIFT Labeling Features Proposed-SOINN … Attributes Extraction ・・・ Images of Feature-1 F-2 F-Q Q : Number of Features Training classes 画像の特徴と属性の関連を学習 Class/Attribute SOINNの数=特徴の数 Matrix これを利用してクラスから属性へ変換 Images of Test classes ex) 「りんご」⇒「赤+球」2011/07/05 Dataset 15
  • 16. Proposed Method (Test phase) e.g. SIFT Labeling Features Proposed-SOINN … Attributes Extraction ・・・ Images of Feature-1 F-2 F-QTraining classes 与えられた特徴から 各々の属性の度合いを算出 Class/Attribute Calculate Attributes using statistical recognition Matrix 未知クラスも属性のみは知っている Images of Guess the Class according to these Attributes Test classes Q : Number of Features Dataset 各々の属性からクラスへ変換 ex) 「赤+球」⇒「りんご」
  • 17. SOINNとは? 東工大 長谷川修研で独自開発 コンピュータやロボットが「見て、聞いて、覚えて、考えて、行動する」 ための脳をヒントにした情報処理技術 17
  • 18. SOINNの機能脳がそうであるように、1. 視覚、聴覚、触覚、モータの時系列制御信号などの マルチモーダル・パターン情報を、超高速かつ発達 的(オンラインかつ追加的)に学習できる。2. 学習したパターン情報から、連想・推論・転移などの 高次知能情報処理が実現できる。こうした機能を兼ね備えた学習器は、SOINNだけ。 18SOINNのソフトウエアは、長谷川修研ホームページから無償でダウンロード可能。
  • 19. SOINN [Shen, Hasegawa, NN06]• 自己増殖型ニューラルネットワーク – オンラインかつ追加的に学習可能 – クラス数や分布の形などの事前知識が不要 – 実世界での運用を考慮したノイズ耐性 – マルチモーダルなパターン情報を学習可能 強力な ノイズ耐性 入力情報 SOINN内の情報
  • 20. さらに、長谷川研の提案手法は、超高速オンライン・マルチモーダル転移学習手法つまり、画像以外にも、音声や、温度や圧力などの各種センサ情報、多数のモータの制御情報、なども複合的に扱える!だから、ロボットにそのまま使える!
  • 21. 提案手法の発展例• 従って、こんなことが出来る。 他のロボットの学習結果 楽チン! イ ン タ ー ネ ット膨大な情報 物理的経験 学習 オンラインで 人の命令 データ 準備不要 超高速に学習 属性知識 獲得した属性知識を 「箱+窓+ダイヤル+チン♪」 未知対象に適用し認識 ⇒電子レンジ
  • 22. Experiments• Lampertら[1]の動物の画像で比較実験 – 50種類の動物 • ライオン、シマウマ、豚、シロクマ、イルカなど – 85種類の属性(基本的な概念) • 肉食動物、尻尾がある、速く走る、賢いなど – 6種類の画像特徴 • SIFT、SURF、pHOG、rgSIFT、LSS、CQの それぞれのヒストグラム(Bag-of-Features)※上で挙げた従来手法以外にも多くの論文で使用されている
  • 23. Experiments 例)未知の豚を当てる方法 草食動物 飛べない 肉食動物 だろう だろう 足が短い 飛べない肉食動物 学習動物 見たことがない 動物 40 10 足が短い 種類 草食動物 属性 を転移 種類 飛べる 足が長い 足が短い だろう 飛べない ライオン コウモリ 足が短く飛べない草食動物 馬 =豚?! 未知動物も属性の組み合わせは知っている
  • 24. Results オンライン学習 バッチ学習 AT- 提案手法 SOINN[2] DAP[1] IAP[1] 認識率 26.82% 26.96% 40.51% 27.83%学習時間 7分 6時間 >70日認識時間 1分半 4時間 >2日データ量 1,825 347,082 - (ノード数) 99.47%削減SOINNの数 6 1020 - なお学習時間と認識時間は、特徴検出の時間を含めない
  • 25. Results オンライン学習 バッチ学習 AT- 提案手法 SOINN[2] DAP[1] IAP[1]曖昧な属性※ ○ × × ×属性の 追加 ○ △ × ×※曖昧な属性とは、連続値での属性の定義が出来るという意味である提案手法は、 54枚/秒で学習、16ミリ秒/枚で認識 更に、曖昧な属性や柔軟な属性の追加が可能
  • 26. 更なる展開:インターネットの活用 例)• その場で、直ちに賢くなる – 高速性やオンライン学習性を活用 • 複雑な実環境では、有効な属性を事前に 想定するのは困難。 • 有効な属性を、人や環境とのインタラクションを通じて 決定。 – ネットの情報は極めてノイジー • SOINNのノイズ耐性を活用 – 大規模評価実験の実施を予定
  • 27. 主要参考文献[1] C. H. Lampert, H. Nickisch, and S. Harmeling, “Learning to detect unseen object classes by between-class attribute transfer”, CVPR 2009.[2] A. Kawewong, Sirinart Tangruamsub, Pichai Kankuekool and Osamu Hasegawa, “Fast Online Incremental Transfer Learning for Unseen Object Classification Using Self-Organizing Incremental Neural Networks”, The 2011 International Joint Conference on Neural Networks (IJCNN).[3] F. Shen, O. Hasegawa, “An Incremental Network for On-line Unsupervised Classification and Topology Learning”, Neural Networks 2006.