東工大長谷川修研紹介 2011 (８月１日版)

東工大長谷川修研紹介 2011 (８月１日版)
2011年度 8月1日改訂版長谷川修研の研究紹介東京工業大学像情報工学研究所長谷川修 oh@haselab.info http://haselab.info/
長谷川研の研究目標：社会的・物理的空間や電脳空間との相互作用から自力で知的発達する実世界知能システム（情報機器やロボット）の創成 Future 自力で知的発達する情報機器や知能ロボット・電脳環境や人との相互作用により自力で賢くなる自律ロボット・不特定タスクへの柔軟な対応頭脳他のロボットの学習結果足自力で賢くなる転移学習・インターネットなどから腕画像を用いた自己位置同定学習データを自ら収集し、・ＧＰＳが不要自力で知的に発達・人混みでも学習や認識が可能・未学習の知識にも・携帯端末などの柔軟に対応低画質のカメラでも動作現在・ＰＩＲＦを利用・学習した知識を未知の対象に転移して認識・実環境で稼働・屋内でも動作可能な・画像や音声、多数のセンサやモータ出力など、・未知のタスクへのアプ・人混みでも頑健に動作あらゆるベクトルデータをオンライン学習&認識ローチを自力で生成・屋内や地下では利用不可青枠は全て、長谷川修研独自の既存技術
長谷川研の研究 • 人の生活環境で稼働する、さまざまな人工の「知能」の構築を通じ、広く社会の発展に寄与することを目標とする。 • 上記でいう知能とは、私たちが日常的に行っているのと同じように、人工物が「見て、聞いて、覚えて、考えて、行動する」ためのものである。 • これを確実に実現する従来技術は存在しない。そこで、長谷川らの独自技術であるSOINNを活用した実世界知能情報処理機構の構築から取り組む。
「実世界知能情報処理」とは？ • 私たちの「脳」が普通にやっていること。 • 私たちには簡単なことが、コンピュータやロボットには大変難しい。
例えば、実はまともにドアが開けられるロボットは世界のどこにも存在しない。そもそもドアが分からない。犬と猫の区別もできない。幼児でもできることができない。
長谷川研の過去の研究例
１．「顔検出」技術実用になったのは４～５年前
Google で「顔検出」と検索すると、トップに下記の論文が表示される。林伸治、長谷川修 : “低解像度画像からの顔検出”, 画像電子学会誌, Vol.34, No.6, pp.726-737, (2005) つまり、この論文は度々検索され、読まれている。この英訳は、IEEE Conference on Computer Vision and Pattern Recognition (CVPR 2006) にも採録長谷川研ホームページにデモビデオ有り
この研究では、従来困難であった「小さい顔」の検出を実現した。これにより、画像サイズを縮小してからでも顔検出が可能になった。これは画像処理量の大幅な従来の顔検出削減につながり、デジカメの非力な CPUでも顔検出を可能とした。現在、この技術は市販の多くのデジカメやビデオに利用されている。提案手法（小さい顔も検出）
２．画像による場所の認識技術 • 通常、人は日頃利用する駅の、改札前の様子を思い出すことができる。 • しかし、今日、改札の前にいた人を、思い出すのは困難。 • つまり、人間は、非常に優れた画像情報処理をしており、そこにたまたま居た人のことは覚えず、改札付近の情景だけを的確に選び出して覚えている。
人は、覚えるべきものと、覚えなくて良いものを的確に判別している。(大岡山駅前の例)
人は、覚えるべきものと、覚えなくて良いものを的確に判別している。(大岡山駅前の例) 覚える覚える覚える覚えない覚えない覚えない
この機能は、実環境で人と共存するロボットには不可欠。  以下は、移動ロボット分野における性能評価のための世界標準データの一つ。  移動ロボットが以下の情景の中をループ状に２回周回する。２周目には、１周目のどの情景と一致するかを当てる。１周目に居た、人や車が居なくなっても当たるか？
PIRF Position Invariant Robust Features 長谷川研独自の、動くカメラの映像中から止まっているもののみを取り出す技術。 14
PIRF：動いているカメラから、止まっているものと、動いているものを見分ける技術たまたま通り SIFT : 普通に処理すると、あらゆるところから画像特徴が出る。かかった人。 PIRFは出ていない。 15 PIRF: 提案手法の処理結果例
PIRF: algorithm Current image 過去の画像を参照し、共通するSIFT特徴を抽出して、その位置の特徴表現とする。 16
PIRF は、下記画像の上下が同じ場所だと認識できる。上：休日の駐車場、下：平日の駐車場上：昼間、下：夜間 17
PIRF-Nav, PIRF-Nav2.0 PIRF based Navigation PIRF を用いた、日常生活空間における自己位置推定手法 (PIRF-Nav2.0 は改良高速版) 18
OXFORD大学が提供するデータセットこのデータでOXFORD (FAB-MAP) と性能比較  New College 19
赤い点が多い方が優れた手法 FAB-MAP (Oxford Univ.) 提案手法認識率 43.32% さらに、提案手法は完全オンライン学習手法
さらなる実験東工大学食での実験エキストラでない不特定多数の人が利用 21
混雑した学食での実験 • 認識率：86.65%（FAB-MAP：17.80%） • 平均処理時間：264ms / 枚（同：577ms/枚）入力（テスト）画像同位置と推定された学習画像全方位カメラの画像のため，同位置の画像でも撮影時のカメラの向きによって見え方が異なります 22
この技術を、自律移動ロボットに搭載して実験 - 認知地図（cognitive map）の獲得と利用 - → 場所の情景と、行動とを複合的にオンライン学習 • 私たち人間も、同じように地図獲得をしている。例えば、すずかけ台駅改札の情景から、左に曲がり、少し進むと、石の階段がある、など。 • ロボットは学習後、獲得した地図上で探索し、任意の地点間を移動できる。左旋回前進前進右旋回して前進左旋回
人を案内するように、ロボットを連れて歩くと、ロボットは入力映像中の人の影響を極力排除し、情景だけを覚え、人に指示された任意の地点間を自律移動できる。長谷川研ホームページにデモビデオ有り
実験結果 : ナビゲーションフェーズ(自律移動) 3D-PIRF 動いている人の周辺からゴールまで自律的に到達できているは抽出されていない 25
この技術は移動支援IRTへの活用を検討中 • 屋外だけでなく、GPSが利用できない地下や屋内の人混みでも自律移動 • 搭乗者、歩行者、双方の安全・安心の実現 • 移動のための地図は、患者や高齢者を含む誰もが簡単に作成可能（従来法は膨大な手間） • まず、電動車椅子への搭載を検討。人の生活環境で活動するロボット全般に利用可能。 26
この技術は、携帯カメラでも稼働するテスト画像手持ちのiPhone4 のカメラで撮影学習画像手持ちの家庭用ビデオカメラで撮影下が学習画像で、上がテスト画像。人が居ても、人の影響を受けずに上下は同位置と正しく判定している。テスト画像にはiPhone4の画像を使用。 27 GPSの使えない屋内や地下でも利用可能
既存技術「いつでも、どこでも、簡単に」位置情報が利用出来れば、ニーズは大きい。頓智ドットのセカイカメラは有名。本研究と既存技術を融合し、屋内、屋外を問わず、シームレスに位置情報が利用可能に。 28
頓智ドット㈱セカイカメラ GPSを利用。屋内ではアクセスポイントの設置が必要。つまり、現状では膨大な費用と手間がかかる。提案手法により、この問題が解決できる。提案システムを東急田園都市線渋谷地下駅で稼働させ、性能評価実験を実施予定。 29
ここから先は、現在進行中の研究テーマを紹介します。
挑戦状！
いい度胸だ！
コンピュータ将棋（あから2010）が清水市代女流王将と対局し、勝利！
クイズでも、コンピュータの勝ち！ 2011年2月、IBMのコンピュータ、Watsonがクイズ番組に参戦。チャンピオンに圧勝！
コンピュータは人の知性を超えた？とんでもない！
鳥の「ゆりかもめ」はどっち？あから2010も、Watsonも、答えられない…
これまでの人工知能ほとんどが、人間の脳の一部（特に前頭葉）の思考機能を工学的に模倣したもの。 37
なので、まだロボットには使えないロボットは総合学であり、本来は見て、聞いて、感じて、覚えて、考えて、動いて、労働するもの。 “Robot” はチェコ語で強制労働を意味する “robotnik” から作られた造語
ロボットに真に求められているのは「労働」 • 日本の少子高齢化が止まらない！ • これから日本はどうやって稼ぐ？
すでに介護の現場では人手不足 • フィリピンとインドネシアから、今夏にも看護師と介護士がやってくる。 • 人手不足にあえぐ病院や施設で歓迎の声が上がる一方、日本語能力への不安や日本人の労働条件悪化を懸念する声もある。 • 医療・介護の現場は労働条件の改善が進まず、人手不足が深刻だ。 • （2008年3月11日読売新聞）
本当に、こんなに稼げるの？経産省「産業構造ビジョン2010」
現在のロボットの問題 • ロボットに命令するだけでも大変 – 現状では、専門家が決められた手順に沿って、手間をかけてプログラムしている – お年寄りや子供たちには、とても無理 – 人間がロボットの都合にあわせるのは絶対イヤだ！ • 「人間中心の」情報処理技術の必要性 • ロボットにやって欲しいこと – どのようなことでも、「掃除して」、「洗濯して」、などと言うだけで、やって欲しい。 42
専用機 vs 汎用機現存する人工物は、全て特定の目的のために作られた専用機。 VS 注）PCはハードウエアは汎用だが、注）汎用機が人の姿をソフトウエアが専用なので、「専用機」。しているとは限らない。
これからは、「汎用機」の研究と実用化の推進が急務 SOINN !! Self-Organizing Incremental Neural Network
SOINNとは? 東工大長谷川修研で独自開発コンピュータやロボットが「見て、聞いて、覚えて、考えて、行動する」ための脳をヒントにした情報処理技術 45
SOINNの機能脳がそうであるように、 1. 視覚、聴覚、触覚、モータの時系列制御信号などのマルチモーダル・パターン情報を、超高速かつ発達的（オンラインかつ追加的）に学習できる。 2. 学習したパターン情報から、連想・推論・転移などの高次知能情報処理が実現できる。こうした機能を兼ね備えた学習器は、SOINNだけ。 46
自己増殖型ニューラルネットワーク(SOINN) SOINNのソフトウエアは、長谷川修研ホームページから無償でダウンロード可能。 47
最近の主要研究 (1) コンピュータやロボットに極めて多様な実世界を現実的な方法で認識させたい。
超高速オンライン転移学習東京工業大学木村大毅, Kankuekul Pichai, Aram Kawewong, 長谷川修画像センシングシンポジウム 2011
Introduction • 実世界の物体認識は極めて困難現在、この問題を根本的に解決する「現実的な」手法は存在しない。実世界の難しさ・多種多様の物体・高ノイズ・新しい物が増える・オクルージョンなど・・・
これまでは、Caltech 256 など対象をクラス毎に学習・認識させる試み
対象毎に、沢山の学習画像を用意。下記は「ラクダ」の例
しかし、私たちの身の周りには膨大な数のモノがあり、その数は増え続けている。
パラダイムシフトが必要！ • 「月」に行くには？ – 飛行機をどんなに改良しても「絶対」月には行けない – 同様に、従来方式をどんなに改良しても、人の目のような人工視覚はできないのでは…？ × ○
本研究の成果と意義 • 下記を兼ね備えた、現実的な物体認識手法を構築。 – 転移学習を導入 • 実世界を少数の基本的な属性知識の組合せで認識（例：赤＋球＋果物＝リンゴ） – 命令するだけで「自力で・直ちに」賢くなる • 学習データはインターネットから自動収集 • 超高速にオンライン追加学習＆認識 – 画像以外にも多様・Noisy・曖昧な情報に対応 • 多様な曖昧情報を複合的に利用可能 55
きれいな「花」だな。何という名前だろう？つまり、人間は初めて見る対象でも相応に認識できる。これに近い（と思われる）のが転移学習(Transfer Learning)
Transfer Learning：予め学習させた基本的な知識、「属性」の組み合わせにより、初めて見る対象でも認識させる技術。
Transfer Learning (転移学習) • 対象について学習するのではなく、基本的な概念（「属性」と呼ぶ）を学習 • 属性の組み合わせで未学習物体も認識窓ダイヤル学習ボール箱転移画像電子レンジダイヤルと窓がある箱型のもの＝電子レンジ人間が定義
Transfer learning (転移学習) • この関係はアルファベットと辞書の関係に類似 – 英語の場合、26文字の組合せで数十万の単語。 – 前頁の例では「ダイヤル＋箱＝金庫」もわかる。 • さらに、提案手法はベクトルデータ全般を属性として超高速オンライン追加学習可能。 – 画像、音声、各種センサデータ、モータの制御信号など、あらゆるパターンデータが入力可能。
超高速オンライン・マルチモーダル転移学習手法提案手法 24,295 枚の学習時間 6,180 枚の認識時間 SSII 2011：画像センシングシンポで発表関連研究を ViEW 2011 にて基調講演
Proposed SOINN • AT-SOINN： 1つのノード＝1つのクラス • 提案1つのノード＝複数のクラス：（度合い） New Input Online Learning 属性をSOINNのクラスとする Attr.01 : 20% Attr.01 : 70% Attr.02 : 80% Attr.02 : 30% ・・・・ Attr.02 ・・ Attr.85 : 50% Attr.85 : 45% Attr.01 Attr.01 : 10% Attr.02 : 85% ・・・ Attr.01 : 95% Attr.85 : 45% Attr.02 : 10% ・・ Attr.01 : 15% ・ Recognition Attr.02 : 80% Attr.85 : 30% ・・・ Noise Robust Attr.85 : 45% 61
Proposed Method (Training phase) e.g. SIFT Labeling Features Proposed-SOINN … Attributes Extraction ・・・ Images of Feature-1 F-2 F-Q Q : Number of Features Training classes 画像の特徴と属性の関連を学習 Class/Attribute SOINNの数＝特徴の数 Matrix これを利用してクラスから属性へ変換 Images of Test classes ex) 「りんご」⇒「赤＋球」 Dataset
Proposed Method (Test phase) e.g. SIFT Labeling Features Proposed-SOINN … Attributes Extraction ・・・ Images of Feature-1 F-2 F-Q Training classes 与えられた特徴から各々の属性の度合いを算出 Class/Attribute Calculate Attributes using statistical recognition Matrix 未知クラスも属性のみは知っている Images of Guess the Class according to these Attributes Test classes Q : Number of Features Dataset 各々の属性からクラスへ変換 ex) 「赤＋球」⇒「りんご」
SOINN [Shen, Hasegawa, NN06] • 自己増殖型ニューラルネットワーク – オンラインかつ追加的に学習可能 – クラス数や分布の形などの事前知識が不要 – 実世界での運用を考慮したノイズ耐性 – マルチモーダルなパターン情報を学習可能強力なノイズ耐性入力情報 SOINN内の情報
さらに、長谷川研の提案手法は、超高速オンライン・マルチモーダル転移学習手法つまり、画像以外にも、音声や、温度や圧力などの各種センサ情報、多数のモータの制御情報、なども複合的に扱える！だから、ロボットにそのまま使える！
提案手法の発展例 • 従って、こんなことが出来る。他のロボットの学習結果楽チン！インターネット膨大な情報物理的経験学習オンラインで人の命令データ準備不要超高速に学習属性知識獲得した属性知識を「箱＋窓＋ダイヤル＋チン♪」未知対象に適用し認識 ⇒電子レンジ
Experiments • Lampertら[1]の動物の画像で比較実験 – 50種類の動物 • ライオン、シマウマ、豚、シロクマ、イルカなど – 85種類の属性（基本的な概念） • 肉食動物、尻尾がある、速く走る、賢いなど – 6種類の画像特徴 • SIFT、SURF、pHOG、rgSIFT、LSS、CQのそれぞれのヒストグラム（Bag-of-Features） ※上で挙げた従来手法以外にも多くの論文で使用されている
Experiments 例）未知の豚を当てる方法草食動物飛べない肉食動物だろうだろう足が短い飛べない肉食動物学習動物見たことがない動物 40 10 足が短い種類草食動物属性を転移種類飛べる足が長い足が短いだろう飛べないライオンコウモリ足が短く飛べない草食動物馬＝豚?! 未知動物も属性の組み合わせは知っている
Results オンライン学習バッチ学習 AT- 提案手法 SOINN[2] DAP[1] IAP[1] 認識率 26.82% 26.96% 40.51% 27.83% 学習時間 7分 6時間 >70日認識時間 1分半 4時間 >2日データ量 1,825 347,082 －（ノード数） 99.47%削減 SOINNの数 6 1020 －なお学習時間と認識時間は、特徴検出の時間を含めない
Results オンライン学習バッチ学習 AT- 提案手法 SOINN[2] DAP[1] IAP[1] 曖昧な属性※ ○ × × × 属性の追加 ○ △ × × ※曖昧な属性とは、連続値での属性の定義が出来るという意味である提案手法は、 54枚／秒で学習、16ミリ秒／枚で認識更に、曖昧な属性や柔軟な属性の追加が可能
更なる展開：インターネットの活用例） • その場で、直ちに賢くなる – 高速性やオンライン学習性を活用 • 複雑な実環境では、有効な属性を事前に想定するのは困難。 • 有効な属性を、人や環境とのインタラクションを通じて決定。 – ネットの情報は極めてノイジー • SOINNのノイズ耐性を活用 – 大規模評価実験の実施を予定
主要参考文献 [1] C. H. Lampert, H. Nickisch, and S. Harmeling, “Learning to detect unseen object classes by between-class attribute transfer”, CVPR 2009. [2] A. Kawewong, Sirinart Tangruamsub, Pichai Kankuekool and Osamu Hasegawa, “Fast Online Incremental Transfer Learning for Unseen Object Classification Using Self-Organizing Incremental Neural Networks”, The 2011 International Joint Conference on Neural Networks (IJCNN). [3] F. Shen, O. Hasegawa, “An Incremental Network for On-line Unsupervised Classification and Topology Learning”, Neural Networks 2006.
最近の主要研究 (2) ネットからの学習データの自動収集に基づくオンライン転移学習・認識実験画像の基本的な情報（属性情報）をネットから高速学習して一般物体認識
研究の最終目標電脳環境に日々蓄積される膨大な情報や、実環境での物理的経験から、複数のSOINNが自律的・自己組織的に学習し、学習した知識を互いに教えあうことで、極力人の手間を取らせずに、人のために働く知的人工システム（情報機器やロボット）を実現する。
長谷川研の研究目標：社会的・物理的空間や電脳空間との相互作用から自力で知的発達する実世界知能システム（情報機器やロボット）の創成 Future 自力で知的発達する情報機器や知能ロボット・電脳環境や人との相互作用によりこの実現のための、自力で賢くなる自律ロボット・不特定タスクへの柔軟な対応最初のアプローチ頭脳他のロボットの学習結果足自力で賢くなる転移学習・インターネットなどから腕画像を用いた自己位置同定学習データを自ら収集し、・ＧＰＳが不要自力で知的に発達・人混みでも学習や認識が可能・未学習の知識にも・携帯端末などの柔軟に対応低画質のカメラでも動作現在・ＰＩＲＦを利用・学習した知識を未知の対象に転移して認識・実環境で稼働・屋内でも動作可能な・画像や音声、多数のセンサやモータ出力など、・未知のタスクへのアプ・人混みでも頑健に動作あらゆるベクトルデータをオンライン学習&認識ローチを自力で生成・屋内や地下では利用不可青枠は全て、長谷川研独自の既存技術
問題点と本研究の着眼従来手法 • 殆どの場合、膨大な学習データの収集や教師ラベル付与は人が行う。 • 長谷川研の顔検出実験では、５万枚以上の画像から、３万枚以上の顔画像だけを人手で抽出した。本研究 • ネット上には、ノイジーだが膨大な情報が存在する。 • ネットの情報は、世界中で日々更新・蓄積されている。 • ここから意味のある情報を取り出せれば、学習に使える！ • SOINNのノイズ除去機能やオンライン学習機能を活用 76
実験シナリオオンライン転移学習・認識実験に用いる学習画像は、インターネットから検索して自動収集する。実験者は、システムに画像収集のためのキーワード上記から抽出する属性のキーワードのみを与える。この条件で、十分な性能が得られるか、を評価。（転移学習には、オンライン学習可能な独自手法 “SGD-SOINN-SVM” を利用。）
実際に自動収集した画像の例 Tomato Broccoli Banana Cinnamon
さらに、実験では異なる条件で２つのシステムを構成 • 野菜学習システム vs 人工物学習システム野菜や果物の画像を学習人工物の画像を学習 Learn from: Learn from: - Human objects - Fruits and Vegetables Training object classes: Training object classes: - soda-can, computer-keyboard, - Tomato, cinnamon, and broccoli shipping box Testing object classes: Testing object classes: - cucumber, lemon and watermelon - Bottle, Tennis-ball, Microwave Attributes: Attributes: - stick, sphere - cylinder, buttons, cubic
人工物学習システム Computer-keyboard • Learn three attributes – ‘cylinder’, ‘has buttons’ and ‘cubic’ • Classify on Soda-can – Bottle, tennis-ball and microwave Shipping-boxes Step Learnt Attributes Avg. Acc. (%) 1 ‘cylinder’, ‘has buttons’ 61.40 and ‘cubic’ 自動収集した学習画像は、各２００枚程度。属性の組み合わせで認識するので、「たったそれだけ」で上記の認識率が得られることが判明。
野菜学習システム属性のオンライン追加学習により、認識率が向上することを確認。 Step 1: Learn only ‘sphere’ and ‘stick’ attributes (from tomato, cinnamon and broccoli) Step Learnt Attributes Avg. Acc. (%) 1 Sphere, Stick 38.89 Step 2: add color attributes - learn 'red’, ‘green’ and ‘brown’ attributes from the same training object classes - learn ‘yellow’ attribute from new object class  banana Step Learnt Attributes Avg. Acc. (%) 1 Sphere, Stick 38.89 2 Sphere, Stick + Red, green, 56.51 brown, yellow
「システムが、システムに教える」実験人工物システムが、野菜システムに学習済み ”cylinder” の属性データを転送し、野菜システムの認識率を向上させた。人工物学習システム野菜学習システム Transfer ‘cylinder’ attribute from the system II Learn three attributes Step Learnt Attributes Avg. Acc. • ‘cylinder’, (%) • ‘has buttons’ • and ‘cubic’ 1 sphere, stick 38.89 2 sphere, stick + red, green, 56.51 brown, yellow 3 sphere, stick, red, green, brown, 70.11 yellow +cylinder
最近の主要研究 (3) SOINN によるロボットや複雑構造物の知的制御
長谷川研の研究目標：社会的・物理的空間や電脳空間との相互作用から自力で知的発達する実世界知能システム（情報機器やロボット）の創成 Future 自力で知的発達する情報機器や知能ロボット・電脳環境や人との相互作用により自力で賢くなる自律ロボット・不特定タスクへの柔軟な対応頭脳他のロボットの学習結果足自力で賢くなる転移学習・インターネットなどから腕画像を用いた自己位置同定この実現のための、・ＧＰＳが不要・人混みでも学習や認識が可能学習データを自ら収集し、自力で知的に発達・未学習の知識にもアプローチ・携帯端末などの低画質のカメラでも動作柔軟に対応現在・ＰＩＲＦを利用・学習した知識を未知の対象に転移して認識・実環境で稼働・屋内でも動作可能な・画像や音声、多数のセンサやモータ出力など、・未知のタスクへのアプ・人混みでも頑健に動作あらゆるベクトルデータをオンライン学習&認識ローチを自力で生成・屋内や地下では利用不可青枠は全て、長谷川研独自の既存技術
ロボットに応用問題を解かせる • 現在の問題点 – ロボットは、プログラムした限定タスクしかできない。 • 提案手法： – ロボットの腕を持って、基本的な動作（コップを持つ、コップから注ぐなど）を個別に教示する。 – ロボットは、上記の動作群を組み合わせ、指示されたタスク解決のための一連の挙動を自力で推論・生成し、達成する。（ポットから急須に湯を注ぎ、湯呑みにお茶を淹れて、指定の場所に置く、など。） – 基本的な動作は、いつでも、ピンポイントで追加できる。（新たな動作をオンライン追加学習でき、その結果としてロボットの問題解決能力（知的レベル）が向上する。）
人型ロボットによる実世界版一般問題解決巻渕有哉，申富饒，長谷川修："実世界における一般問題解決システムの提案とそのヒューマノイドロボットへの実装"，電子情報通信学会論文誌D，Vol.J93-D, No.6, pp960-977, (2010) 長谷川研ホームページにデモビデオ有り 86
今後、AIは人の日常経験に近づくネットで調べ、まず自分でやってみて、時には他のロボットや、人にも教えてもらうが、極力人の手間を取らせずに、自力で学習してタスクを実行する。言いつけるだけで、勝手に賢くなるロボット！「お茶を淹れて」というと、その意味や処理手順を極力自力で学習・推論し、処理してくれる。こうした機能は、実環境で、あらゆるタスクをこなして人のために働くロボットには不可欠！ 87
SOINNの補足説明
学習器の評価（１）：オンライン学習と追加学習オンライン学習（Online Learning）多数の学習データを一括して処理するのではなく、入力されるデータを逐次学習すること。言い換えれば、入力データを N 個学習したときの学習結果を θ N として、  1 個目の入力データ N と θ N から θ N1 を順次求める学習手法 ⇔ バッチ学習（Batch Learning）、オフライン学習（Offline Learnig）追加学習（Incremental Learning）過去の学習データを破壊することなく、新しい入力データを学習できること。動的に形状が変化する非定常な分布も学習可能である、学習器に適応性があるとも解釈できる ※ 逐次学習（Incremental Learning）と表記される場合もあるので注意が必要。この場合、多くは本発表における「オンライン学習」を意味している 89
学習器の評価（２）：有限メモリと計算量O(1) 有限メモリ（Finite Memory）各ステップの学習時に計算のために確保するメモリ量が、学習データ数が無限になった際に一定値、または有限値を取ること計算量O(1) （Time Complexity）各ステップの学習に要する計算量のオーダーが学習データ数 N に対して 1 、つまり学習データ数に依らず一定であること。例えば、バッチ学習は学習の度に過去の全ての学習データを確認する必要があるため、少なくとも N となる 90
学習器の評価（３）：オープンエンド学習 SOM SOINN GNG ・多層パーセプトロン・SVM（SGD）・HMM（オンラインEM）・LVQ 計算量 O(1) 有限メモリ・k-means 追加学習・SVM ・HMM オンライン学習バッチ学習（狭義の）オープンエンド学習（広義の）オープンエンド学習 91
SOINNシリーズ（１）全て長谷川研で独自に研究開発高速最近傍識別器の提案パラメータ数を削減半教師あり Adjusted SOINN 能動学習への応用 Original SOINN Classifier [神谷ら 2007] SSA-SOINN [Shen et al. 2005] [桜井ら 2007] 2005 2007 E-SOINN [小倉ら 2007] SOINNを用いた近似能力の維持とロボットの言語獲得構造・パラメータ数の [Xe et al. 2007] 簡略化を同時に実現 92
SOINNシリーズ（２）全て長谷川研で独自に研究開発時系列パターン認識への応用パターンベース SOINNを用いた推論の実現ロボットの一般問題解決 SOINN-DP [巻渕ら 2010] [岡田ら 2008] SOINN-PBR [須藤ら 2008] 2008 2010 AT-SOINN [Aram et al. 2010] SOIAM GAM [須藤ら 2008] [Shen et al. 2010] 属性情報を用いた転移学習への応用連想記憶の実現系列データを想起可能な連想記憶システム 93

Check these out next

東工大長谷川修研紹介 2011 (８月１日版)

Recommended

More Related Content

Slideshows for you(20)

Similar to 東工大長谷川修研紹介 2011 (８月１日版)(20)

More from SOINN Inc.(9)

Recently uploaded(20)

東工大長谷川修研紹介 2011 (８月１日版)