ライスボールセミナー＠　2012/06/26 立命館大学

1. グループ型研究プログラム「先端的機械学習に
基づく自律的適応知能ダイナミクス創成プロジェクト」
AML-dynamics
情報理工学部 谷口忠大

2. 情報理工学部 知能情報学科 創発システム研
究室

3.  メンバー （2012/06/26時点）
 谷口忠大 知能情報学科 准教授 （研究代表）
 北野勝則 知能情報学科 教授
 島田伸敬 知能情報学科 教授
 西尾信彦 情報システム学科 教授
 李周浩 情報コミュニケーション学科 教授
 仲田晋 メディア情報学科 准教授
 榊原一紀 知能情報学科 講師
 小林亮太 知能情報学科 助教
 韓先花 メディア情報学科（陳研） PD

4. 時代背景
 人工知能技術は，知識をルールとして設計者が表現す
る古典的なルールベースアプローチから，知識自体を
計算機が学習するアプローチ（教師あり学習）を経て
実用化が図られてきた．しかし，このような教師あり
学習による知識獲得，最適化のアプローチは人手によ
るデータ整理，ラベリング，アノテーション（教師
データ）を必要とし，現在のような大量のセンサ系，
データ群が実世界から取得される系では有効ではな
い．
=> トップダウン・アプローチ
 現在，人手による教師データの付与を必要とせず，
データ自体が持っている構造情報から知識発見，デー
タ抽出を行う教師なし学習のアプローチが急速に注目
を集めている．
=> ボトムアップ・アプローチ

5. 研究目的
 また，このように明示的な教師データを求めず，自
らの感覚運動情報から自己組織的に構造情報を抽出
し，概念形成，知能発達を行うことは，人間の知能
の根本的な特徴であり，その適切な創発的計算知能
の表現は長らく求められてきた．
 本研究では，ノンパラメトリックベイズ理論を始め
とする先端的機械学習と，ライフログやセンサネッ
トワーク，ロボットの感覚運動情報，脳神経活動
データといった大規模実世界データの融合により自
動的に知識を獲得し，機能を構成する創発的知能の
創成を目指す．

6. [H23-H25]立命館大学総合理工学研究機構グループ型研究プログラム

7. 創発的計算
(Emergent Computation)
 教師なし学習をベースとした
創発的な学習器をベースとし
た，新たな知的情報処理の提
案
 ノンパラメトリックベイズ理
論に基づく，機械学習理論の
応用，及び基礎研究の推進．
 人間・機械相互作用をボトム
アップに構成するマルチモー
ダル情報処理，検索技術，
データマイニング，画像処理
技術についての研究の推進．

8. 発達する知能
環境に適応し多様な概念や行動を獲得する知能
 人間は生まれた時，未分化
な認識世界の中で活動を始
める．
 環境適応の中で様々な概念
や行動を獲得していく．
 そして言語を用いたコミュ
ニケーションをも可能にす
る．
 その構造，計算論的プロセ
スを知りたい．

9. ノンパラメトリックベイズ理論
[00年代半ば～]
 ベイズ学習の枠組みに含まれる学習法
 ディリクレ過程やベータ過程，ガウス過程などの潜
在的に無限のパラメータを持つ，確率モデルを仮定
し，有限個の観測データから柔軟にモデルの複雑性
を獲得するモデル．
 MCMC（マルコフ連鎖モンテカルロ法）と併せて利
用することにより，効率的なシステムの推定が可能
になる．
複雑な隠れた構造をもつ知識を
教師なし学習を用いて学習可能になってきた

10. ベイズ教師無し形態素解析
 形態素解析
 日本語のような単語間の区切りのない言語では，単語の切
れ目を解析することが重要になる．「分かち書き」
 離散文字列から言語モデルを作るためには，この形態素解
析ができる必要がある．
 しかし，通常，形態素解析自体が「辞書」の存在を前提と
する．
鶏が先か卵が先か・・・
 教師無し形態素解析
 辞書を使わずN-gram統計量のみを用いて，未知のテキスト
から単語・キーワードを抽出する手法が開発されてきてい
る．
 多くはヒューリスティック，もしくはMDLを基準にして計算量が
重い．
 ノンパラメトリックベイズ理論に基づく教師無し形態素解
析

11. [持橋 発表資料より]

12. Infinite Relational Model
を用いたマルチモーダル概念形成
ball (polystyrene) ball (vinyl) balloon (water)
balloon (normal) balloon (bell) bell 1 (ring)
bell 2 (ring) bell 3 (bar) nutritive (can)
nutritive (box) nutritive can (aluminum)
(small box)
can (steel) spray bottle (full) spray bottle (empty)
soft toy 1 soft toy 2 soft toy 3
(without texture) (with texture) (with texture)

13. 階層Pitman-Yor言語モデルに基
づいた自動作曲手法の提案[’11白
井]

15. Semiotic Prediction of Driving Behavior using
Unsupervised Double Articulation Analyzer
Published in Intelligent Vehicle 2012
Giving theoretical probability to incomplete hidden words
View from driver’s seat Language Model
fd afa
?
Averaged number of correctly
predicted hidden states
Histogram
Segment
Collaborative work with DENSO

16. Conclusion
 グループ型研究プログラム「先端的機械学習に基
づく
自律的適応知能ダイナミクス創成プロジェク
ト」
 ノンパラメトリックベイズ理論に連なる研究成果の
紹介．
他はまた別の機会に・・・