PRML_2.3.1~2.3.3
Upcoming SlideShare
Loading in...5
×
 

Like this? Share it with your network

Share

PRML_2.3.1~2.3.3

on

  • 5,983 views

 

Statistics

Views

Total Views
5,983
Views on SlideShare
5,213
Embed Views
770

Actions

Likes
4
Downloads
83
Comments
0

8 Embeds 770

http://d.hatena.ne.jp 726
http://www.slideshare.net 33
http://paper.li 4
https://si0.twimg.com 3
http://www.health.medicbd.com 1
http://translate.googleusercontent.com 1
http://webcache.googleusercontent.com 1
https://twitter.com 1
More...

Accessibility

Categories

Upload Details

Uploaded via as Microsoft PowerPoint

Usage Rights

© All Rights Reserved

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Processing…
Post Comment
Edit your comment

PRML_2.3.1~2.3.3 Presentation Transcript

  • 1. PRML 復習レーン 2.3.1 – 2.3.3 2010 年 5 月 30 日 石川 康太 (twitter: @_kohta)
  • 2. ひたすら頑張って計算しましょう
  • 3. 2.3.1 条件付きガウス分布
  • 4. その前に 線形代数の復習
  • 5. 線形代数の復習
    • 2.3.1~2.3.3で使う線形代数の公式
  • 6. 線形代数の復習
    • 2.3.1~2.3.3で使う線形代数の公式
    両辺の転置をとる よって 両辺に A の逆行列を掛ける
  • 7. 線形代数の復習
    • 2.3.1~2.3.3で使う線形代数の公式
  • 8. 線形代数の復習
    • 2.3.1~2.3.3で使う線形代数の公式
    テキスト p.85 演習 2.24 右辺に        を掛ける M -1 M : シューア補行列
  • 9. 今度こそ 2.3.1 条件付きガウス分布
  • 10. 多変量ガウス分布
    • 多変量ガウス分布に従う確率変数
    • 確率変数ベクトル  の一部が得られたとき
    わからない わかった(得られた) 条件付分布        はどう書けるか?
    • 多変量ガウス分布に従う確率変数
    • 確率変数ベクトル  の一部が得られたとき
  • 11. 条件付き分布
    • 条件付き分布の定義
      •    の関数として         に比例する
    がガウス分布なら        もガウス分布 を   について整理し、   の 2 次項と 1 次項を求めればよい
  • 12. 計算方法
    • ガウス分布を求める
    •       = 平均ベクトルと分散共分散行列を求める
    と   がわかる 規格化する
  • 13. 計算方法
    • expの肩を求めればよい
    によらない項 exp の肩が以下のように書けた 分散共分散行列は対称 この形に書き下せばよい
  • 14. 計算方法
    • 条件付分布の場合
    と置いて 精度行列 を   について整理すればよい 平方完成
  • 15. 計算方法
    • 注意点
    よって 同様に
  • 16. 計算方法
    • 2次項
    • 1次項
    精度行列ではなく、分散共分散行列を使って書くと?
  • 17. 計算方法
    • さっきの公式
  • 18. 計算方法
    •     、    の式に代入
  • 19. 2.3.2 周辺ガウス分布
  • 20. 周辺分布
    • 条件付き分布がわかったので、周辺分布も知りたい
    について積分したい についてガウス分布の標準形にすれば(平方完成) 積分できる   
  • 21. 計算方法
    •   について平方完成する(expの肩)
    今度はこれを   について整理する (さっきは   について整理した)
  • 22. 計算方法
    •   による項
  • 23. 計算方法
    •   について積分すると
    に依存する項 に依存しない項(規格化定数に押し込める) 定数になる
  • 24. 計算方法
    • 定数以外の残った項 =   に依存する項
    を代入して頑張って整理すると
  • 25. 計算方法
    • まとめると
    について平方完成 について積分して整理
  • 26. 計算方法
    • まとめると
      • よって周辺分布の分散共分散行列は
      • 平均は
    について積分して整理
  • 27. 計算方法
    • 元の分散共分散行列を使って書くと
    • 結局
    周辺分布の平均 周辺分布の 分散共分散行列 分割したパラメータ そのもの!
  • 28. 条件付き分布と周辺分布
    • 条件付き分布
    • 周辺分布
  • 29. ていうか
  • 30. 周辺分布って じゃね? わざわざ積分とかする必要なくね?
  • 31. こっそり a と b を逆に書き換えれば…
  • 32. よって これを頑張って計算すればさっきと同じ結果が得られます 計算は省略!
  • 33. 2.3.3 ガウス変数に対するベイズの定理
  • 34. 条件付きモデル
    • これまでは同時分布が与えられてから条件付き分布、周辺分布を計算していた
    • 今度は条件付き分布と周辺分布を先に与えるモデルを考える
  • 35. 条件付きモデル
    • モデル
    • 求めたい分布
    とおいて を求めたい p(z) もガウス分布なのでこれまでと同じように 平均ベクトルと分散共分散行列を求めればよい 事前分布 (周辺分布) 条件付き分布
  • 36. 計算方法
    •      のexpの肩
    これを無理やり (?)z の関数として書き直す
  • 37. 計算方法
    • 2 次項
      • x または y についての 2 次項 =  z についての 2 次項
  • 38. 計算方法
    • 2次項
      •      の精度行列は
      • 分散共分散行列は
    逆行列の公式
  • 39. 計算方法
    • 1次項
    •     の平均は
  • 40. 周辺分布
    • 周辺分布の平均と分散
      • 周辺分布の平均ベクトルと分散共分散行列は同時分布の平均、分散共分散を単純に分割したものに等しかったことを思い出すと
    さっきの一般的公式
  • 41. 条件付き分布
    • 同様に条件付き分布については
    さっきの一般的公式 さっきの一般的公式
  • 42. まとめ
    • やったこと
      • 多変量ガウス分布の同時分布が与えられたときに、条件付き分布を計算した
      • 多変量ガウス分布の条件付き分布と周辺分布(事前分布)が与えられたときに同時分布、ベイズ事後分布を計算した