PRML_2.3.1~2.3.3

PRML 復習レーン 2.3.1 – 2.3.3 2010 年 5 月 30 日石川　康太 (twitter: @_kohta)

ひたすら頑張って計算しましょう

2.3.1 条件付きガウス分布

その前に線形代数の復習

線形代数の復習 ,[object Object]

線形代数の復習 ,[object Object],両辺の転置をとるよって両辺に A の逆行列を掛ける

線形代数の復習 ,[object Object],テキスト p.85 演習 2.24 右辺に　　　　　　　　を掛ける M -1 M ：　シューア補行列

今度こそ 2.3.1 条件付きガウス分布

多変量ガウス分布 ,[object Object],[object Object],わからないわかった（得られた）条件付分布　　　　　　　　はどう書けるか？ ,[object Object],[object Object]

条件付き分布 ,[object Object],[object Object],がガウス分布なら　　　　　　　　もガウス分布を　　　について整理し、　　の 2 次項と 1 次項を求めればよい

計算方法 ,[object Object],[object Object],と　　　がわかる規格化する

計算方法 ,[object Object],によらない項 exp の肩が以下のように書けた分散共分散行列は対称この形に書き下せばよい

計算方法 ,[object Object],と置いて精度行列を　　　について整理すればよい平方完成

計算方法 ,[object Object],よって同様に

計算方法 ,[object Object],[object Object],精度行列ではなく、分散共分散行列を使って書くと？

周辺分布 ,[object Object],について積分したいについてガウス分布の標準形にすれば（平方完成）積分できる

計算方法 ,[object Object],今度はこれを　　　について整理する（さっきは　　　について整理した）

計算方法 ,[object Object],に依存する項に依存しない項（規格化定数に押し込める）定数になる

計算方法 ,[object Object],を代入して頑張って整理すると

計算方法 ,[object Object],について平方完成について積分して整理

計算方法 ,[object Object],[object Object],[object Object],について積分して整理

計算方法 ,[object Object],[object Object],周辺分布の平均周辺分布の分散共分散行列分割したパラメータそのもの！

条件付き分布と周辺分布 ,[object Object],[object Object]

周辺分布ってじゃね？わざわざ積分とかする必要なくね？

こっそり a と b を逆に書き換えれば…

よってこれを頑張って計算すればさっきと同じ結果が得られます計算は省略！

2.3.3 ガウス変数に対するベイズの定理

条件付きモデル ,[object Object],[object Object]

条件付きモデル ,[object Object],[object Object],とおいてを求めたい p(z) もガウス分布なのでこれまでと同じように平均ベクトルと分散共分散行列を求めればよい事前分布（周辺分布）条件付き分布

計算方法 ,[object Object],これを無理やり (?)z の関数として書き直す

計算方法 ,[object Object],[object Object]

計算方法 ,[object Object],[object Object],[object Object],逆行列の公式

周辺分布 ,[object Object],[object Object],さっきの一般的公式

条件付き分布 ,[object Object],さっきの一般的公式さっきの一般的公式

まとめ ,[object Object],[object Object],[object Object]

Recommended