1. 1
2.3 ガウス分布
大阪 PRML 読書会
2014.04.27
@florets1

2. 2
ガウス分布とは

3. 3
ガウス分布はいろいろな場所に現れる
連続変数のエントロピーを最大化する分布は
ガウス分布である
「正規分布なんて、いろんな変動がごちゃまぜになったノイズだ。む
しろ正規分布っぽくない成分を探せ。意味のある情報はそこにい
る。」 プログラミングのための確率統計 P. 170
確率変数の和の分布はガウス分布に近づいていく

4. 4
楕円のイメージで別の座標系に

5. 5
ガウス分布によるモデル化の制限
•サイズの大きい行列は逆行列の計算が困難
共分散行列を対角（図 b ）や等方（図 c ）に制限して計算を高速
化
すると今度はモデルの表現力が制限される
•多峰性の分布をうまく近似できない
これらの問題に対処する工夫がいろいろあ
る！

6. 6
条件付きガウス分布と周辺ガウス分布
同時分布 p(Xa,Xb) がガウス分布であれば
•条件付き分布 p(Xa|Xb) もガウス分布
•周辺分布 p(Xa) もガウス分布

7. 6
条件付きガウス分布と周辺ガウス分布
同時分布 p(Xa,Xb) がガウス分布であれば
•条件付き分布 p(Xa|Xb) もガウス分布
•周辺分布 p(Xa) もガウス分布