prml EMアルゴリズム

1. +
PRML 9章 EMアルゴリズム
Bread Company CEO すみもとぱんいち
17/02/04 1

2. +
9章 混合モデルとEM
n EMアルゴリズムってなに?
n Expectation Maximizationの略
n 日本語で期待値最大化
n これから詳しく説明していくよ!
17/02/04
2

3. +
潜在変数の導入
n 潜在変数の導入によって、複雑な分布を単純
な分布から構成することが可能になる
n 混合ガウス分布
n トピックモデル
n 複雑な分布って何？単純な分布って？
17/02/04
3

4. +
潜在変数の導入
17/02/04
4
こんなに複雑な確率分布を、
どうやって表現するのだろう？

5. +
潜在変数の導入
17/02/04
5
わかった!
ガウス分布の重み付き重ね合わせで
表現できるんだね！

6. +
潜在変数の導入
n 複雑な分布を、知っている単純な確率分布の
重み付き重ね合わせで表現できた
n 数式ではどうやってかくの？
17/02/04
6
p(x|✓) =
KX
k=1
p(x, z = k|✓)
重ね合わせ
ガウス分布かな？ 複雑な分布

7. +
潜在変数の導入
17/02/04
7
p(x|✓) =
KX
k=1
p(x, z = k|✓)
ガウス分布だろうけど...よくわからない。
そうだ、ベイズの定理をつかおう!
ガウス分布? 重み付きの、
p(x, z = k|✓) = p(z = k|⇡)p(x|z = k, µ, ⌃)

8. +
基本的な確率分布の復習
n カテゴリカル分布(離散分布)
n ガウス分布
17/02/04
8
p(z|⇡) = ⇧K
k=1⇡
(z=k)
k
p(z = k|⇡) = ⇡k
p(x|z = k, µ, ⌃) = N(x|µk, ⌃k)

9. +
潜在変数の導入
n 複雑な分布を単純な分布で表現することができた
17/02/04
9
p(x, z = k|✓) = p(z = k|⇡)p(x|z = k, µ, ⌃)
= ⇡kN(x|µk, ⌃k)
p(x|✓) =
KX
k=1
p(x, z = k|✓)
p(x|✓) =
KX
k=1
⇡kN(x|µk, ⌃k)

10. +
EMアルゴリズムによる学習
n どうやって複雑な分布
のパラメータの学習を
することができる？
n 最尤推定
n map推定
n ベイズ推定
17/02/04
10
p(x|✓) =
KX
k=1
⇡kN(x|µk, ⌃k)

11. +
最尤推定法
n まずは最尤推定法を思い出そう
17/02/04
11

12. +
最尤推定法
n まずは最尤推定法を思い出そう
n 対数尤度最大化を考えればよかったね。
17/02/04
12
log L =
NX
i=1
log p(xi|✓)

13. +
最尤推定法
n 複雑な分布を考えてるので、潜在変数を導入し
よう
17/02/04
13
log L =
NX
i=1
log p(xi|✓)
=
NX
i=1
log
KX
k=1
p(xi, zi = k|✓)

14. +
最尤推定法
n logLをパラメータθで微分してイコール0を
解くことで、対数尤度最大化を考えよう
n 具体的に、さっきまで考えてたガウス分布を
つかおう!
17/02/04
14
log L =
NX
i=1
log
KX
k=1
p(xi, zi = k|✓)

15. +
最尤推定法
n logLをパラメータπ、μ、Σで微分してイ
コール0を解けばよかったね。
n しかし、大体の混合分布の対数尤度は解析的
に解くことができない...
n 余力がある人はためしてみよう
17/02/04
15
log L =
NX
i=1
log
KX
k=1
⇡kN(xi|µk, ⌃k)

16. +
EMアルゴリズムによる学習
n それでは、どうすればいいのか
n 最急降下法
n EMアルゴリズム
n EMアルゴリズム
n logLの下限を最大化する
ことを考える
17/02/04
16
log L =
NX
i=1
log
KX
k=1
p(xi, zi = k|✓)

17. +
EMアルゴリズムによる学習
17/02/04
17
log L =
NX
i=1
log
KX
k=1
P(xi, zi = k|✓)
log L =
NX
i=1
log
KX
k=1
qi(zi = k)
P(xi, zi = k|✓)
qi(zi = k)
log L =
NX
i=1
KX
k=1
qi(zi = k) log
P(xi, zi = k|✓)
qi(zi = k)
+
NX
i=1
KX
k=1
qi(zi = k) log
qi(zi = k)
P(zi = k|xi, ✓)
log L
NX
i=1
KX
k=1
qi(zi = k) log
P(xi, zi = k|✓)
qi(zi = k)
= F
この項はKLダイバージェンスであり、
必ず正となる
任意の確率分布q(z)を導入
n logLの下限を求める

18. +
EMアルゴリズムによる学習
17/02/04
18
n logLを直接最大化できないので、下限Fを最
大化することを目標にする
n Fを最大にするパラメータθとｑを求めたい
n Fをqで微分して0とおくと、qは事後分布と
なる。
n KLダイバージェンスが0のときを考えてもよい
F =
NX
i=1
KX
k=1
qi(zi = k) log
P(xi, zi = k|✓)
qi(zi = k)
qi(zi = k) = P(zi = k|xi, ✓)

19. +
EMアルゴリズムによる学習
17/02/04
19
n 今度はパラメータθで微分
n このとき、qはθに依存しているため、qは
一旦固定して、Fを最大化する
n このとき、θは解析的に解くことができる!
F =
NX
i=1
KX
k=1
qi(zi = k) log
P(xi, zi = k|✓)
qi(zi = k)
qi(zi = k) = P(zi = k|xi, ✓)

20. +
EMアルゴリズムによる学習
17/02/04
20
n qとパラメータθを交互にもとめることで、
下限Fを最大化することができる
n 同時に対数尤度logLも最大化している
F =
NX
i=1
KX
k=1
qi(zi = k) log
P(xi, zi = k|✓)
qi(zi = k)
ˆ✓ = arg max
✓
NX
i=1
KX
k=1
qi(zi = k) log
P(xi, zi = k|✓)
qi(zi = k)
qi(zi = k) = P(zi = k|xi, ˆ✓)Estep:
Mstep:

21. +
予測分布
17/02/04
21
n 学習したパラメータをつかって、
複雑な分布を推定することができた
ˆ✓ = arg max
✓
NX
i=1
KX
k=1
qi(zi = k) log
P(xi, zi = k|✓)
qi(zi = k)
qi(zi = k) = P(zi = k|xi, ˆ✓)
p(x|ˆ✓) =
KX
k=1
p(x, z = k|ˆ✓)

22. +
EMアルゴリズムにおける期待値
17/02/04
22
n 期待値最大化の期待値はどこの部分をさすの？
n Mstepの式を書き換えると...?
n 完全対数尤度の事後分布による期待値だとわかる
ˆ✓ = arg max
✓
NX
i=1
KX
k=1
qi(zi = k) log
P(xi, zi = k|✓)
qi(zi = k)
qi(zi = k) = P(zi = k|xi, ˆ✓)Estep:
Mstep:
ˆ✓ = arg max
✓
NX
i=1
KX
k=1
qi(zi = k) log P(xi, zi = k|✓)

23. +
EMアルゴリズムにおける期待値
17/02/04
23
n この式の意味は？
n データがどのクラスタに属するかは実際にはわからない(b)
n どのクラスタにわりあてると、期待値的に、対数尤度が増加す
るかということを考えている
ˆ✓ = arg max
✓
NX
i=1
KX
k=1
qi(zi = k) log P(xi, zi = k|✓)