Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
5/12/2015 7th #ぞくパタ 1
続・わかりやすいパターン認識
第7章 マルコフモデル(pp.123-132)
@tanimocchi
5/12/2015 7th #ぞくパタ 2
自己紹介
 Twitter ID: @tanimocchi
(もっちぃ)
 修士(数学)、博士(情報科学)
 所属: Rの付く半導体
 仕事: 車載Security(産業も)
 ビジネスモデ...
5/12/2015 7th #ぞくパタ 3
7.1 マルコフ性とマルコフモデル
目的
・試行の独立性が成り立たず、過去の試行に
影響される場合を扱う
5/12/2015 7th #ぞくパタ 4
仮想的なサイコロ投げ [1/3]
 サイコロと聞くと“独立試行”と条件反射する前に……
 現実に存在するサイコロは、その出る目の確率が等確率で
はない(そんなサイコロは作れない)
 限りなく重心...
5/12/2015 7th #ぞくパタ 5
仮想的なサイコロ投げ [2/3]
 独立試行が成り立たない例
 出る目の確率が均等でないサイコロがc種類存在し、全体でc個
 全サイコロの目の数はm個
 c個のサイコロの中かから復元抽出に従い...
5/12/2015 7th #ぞくパタ 6
仮想的なサイコロ投げ [3/3]
 (t-1)回目のサイコロから、t回目のサイコロが選択される確率
 t回目のサイコロの出る目の確率
        
   
 ...
5/12/2015 7th #ぞくパタ 7
マルコフモデル
 これまで述べた構造は、確率的な状態遷移と確率的な出力
機能を備えたマルコフモデル(Markov Model)を表す
 マルコフ性(Markov property)
 現在の状態...
5/12/2015 7th #ぞくパタ 8
マルコフモデルの振る舞い
 試行の独立性が成り立たない
 出力は現状態にのみ依存して決定
次状態関数
(遷移確率)
状
態
出力関数
(出力確率)
出力記号
statetransition pro...
5/12/2015 7th #ぞくパタ 9
遷移確率と出力確率の行列表現 [1/3]
 遷移確率と出力確率の行列表現
次状態関数
(遷移確率)
aij
状
態
出力関数
(出力確率)
bjk
出力記号
state
output symbol
...
5/12/2015 7th #ぞくパタ 10
遷移確率と出力確率の行列表現 [2/3]
 c=3(サイコロω1,ω2,ω3の3個)、m=2(v1:奇数,v2:偶数)の例


















...
5/12/2015 7th #ぞくパタ 11
遷移確率と出力確率の行列表現 [3/3]
 c=3(サイコロω1,ω2,ω3の3個)、m=2(v1:奇数,v2:偶数)の例
   53.047.0
7.03.0
4.06.0
2.08.0...
5/12/2015 7th #ぞくパタ 12
7.2 マルコフモデルのパラメータ推定
目的
・観測結果からの遷移確率行列A、出力確率行列B、
及び初期状態確率ベクトルρ、の最尤推定
5/12/2015 7th #ぞくパタ 13
マルコフモデルを表現するための記号
 
 
 
 
   
    
 
 
 
      
 
 
  次元ベクトルを...
5/12/2015 7th #ぞくパタ 14
パラメータ最尤推定の問題設定
 例題7.1
 箱の中にc種のサイコロω1,ω2,…ωcがあり、その何れかを取り出し、サ
イコロの種類を確認した上でそのサイコロを投げ、出た目を観測した
後、サイコ...
5/12/2015 7th #ぞくパタ 15
尤度関数としての同時確率P(x,s)の算出
 P(x,s)= P(s)P(x|s)
 P(x|s)の算出
 P(s)の算出
 P(x,s)の算出
         
 ...
5/12/2015 7th #ぞくパタ 16
対数尤度関数logP(x,s)
 logP(x,s)の算出と最尤推定に向けた記号の導入
 上式のLρ、La、Lbは、それぞれパラメータρi、aij、bjkのみを含むので、logP(x,s)を最
...
5/12/2015 7th #ぞくパタ 17
定理5.1(p.82)再掲
 定理5.1
 
 
 nix
x
xxxxf
x
xxxxn
n
n
k
kii
i
n
i
iin
n
i
i
in
n
,,2,1
log,,
1
1...
5/12/2015 7th #ぞくパタ 18
Laの最大化
 ni:サイコロωiを取り出した回数
 mij:サイコロをωi,ωjと連続して取り出した回数
i
1
c
(t+1)回目
……………………
t回目
 回11 ii ma
...
5/12/2015 7th #ぞくパタ 19
Lbの最大化
 nj:サイコロωjを取り出した回数
 njk:サイコロωjを投げて出た目がvkであった回数
j
1v
mv
…………………… 回1j1 nbj
 回22 jj nb
...
5/12/2015 7th #ぞくパタ 20
Lρの最大化
 本例題で扱う観測データは完全データであるので、s1が
ω1,ω2,…ωcのいずれかであるかは既知。
 そこで、 s1=ωiであったと仮定する。
 すると下記が得られる。
 推...
5/12/2015 7th #ぞくパタ 21
Thanks a lot!
Upcoming SlideShare
Loading in …5
×

続・わかりやすいパターン認識 第7章「マルコフモデル」

3,736 views

Published on

続・わかりやすいパターン認識 第7章「マルコフモデル」

Published in: Data & Analytics
  • Be the first to comment

続・わかりやすいパターン認識 第7章「マルコフモデル」

  1. 1. 5/12/2015 7th #ぞくパタ 1 続・わかりやすいパターン認識 第7章 マルコフモデル(pp.123-132) @tanimocchi
  2. 2. 5/12/2015 7th #ぞくパタ 2 自己紹介  Twitter ID: @tanimocchi (もっちぃ)  修士(数学)、博士(情報科学)  所属: Rの付く半導体  仕事: 車載Security(産業も)  ビジネスモデル構築・市場開拓、セキュリティ・プロトコル/サーバ・ソ フト/DBスキーマの仕様設計・開発管理  プロセッサアーキテクチャ拡張仕様定義もこれから手伝う感じ?  とはいえ、統計解析とパターン認識・機械学習は必要! だと信じてる。  統数研公開講座に参加するかもですので、ご一緒の際は宜しくお願いします。  バイタル・センサシングでのある種の推定モデル開発にも従事
  3. 3. 5/12/2015 7th #ぞくパタ 3 7.1 マルコフ性とマルコフモデル 目的 ・試行の独立性が成り立たず、過去の試行に 影響される場合を扱う
  4. 4. 5/12/2015 7th #ぞくパタ 4 仮想的なサイコロ投げ [1/3]  サイコロと聞くと“独立試行”と条件反射する前に……  現実に存在するサイコロは、その出る目の確率が等確率で はない(そんなサイコロは作れない)  限りなく重心が中心にあるサイコロ:販売価格 ¥47,500 (税抜)  http://www.iriso-seimitsu.co.jp/tech/showcase3 6つの四角錘を組み合わせたとき、 設計理論上中心から各底面までの 距離の一致度は99.99999999%
  5. 5. 5/12/2015 7th #ぞくパタ 5 仮想的なサイコロ投げ [2/3]  独立試行が成り立たない例  出る目の確率が均等でないサイコロがc種類存在し、全体でc個  全サイコロの目の数はm個  c個のサイコロの中かから復元抽出に従い選択し、n回振る  ここで、t回目に取り出したサイコロは、(t-1)回目に取り出したサイコロに 依存して決定される          nt ts tvvvx ct mt ,,2,1 :,,, :,,, 21 21        ここで、  取り出したサイコロでの状態時点 サイコロの目での観測結果時点 
  6. 6. 5/12/2015 7th #ぞくパタ 6 仮想的なサイコロ投げ [3/3]  (t-1)回目のサイコロから、t回目のサイコロが選択される確率  t回目のサイコロの出る目の確率                 が成り立つ。  また、  ここで、    cia sPssP cjissPaant c j ij jij itjtjiij ,,2,11 ,,2,1,,,,,2,1 1 101 1          i 1 2 j c (t-1)回目 t回目 起 り 得 る 全 事 象 ……             が成り立つ。  また、     cjb cjisvxPvbbnt m k jk jtktkjjk ,,2,11 ,,2,1,,,,,2,1 1       j 1v 2v kv mv t回目に選択 したサイコロ そのサイコロの目 起 り 得 る 全 事 象 …… 前状態が現状態を決定 現状態が出力を決定 valuesymbolicsx tt :, 1ia 2ia ija ica 1jb 2jb jkb jmb valueconcretev jk :,
  7. 7. 5/12/2015 7th #ぞくパタ 7 マルコフモデル  これまで述べた構造は、確率的な状態遷移と確率的な出力 機能を備えたマルコフモデル(Markov Model)を表す  マルコフ性(Markov property)  現在の状態が一時点前の状態に依存して確率的に決まる特性  マルコフ過程(Markov process)  そのような特性を満たす過程  j重マルコフ過程(j-th order Markov process)  現在の状態が直前のj時点の状態に依存して確率的に決まるマルコフ過程  j=1のとき、単純マルコフ過程(simple Markov process) ← 以下これのみ扱う  マルコフ連鎖(Markov chain)  マルコフ過程の結果得られる状態の系列(確率的に状態が遷移していく過程) 次状態関数 (遷移確率) 状 態 出力関数 (出力確率) 出力記号 statetransition probability output probability output symbol 入力を伴わない特殊なムーア型ステートマシーン (次状態関数=遷移確率、出力関数=出力確率) 特殊な確率I/Oオートマトンとして定義する事も可能
  8. 8. 5/12/2015 7th #ぞくパタ 8 マルコフモデルの振る舞い  試行の独立性が成り立たない  出力は現状態にのみ依存して決定 次状態関数 (遷移確率) 状 態 出力関数 (出力確率) 出力記号 statetransition probability output probability output symbol                                        nnnn nnnn nn nn sxPsxPsxPsssxxxPP xsPxsPxsPxxxsssPP sPsPsPsssPP xPxPxPxxxPP ,,,,,,,,,,, ,,,,,, ,,, ,,, 22112121 22112121 2121 2121         sx xs s x          nnnn sxPsxPsxPsssxxxPP  22112121 ,,,,,, sx ts tx 1s 2s ts ns   1x 2x tx nx   Graphical Model 1s 2s ts ns   1x 2x tx nx   1s 2s ts ns   1x 2x tx nx  
  9. 9. 5/12/2015 7th #ぞくパタ 9 遷移確率と出力確率の行列表現 [1/3]  遷移確率と出力確率の行列表現 次状態関数 (遷移確率) aij 状 態 出力関数 (出力確率) bjk 出力記号 state output symbol  ccMaij ,               A  mcMbjk ,               B transition probability output probability    mjkijc vvvba         2121                      
  10. 10. 5/12/2015 7th #ぞくパタ 10 遷移確率と出力確率の行列表現 [2/3]  c=3(サイコロω1,ω2,ω3の3個)、m=2(v1:奇数,v2:偶数)の例                       7.03.0 4.06.0 2.08.0 , 6.01.03.0 7.01.02.0 5.04.01.0 BA             6.01.03.0 7.01.02.0 5.04.01.0 3 2 1 321                 7.03.0 4.06.0 2.08.0 3 2 1 21    vv   t回目のサイコロ(t - 1 )回 目 の サ イ コ ロ t 回 目 の サ イ コ ロ t回目の奇数・偶数 マルコフモデルの状態遷移図 ω1 ω2 ω3 0.1 0.1 0.4 0.2 0.5 0.3 0.6 0.1 0.7
  11. 11. 5/12/2015 7th #ぞくパタ 11 遷移確率と出力確率の行列表現 [3/3]  c=3(サイコロω1,ω2,ω3の3個)、m=2(v1:奇数,v2:偶数)の例    53.047.0 7.03.0 4.06.0 2.08.0 5.04.01.0 5.0 4.0 1.0 5.0 4.0 1.0 0 0 1 6.07.05.0 1.01.04.0 3.02.01.0 0 0 1 0 0 1                                                                                         B AA   次状態関数 (遷移確率) aij 状 態 出力関数 (出力確率) bjk 出力記号 output symbol    mjkijc vvvba         2121                       ω1 ω2 ω3 0.1 0.1 0.4 0.2 0.5 0.3 0.6 0.1 0.7 statetransition probability output probability
  12. 12. 5/12/2015 7th #ぞくパタ 12 7.2 マルコフモデルのパラメータ推定 目的 ・観測結果からの遷移確率行列A、出力確率行列B、 及び初期状態確率ベクトルρ、の最尤推定
  13. 13. 5/12/2015 7th #ぞくパタ 13 マルコフモデルを表現するための記号                                     次元ベクトルを成分としてもつ: の行列成分として持つを: の行列成分として持つを: を満たすである確率が状態:初期状態 を出力する確率で:状態 への遷移確率から状態:状態 出力記号系列:観測記号系列 :状態系列 回目に出た目出力記号での観測結果:時点 コロ回目に取り出したサイでの状態:時点 番目の目サイコロの番目の出力記号: 番目のサイコロ番目の状態: サイコロの目の数:出力記号の数 サイコロの種類数:状態数 :観測回数 ラメータ。はマルコフモデルのパ とする。特に、 以下、 c mckjb ccjia tsP vvbb aa xxx sss ttvvvx tts kkv ii m c n mkcji ic jk ij c i iiii kjkjjk jijiij n n mt ct k i       ,,, , , 11 ,, ,, ,,, ,,, ,,, ,,, ,,,2,1,,2,1, 21 11 21 21 21 21                 ρ B A x s ρBA
  14. 14. 5/12/2015 7th #ぞくパタ 14 パラメータ最尤推定の問題設定  例題7.1  箱の中にc種のサイコロω1,ω2,…ωcがあり、その何れかを取り出し、サ イコロの種類を確認した上でそのサイコロを投げ、出た目を観測した 後、サイコロを元の箱に戻すという操作をn回繰り返す。ここで、 1. 最初にサイコロωiを取り出す確率はρiである 2. サイコロωiを取り出した後にサイコロωjを取り出す確率はaijである 3. サイコロωjを投げて出た目がvkとなる確率はbjkである とする。但し、i,j=1,2,…,c, k=1,2,…,mである。その結果、サイコロの 目の系列としてx=x1x2…xt…xnが得られ、サイコロの種類の系列とし てs=s1ss2…st…snが得られた。このとき、観測結果から、A,B,ρを最尤 推定により推定せよ。  本例題は、xだけでなく、sの情報も得られており、完全データ を扱った教師付き学習  例題5.2に対して、マルコフ性を取り入れた例題
  15. 15. 5/12/2015 7th #ぞくパタ 15 尤度関数としての同時確率P(x,s)の算出  P(x,s)= P(s)P(x|s)  P(x|s)の算出  P(s)の算出  P(x,s)の算出                 tttttt n t nnnn sxPxsbxsb sxPsxPsxPsssxxxPP    ,, ,,,,,, 1 22112121      sx                   としたここで、   ,, ,,,,,, 1101 1 13221121 sPssassa ssassassasPsssPP tt n t nnn       s          tttt n t xsbssaPPP ,,, 1 1    sxssx
  16. 16. 5/12/2015 7th #ぞくパタ 16 対数尤度関数logP(x,s)  logP(x,s)の算出と最尤推定に向けた記号の導入  上式のLρ、La、Lbは、それぞれパラメータρi、aij、bjkのみを含むので、logP(x,s)を最 大化するにはLρ、La、Lbを、それらのパラメータに関してそれぞれ独立に最大化すれ ばよい。                                                                n t tt def b n t tt def a def ba n l ll n t tt ll n l tt n t tttt n t xsbL ssaL sPL sPssaLLLxsbssasP xsbssassaxsbssaP 1 1 1 1 1 110 1 1 1 11 1 1 1 1 101 1 , ,log log ,,,loglog ,,,log,,log,log          ここで、       sx
  17. 17. 5/12/2015 7th #ぞくパタ 17 定理5.1(p.82)再掲  定理5.1      nix x xxxxf x xxxxn n n k kii i n i iin n i i in n ,,2,1 log,, 1 10,, ,, 1 1 21 1 21 21                   は次式で与えられる。を最大にする    する。このときを満たしているものと    が拘束条件個の変数 がある。ここで、個の正の定数いま、   
  18. 18. 5/12/2015 7th #ぞくパタ 18 Laの最大化  ni:サイコロωiを取り出した回数  mij:サイコロをωi,ωjと連続して取り出した回数 i 1 c (t+1)回目 …………………… t回目  回11 ii ma  回22 ii ma  回ijij ma  回icic ma 回in ts 1ts  1, tt ssa 2 j 11 log ii am 22 log ii am ijij am log icic am log Concrete state transition Symbolic state transition      1 1 1,log n t tta ssaL                   c i c j ijij n t tta amssaL 1 1 1 1 1 log,log 1 1  c j ija i c j ij nm 1 最大化対象の関数 拘束条件 自明な条件 i ij c h ih ij ij n m m m a   1 ˆ 定理5.1 各遷移が、ni回中mij回発生
  19. 19. 5/12/2015 7th #ぞくパタ 19 Lbの最大化  nj:サイコロωjを取り出した回数  njk:サイコロωjを投げて出た目がvkであった回数 j 1v mv …………………… 回1j1 nbj  回22 jj nb  回jkjk nb  回jmjm nb 回jn ts tx  tt xsb , 2v kv 11 log jj bn 22 log jj bn jkjk bn log jmjm bn log Concrete output function Symbolic output function    n t ttb xsbL 1 ,log              c j m k jkjk n t ttb bnxsbL 1 11 log,log 1 1  m k jkb j m k jk nn 1 最大化対象の関数 拘束条件 自明な条件 j jk m l jl jk jk n n n n b   1 ˆ 定理5.1 t回目に選択 したサイコロ そのサイコロの目 各出力が、nj回中njk回発生
  20. 20. 5/12/2015 7th #ぞくパタ 20 Lρの最大化  本例題で扱う観測データは完全データであるので、s1が ω1,ω2,…ωcのいずれかであるかは既知。  そこで、 s1=ωiであったと仮定する。  すると下記が得られる。  推定値は上式を最大にするパラメータρであり、下記を得る   iisPL  loglog 1        ijj i  0ˆ 1ˆ         010    i 初期状態確率ベクトル
  21. 21. 5/12/2015 7th #ぞくパタ 21 Thanks a lot!

×