マルコフ連鎖モンテカルロ法入門-2
•
61 likes•19,132 views
マルコフ連鎖モンテカルロ法入門-1（http://www.slideshare.net/teramonagi/ss-5190440） の続き。お天気推移モデルを拡張して連続モデル（正規分布等）を構築。そのマルコフ連鎖モンテカルロ法をどうするのか？という点を解説。また合わせて熱浴法・メトロポリスヘイスティング法の解説も実施。
Recommended
More Related Content
What's hot
What's hot (20)
Similar to マルコフ連鎖モンテカルロ法入門-2
Similar to マルコフ連鎖モンテカルロ法入門-2 (20)
More from Nagi Teramo
More from Nagi Teramo (20)
Recently uploaded
Recently uploaded (9)
マルコフ連鎖モンテカルロ法入門-2
- 1. マルコフ連鎖モンテカルロ法入門ー2 ～お天気推移モデルから連続モデルへ～ @teramonagi
- 5. お天気推移モデルの復習 ■下図の赤字で書かれた推移確率に従って日々のお天気が 推移していくようなモデル ■例えば今日晴の場合、明日雨である確率は1/8、雪である確 率は1/4、再び晴となる確率は5/8となる 黒字：不変分布 ■このモデルを何日にもわ 赤字：推移確率 たってシミュレーションす ると、各お天気が出現す る確率は最終的にｔ（日に ち）に依らない一定の分 布へと辿りついた（不変分 布、図の黒数字）
- 11. 連続モデルとは－２ ■概念的に描くと下図のようなイメージ ■今までお天気推移モデルでは有限個の状態（＝お天 気）を扱っていたが、状態を無限個に増やす 連続モデル お天気推移モデル（３状態） （実際には全ての点を矢印で 結ぶけど描くのめんどい...)
- 16. メトロポリス法で正規乱数を生成 in R－２ #不変分布(今の場合は標準正規分布）返却関数。 #メトロポリス法を使う場合、前回の資料で述べたように規格化因子は必要ない！（もちろんあってもOK) InvariantDistribution <- function(x){ return(exp(-0.5 * x^2)) } #推移したい次の状態（以前はお天気、今は位置）を返却する関数 #適当でいいので今回は-0.5～0.5の一様乱数で移動先候補を決めた NextState <- function(x,dx){ return(x+dx*(runif(1)-0.5)) } size <- 10000 #サンプリング回数 result <- c() #結果格納 dx <- 10 #次の状態を決める時に使う適当な定数。値自体に深い意味はなし state.now <- 0 #現在の状態（位置） #メトロポリス法によるマルコフ連鎖の生成＆不変分布からのサンプリング for(i in 1:size){ result <- c(result,state.now) #遷移したい次の天気を指定 state.next <- NextState(state.now,dx) #メトロポリス法による推移確率の計算 transition.probability <- min(1, InvariantDistribution(state.next)/InvariantDistribution(state.now)) #推移確率に応じて状態を推移 state.now <- ifelse(transition.probability > runif(1),state.next,state.now) }
- 17. メトロポリス法で正規乱数を生成 in R－3 #結果の表示（シミュレーション結果のヒストグラムと正規分布の重ね描） hist(result,breaks=length(result)^0.5,freq=FALSE) lines(seq(-3,3,0.01),dnorm(seq(-3,3,0.01)),col=2,lwd=5) #平均と標準偏差がほぼ正規乱数の値0と１に！ > mean(result) [1] 0.0004929868 > sd(result) [1] 0.9942468
- 18. メトロポリス法で正規乱数を生成 in Rの解説 ■基本となるロジックは全てお天気推移モデルと同じ ■メトロポリス法では不変分布の比だけで推移確率が決まるの で、規格化因子は必要ない！ ■dxで推移先候補の選択範囲を調整している。これをうまく選 ぶと速く不変分布に収束したりする。adhocに設定。 ■推移先候補は一様乱数で選択しなくても、詳細釣り合いの条 件を満たすように「x→x'」への推移と「x'→x」への推移が候補と して選択される確率を等しくすればOK。詳細釣り合いの条件の 両辺に同じ数を掛けても詳細釣り合いの条件は成立するという こと 数式を使った詳しい話はやっぱり 「計算統計 2 マルコフ連鎖モンテカルロ法とその周辺」 の伊庭先生の章がvery good !
- 20. メトロポリス法で2次元正規乱数を生成 in R－２ #不変分布返却関数。前回同様規格化因子は必要ない InvariantDistribution <- function(x,cov.mat){ return(exp(-0.5*t(x)%*%solve(cov.mat)%*%x)) } #推移したい次の状態を返却する関数。角度と半径を指定して移動先を極座標のノリで決めてみた NextState <- function(x,dr){ radius <- dr*runif(1) theta <- 2*pi*runif(1) return(x + matrix(dr* c(cos(theta),sin(theta)),nrow=2)) } size <- 10000 #サンプリング回数 result <- c() #結果格納 dr <- 1 #次の状態を決める時に使う適当な定数。深い意味はなし cov.mat <- matrix(c(1,0.5,0.5,1),nrow=2)#共分散（分散１にしてるので、＝相関行列） state.now <- matrix(0,nrow=2)#現在の状態（位置） #メトロポリス法によるマルコフ連鎖の生成＆不変分布からのサンプリング for(i in 1:size){ result <- cbind(result,state.now) #遷移したい次の天気を指定 state.next <- NextState(state.now,dr) #メトロポリス法による推移確率の計算 transition.probability <- min(1, InvariantDistribution(state.next,cov.mat)/InvariantDistribution(state.now,cov.mat)) #推移確率に応じて状態を推移(ifelseのままだと値１個しか返してきよらんかった・・・） if(transition.probability > runif(1)){ state.now <- state.next } }
- 21. メトロポリス法で2次元正規乱数を生成 in R－３ #結果の表示 plot(t(result)) #平均値と標準偏差、相関行列。 > apply(result,1,mean) [1] 0.00603927 -0.01952479 > apply(result,1,sd) [1] 1.014926 1.019436 > cor(t(result)) [,1] [,2] [1,] 1.0000000 0.5099159 [2,] 0.5099159 1.0000000
- 22. メトロポリス法で2次元正規乱数を生成 in R－4 #多次元正規分布を発生できるRのライブラリと比較（目視） install.packages("mvtnorm")#未インストールの場合 library(mvtnorm) cov.mat <- matrix(c(1,0.5,0.5,1), ncol=2)#相関行列は同じ plot(rmvnorm(10000,c(0,0),cov.mat)) 自作マルコフ連鎖モンテカルロ mvtnormパッケージより 法 （前ページの図）
- 23. メトロポリス法でよくわからん分布を生成 in R－１ ■「正規分布に従う乱数なんてすぐ作れますわ。マルコフ連鎖 モンテカルロ法なんていらないですわ…」と言われそう ■それならば 「exp(-(x+7))」（1次元,x>=-7で左記値,それ以外で は０）に従うような乱数を発生させてみようではないか！ ■よくやる方法だと「逆関数法」を使うが、累積分布関数の逆関 数を計算しないといけない。おまけに規格化も気にしないとい けない・・・ マルコフ連鎖モンテカルロ法なら超簡単！ （１次元正規分布のコードを１行修正でおしまい！）
- 25. メトロポリス法でよくわからん分布を生成 in R－３ #よくわからん不変分布返却関数 InvariantDistribution <- function(x){ return(ifelse(x>=-7,exp(-(x+7)),0)) } #推移したい次の状態（以前はお天気、今は位置）を返却する関数 #適当でいいので今回は-0.5～0.5の一様乱数で移動先候補を決めた NextState <- function(x,dx){ return(x+dx*(runif(1)-0.5)) } size <- 10000 #サンプリング回数 result <- c() #結果格納 dx <- 10 #次の状態を決める時に使う適当な定数。値自体に深い意味はなし state.now <- 0 #現在の状態（位置） #メトロポリス法によるマルコフ連鎖の生成＆不変分布からのサンプリング for(i in 1:size){ result <- c(result,state.now) #遷移したい次の天気を指定 state.next <- NextState(state.now,dx) #メトロポリス法による推移確率の計算 transition.probability <- min(1, InvariantDistribution(state.next)/InvariantDistribution(state.now)) #推移確率に応じて状態を推移 state.now <- ifelse(transition.probability > runif(1),state.next,state.now) }
- 26. メトロポリス法でよくわからん分布を生成 in R－４ #結果の表示（ヒストグラムとして結果表示&よくわからん分布重ねがき） hist(result,breaks=length(result)^0.5,freq=FALSE) lines(seq(-7,0,0.01),exp(-(seq(-7,0,0.01)+7)),col=2,lwd=5) #平均と標準偏差もみておく #たぶん手計算の値に近い（はず！） > mean(result) [1] -5.995345 > sd(result) [1] 1.056846
- 31. 熱浴法（ギブスサンプラー）－３ ■熱浴法が詳細釣り合いの条件満たすことの証明 ※ここでは２次元の分布を考えて、状態更新する際にある１ 次元の状態のみを動かたケース（前頁参照）を証明してい る。一般の場合も同様に可能
- 34. 熱浴法で2次元正規乱数を生成 in R－２ ■アルゴリズム Step0:最初の状態（＝位置）をてきとーに決める Step1:熱浴法で条件付確率からサンプリング(x_1) Step2:熱浴法で条件付確率からサンプリング(x_0) ※更新したx_1を使う Step3:気が済んだ⇒End、気が済まない⇒Step1へ ■メトロポリス法のように乱数を振って推移先候補を選択 することはない（前述） ■従って、その分高速になる ■その反面、条件付確率をあらかじめ求めておかないと いけない
- 35. 熱浴法で2次元正規乱数を生成 in R－３ #条件付分布関数 #標準正規分布を発生させて平均と分散を調整し、望む条件付確率にしている ConditionalDistribution <- function(fixed,correlation){ return(correlation*fixed + sqrt(1-correlation^2)*rnorm(1)) } size <- 10000 #サンプリング回数 result <- c() #結果格納 correlation <- 0.5 #相関 state.now <- matrix(0,nrow=2)#現在の状態（位置） #メトロポリス法によるマルコフ連鎖の生成＆不変分布からのサンプリング for(i in 1:size){ result <- cbind(result,state.now) #熱浴法による推移計算,前回のx.0を使ってx.1を決めて、そのx.1を使ってx.0を更新する x.1 <- ConditionalDistribution(state.now[1,1],correlation) x.0 <- ConditionalDistribution(x.1,correlation) #状態の更新 state.now <- matrix(c(x.0, x.1),nrow=2) }
- 36. 熱浴法で2次元正規乱数を生成 in R－４ #結果の表示 plot(t(result)) #平均値と標準偏差、相関行列。 > apply(result,1,mean) [1] -0.01151708 -0.01209051 > apply(result,1,sd) [1] 1.0034438 0.9926755 > cor(t(result)) [,1] [,2] [1,] 1.000000 0.495733 [2,] 0.495733 1.000000
- 39. メトロポリスヘイスティング法－３ ■Q(x,x')=Pr{x' | x}とすると となって熱浴法が再現される。 これで 「メトロポリスヘイスティング法∋熱浴、メトロポリス法」 となることがわかった。
- 41. ５：まとめ
- 43. まとめ－２ ■メトロポリス法以外にも、推移確率を詳細釣り合いの条件を 満たすように決定する手法は存在する。その例として熱浴法・ メトロポリスヘイスティング法を紹介 ■メトロポリス法、熱浴法 ∈ メトロポリスヘイスティング法 ■Next Steps are .... ・入門編は終わったので応用編へ （モンテカルロ積分、ベイズ推定への応用） ・拡張アンサンブル法へ？（実はお師匠の技ーっ！） ・・・・・・・etc （最近、モンテカルロフィルタの勉強したいんでそれやるかも）