確率の乗法定理P(A∩B) = P(A)P(B/A)・・① ABA∩BA⇒Bを入れ替えるとP(A∩B) = P(B)P(A/B) P(A∩B) =  P(A/B) P(B)・・② ①と②の左辺P(A∩B)共通なのでP(A)P(B/A) =  P(A/B) P(B)・・③ ③について、P(B)≠0を仮定し、P(A/B)について解くとP(B/A) P(A) P(A/B) = P(B)
ベイズ統計の基本(覚書)その1「Excelでスッキリわかるベイズ統計入門」(日本実業出版社)からのMEMOWeb Mining 勉強会
ベイズの定理H(仮定:原因)D(結果:データ)P(D/H):尤度=原因Hのもとで         現象の起こる尤もらしい確率P(H/D):結果から原因をさぐる          原因の確立=事後確率HDDHH(仮定:原因)D(結果:現象;データ)D(結果:現象:データ)H(仮定:原因)P(H/D):事後確率P(H): 事前確率P(D): 結果・現象=データ の起こる確率<尤度><事前確率>P(D/H) P(H) <事後確率>P(H/D) = P(D)
ベイズの展開公式H1、H2、H3はそれぞれ独立H1H2H3原因H1原因H2原因H3D∩H1D∩H2D∩H3データDDHをH1に置き換えるとP(D/H) P(H) P(D/H1) P(H1) P(H/D) = P(H1/D) = ・・①P(D)P(D)H1、H2、H3はそれぞれ独立とするとP(D)= P(D∩H1) +  P(D∩H2) +  P(D∩H3)  P(D)= P(D/H1)P(H1) + P(D/H2)P(H2) + P(D/H3)P(H3)  ・・②①に②を代入P(D/H1) P(H1) P(H1/D) = P(D/H1)P(H1) + P(D/H2)P(H2) + P(D/H3)P(H3)  ベイズの展開公式P(D/Hi) P(Hi) P(Hi/D) = P(D/H1)P(H1) + P(D/H2)P(H2) +・・+ P(D/Hi)P(Hi)  
ベイズ統計の基本公式母数が連続変数の場合のベイズの定理: 母数がθである確率公式として捉えなおす。<尤度><事前確率>P(D/θ) P(θ) P(D/H) P(H) <事後確率>P(θ/D) = P(H/D) = P(D)P(D)Θが連続的な値をとるとき、P(D)、P(D/θ)、P(θ/D)の解釈を「確率」⇒「確率密度」に変える。(事前確率) P(θ)   ⇒ (事前分布) π(θ)(尤度) P(D/θ)     ⇒ (尤度)    f(D/θ)(事後確率) P(θ/D)  ⇒ (事後分布) π(θ/D)<尤度><事前分布>f(D/θ) π(θ) <事後分布>π(θ/D) = P(D)・・データDを得る確率  ⇒データが与えられた後は一定な数値になる事後分布は、尤度と事前分布の積に比例する。事後分布π(θ/D) ∝ 尤度f(D/θ)×事前分布π(θ) 
ベイズ統計の基本公式の活用例<具体例:薬の効果θの事後分布>
ベイズ推定■統計的推定: 確率的な乗法から未知な値を決定すること■ベイズ推定: 事後確率や事後分布を用いて、不明の値を最適に決定           ⇒分布の代表値の推定を行う。「期待損失最小化」原理を活用■期待損失最小化: 平方損失θα2絶対損失θα一様損失θαα-α+●損失関数として平方損失を選んだ場合:平均値を母数の推定値として利用。ベイズ推定では、平均値算出に事後分布を使う●損失関数として一様損失を選んだ場合:最頻値を推定値として利用。⇒最大事後確率推定法(Maximum a posteriori estimation method)  =MAP推定法(推定値をMAP推定値)事後分布事後分布平均値MAP推定値

ベイズ基本0425