Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
確率の乗法定理<br />P(A∩B) = P(A)P(B/A)・・① <br />A<br />B<br />A∩B<br />A⇒Bを入れ替えると<br />P(A∩B) = P(B)P(A/B) <br />P(A∩B) =  P(A/B...
ベイズ統計の基本(覚書)<br />その1<br />「Excelでスッキリわかるベイズ統計入門」(日本実業出版社)<br />からのMEMO<br />Web Mining 勉強会<br />
ベイズの定理<br />H(仮定:原因)<br />D(結果:データ)<br />P(D/H):尤度=原因Hのもとで<br />         現象の起こる尤もらしい確率<br />P(H/D):結果から原因をさぐる<br />       ...
ベイズの展開公式<br />H1、H2、H3はそれぞれ独立<br />H1<br />H2<br />H3<br />原因H1<br />原因H2<br />原因H3<br />D∩H1<br />D∩H2<br />D∩H3<br />データ...
ベイズ統計の基本公式<br />母数が連続変数の場合のベイズの定理: 母数がθである確率公式として捉えなおす。<br /><尤度><br /><事前確率><br />P(D/θ) P(θ) <br />P(D/H) P(H) <br /><事後...
ベイズ統計の基本公式の活用例<br /><具体例:薬の効果θの事後分布><br />
ベイズ推定<br />■統計的推定: 確率的な乗法から未知な値を決定すること<br />■ベイズ推定: 事後確率や事後分布を用いて、不明の値を最適に決定<br />           ⇒分布の代表値の推定を行う。「期待損失最小化」原理を活用<...
Upcoming SlideShare
Loading in …5
×

ベイズ基本0425

1,390 views

Published on

memo

Published in: Education
  • Be the first to comment

  • Be the first to like this

ベイズ基本0425

  1. 1. 確率の乗法定理<br />P(A∩B) = P(A)P(B/A)・・① <br />A<br />B<br />A∩B<br />A⇒Bを入れ替えると<br />P(A∩B) = P(B)P(A/B) <br />P(A∩B) =  P(A/B) P(B)・・② <br />①と②の左辺P(A∩B)共通なので<br />P(A)P(B/A) =  P(A/B) P(B)・・③ <br />③について、P(B)≠0を仮定し、P(A/B)について解くと<br />P(B/A) P(A) <br />P(A/B) = <br />P(B)<br />
  2. 2. ベイズ統計の基本(覚書)<br />その1<br />「Excelでスッキリわかるベイズ統計入門」(日本実業出版社)<br />からのMEMO<br />Web Mining 勉強会<br />
  3. 3. ベイズの定理<br />H(仮定:原因)<br />D(結果:データ)<br />P(D/H):尤度=原因Hのもとで<br />         現象の起こる尤もらしい確率<br />P(H/D):結果から原因をさぐる<br />          原因の確立=事後確率<br />H<br />D<br />D<br />H<br />H(仮定:原因)<br />D(結果:現象;データ)<br />D(結果:現象:データ)<br />H(仮定:原因)<br />P(H/D)<br />:事後確率<br />P(H):<br /> 事前確率<br />P(D):<br /> 結果・現象=データ<br /> の起こる確率<br /><尤度><br /><事前確率><br />P(D/H) P(H) <br /><事後確率><br />P(H/D) = <br />P(D)<br />
  4. 4. ベイズの展開公式<br />H1、H2、H3はそれぞれ独立<br />H1<br />H2<br />H3<br />原因H1<br />原因H2<br />原因H3<br />D∩H1<br />D∩H2<br />D∩H3<br />データD<br />D<br />HをH1に置き換えると<br />P(D/H) P(H) <br />P(D/H1) P(H1) <br />P(H/D) = <br />P(H1/D) = <br />・・①<br />P(D)<br />P(D)<br />H1、H2、H3はそれぞれ独立とすると<br />P(D)= P(D∩H1) +  P(D∩H2) +  P(D∩H3)  <br />P(D)= P(D/H1)P(H1) + P(D/H2)P(H2) + P(D/H3)P(H3)  <br />・・②<br />①に②を代入<br />P(D/H1) P(H1) <br />P(H1/D) = <br />P(D/H1)P(H1) + P(D/H2)P(H2) + P(D/H3)P(H3)  <br />ベイズの展開公式<br />P(D/Hi) P(Hi) <br />P(Hi/D) = <br />P(D/H1)P(H1) + P(D/H2)P(H2) +・・+ P(D/Hi)P(Hi)  <br />
  5. 5. ベイズ統計の基本公式<br />母数が連続変数の場合のベイズの定理: 母数がθである確率公式として捉えなおす。<br /><尤度><br /><事前確率><br />P(D/θ) P(θ) <br />P(D/H) P(H) <br /><事後確率><br />P(θ/D) = <br />P(H/D) = <br />P(D)<br />P(D)<br />Θが連続的な値をとるとき、P(D)、P(D/θ)、P(θ/D)の解釈を「確率」⇒「確率密度」に変える。<br />(事前確率) P(θ)   ⇒ (事前分布) π(θ)<br />(尤度) P(D/θ)     ⇒ (尤度)    f(D/θ)<br />(事後確率) P(θ/D)  ⇒ (事後分布) π(θ/D)<br /><尤度><br /><事前分布><br />f(D/θ) π(θ) <br /><事後分布><br />π(θ/D) = <br />P(D)<br />・・データDを得る確率<br />  ⇒データが与えられた後は一定な数値になる<br />事後分布は、尤度と事前分布の積に比例する。<br />事後分布π(θ/D) ∝ 尤度f(D/θ)×事前分布π(θ) <br />
  6. 6. ベイズ統計の基本公式の活用例<br /><具体例:薬の効果θの事後分布><br />
  7. 7. ベイズ推定<br />■統計的推定: 確率的な乗法から未知な値を決定すること<br />■ベイズ推定: 事後確率や事後分布を用いて、不明の値を最適に決定<br />           ⇒分布の代表値の推定を行う。「期待損失最小化」原理を活用<br />■期待損失最小化: <br />平方損失<br />θ<br />α<br />2<br />絶対損失<br />θ<br />α<br />一様損失<br />θ<br />α<br />α-<br />α+<br />●損失関数として平方損失を選んだ場合:<br />平均値を母数の推定値として利用。<br />ベイズ推定では、平均値算出に事後分布を使う<br />●損失関数として一様損失を選んだ場合:<br />最頻値を推定値として利用。<br />⇒最大事後確率推定法(Maximum a posteriori estimation method)<br /> =MAP推定法(推定値をMAP推定値)<br />事後分布<br />事後分布<br />平均値<br />MAP推定値<br />

×