SlideShare a Scribd company logo
1 of 21
Download to read offline
3 5 71.
2
2
3 5 71.
•
•
!(#|%, ', () = + )!(#|,, ()!(,|%, ', ( -,
).(#|/(0, ,), (12
).(,|34, 54
6,78(0
.(#| 634
78(0 , (12 + 8 0 7 )548(0 )
12 / 0, , 7 (5, .
6
1 2 4 )3
/ 0, , = :(,7
8(0))
4 )3
, .
6
)!(0) = .(0|;, <12
)!(=|0) = .(=|>0 + ?, @12
6!(=) = .(=|>; + ?, @12 + ><12>7 1
1
!(#, %) '
3 5 71.
2
2
3 5 71.
!
"
)$("|!, (, )) = +("|,(!, (), )-.
2(
)$((|/) = +((|0, /-.1
$(2|(, )) = 3
45.
6
)+("4|,(74, (), )-.
)$((|2, /, )) ∝ $((|/)$(2|(, )
. .
,(!, ()1(
3
( .
.
.
.
54 :
ln#(%|') = −
+
2
%-
% −
.
2
/
012
3
4(56, %) − 80
9
+ ;<=>8.
%@AB
:
C = −DDln#(%|', +, .) = +E + .F
54 .
)"($|&) = (($|$)*+, -./
0(1|2, &) = 30(1|2, $)"($|&)4$
2 ,
5 6, $ ,$ , 4
5 6, $ 7)*+ ) 3 1
( , .
)0(1|6, $, 8) = ((1|5(6, $), 8./
)0(6) = ((6|9, :./
)0(;|6) = ((;|-6 + =, >./
?0(;) = ((;|-9 + =, >./ + -:./-@
2
5
!"($, &) ≃ "($, &)*+) + -.(& − &)*+
- = 1&"($, &)|&3&456
7(8|9, :) = ;7(8|9, &)<(&|:)=&
7(8|9, >, ?) ≃ @(t|" $, &)*+ + -. & − &)*+ , ?BC)
)<(&|:) = @(&|&)*+, DBC
" $, & E)*+
,
)"($) = &($|(, *+,
)"(-|$) = &(-|.$ + 0, 1+,
2"(-) = &(-|.( + 0, 1+,
+ .*+,
.3. 3
"(4|5, 6, 7) ≃ &(t|: $, ;<=> + ?3
; − ;<=> , 7+,
)
)A(;|B) = &(;|;<=>, .+,
)"(4|$, B) = &(4|: $, ;<=> , CD($)
CD($) 7+, ?3.+,?
. 3
=4 8 + ; =:(5E, ;)
3
3 5 71.
2
2
3 5 71.
B !, #. )
$(&|!, #) = *$(&|+, #)$(+|!),+
ln$(&|!, #) ≃ −1(+234) −
1
2
ln|7| +
9
2
ln! +
:
2
ln# −
:
2
ln(2;)
1(+234) =
#
2
<
=>?
@
A(B=, +234) − C=
D
+
!
2
+234
E
+234
2
0 1 2
(2 )
( ) ( )
W
Z f z dz f z
A
p
= =ò
F(+) $(&|+, #)$(+|!)
G $(&|!, #)
F(+234) $(&|+234, #)$(+234|!)
C
314 (
314 15 ) =
!, #
#$%& = (%&
$ )*+,.
! =
-
)*+,
. )*+,
1
W
i
i i
l
g
l a=
=
+
å
ln1(3|!, #) ≃ −
#
2
9
:;<
=
>(?:, )*+,) − @:
A
−
!
2
)*+,
.
)*+, −
1
2
ln|C| +
E
2
ln! +
F
2
ln# −
F
2
ln(2G)
!, #.
ln|C|2
C = !H + #$
3
1
#
=
1
F − -
9
:;<
=
>(?:, )*+,) − @:
A
• !, #2
5 3
!, #2 2 3
• !, #
!, #
)%('|)
'*+, '
)-('|'*+,, ./0
'*+, %()|!, #)
12%()|!, #) !, #
!, # 3!, 4#
3!, 4#
5
5 !(#| %&, ())
15 .
1 1
! # %&, () ∗ 3! 2/ ! # %&, () ∗ 4! 21
. 2345
6! 23
5 1
3 5 71.
2
2
3 5 71.
.
ln#(%|') = *
+,-
.
/+ln0+ + (1 − /+)ln(1 − 0+)
}/+ ∈ {0,1
)0+ = 0(9+, '
0
:;
:-
:<
. =
)#('|>) = ?('|@, >A-B
C-
CD
8 4 !"#$ .
5 % )
.
•
)'(!|!"#$, +,-
• 8 4.
ln1(2|.) ≃ −5(!"#$) −
1
2
ln|8| +
:
2
ln.
5(!"#$) = <
=>-
?
@=lnA= + (1 − @=)ln(1 − A=) +
.
2
!"#$
B
!"#$
)A= = A(C=, !"#$
. =
D
!"#$
B
!"#$
. (
!(#|%, ') = *!(#|%, +),(+|')-+
! # ., + = / %0+ = 1(2 %, + )
5 ,
32(%, +) ≃ 2(%, +567) + 9:(+ − +567
9 = <2(%, +567)
!(2|%, ') = *=(2 − 2 %, +567 − 9:
+ − +567 ),(+|')-+
!(2|%, ') = >(2|2 %, +567 , 1?
@
(%))
1?
@(%) = 9:(%)ABC9(%)
!(# = 1|%, ') = *1(2)!(2|%, ')-2
! # = 1 %, ' = )1(E(1?
@)2567
E .(4.154)
42
4
! " = 1 %, ' = ))(+(),
-)./01! " %, 2/01 = )(. %, 2/01 )
. , 5 9 A
01
,

More Related Content

What's hot

PRML復々習レーン#9 6.3-6.3.1
PRML復々習レーン#9 6.3-6.3.1PRML復々習レーン#9 6.3-6.3.1
PRML復々習レーン#9 6.3-6.3.1sleepy_yoshi
 
PRML エビデンス近似 3.5 3.6.1
PRML エビデンス近似  3.5 3.6.1PRML エビデンス近似  3.5 3.6.1
PRML エビデンス近似 3.5 3.6.1tmtm otm
 
PRML ベイズロジスティック回帰 4.5 4.5.2
PRML ベイズロジスティック回帰 4.5 4.5.2PRML ベイズロジスティック回帰 4.5 4.5.2
PRML ベイズロジスティック回帰 4.5 4.5.2tmtm otm
 
PRML輪読#7
PRML輪読#7PRML輪読#7
PRML輪読#7matsuolab
 
PRML輪読#3
PRML輪読#3PRML輪読#3
PRML輪読#3matsuolab
 
PRML輪読#8
PRML輪読#8PRML輪読#8
PRML輪読#8matsuolab
 
PRML第9章「混合モデルとEM」
PRML第9章「混合モデルとEM」PRML第9章「混合モデルとEM」
PRML第9章「混合モデルとEM」Keisuke Sugawara
 
データ解析1 ベクトルの復習
データ解析1 ベクトルの復習データ解析1 ベクトルの復習
データ解析1 ベクトルの復習Hirotaka Hachiya
 
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)Itaru Otomaru
 
パターン認識と機械学習 §6.2 カーネル関数の構成
パターン認識と機械学習 §6.2 カーネル関数の構成パターン認識と機械学習 §6.2 カーネル関数の構成
パターン認識と機械学習 §6.2 カーネル関数の構成Prunus 1350
 
データ解析14 ナイーブベイズ
データ解析14 ナイーブベイズデータ解析14 ナイーブベイズ
データ解析14 ナイーブベイズHirotaka Hachiya
 
状態空間モデルの実行方法と実行環境の比較
状態空間モデルの実行方法と実行環境の比較状態空間モデルの実行方法と実行環境の比較
状態空間モデルの実行方法と実行環境の比較Hiroki Itô
 
Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Yuki Matsubara
 
PRML 5章 PP.227-PP.247
PRML 5章 PP.227-PP.247PRML 5章 PP.227-PP.247
PRML 5章 PP.227-PP.247Tomoki Hayashi
 
PRMLの線形回帰モデル(線形基底関数モデル)
PRMLの線形回帰モデル(線形基底関数モデル)PRMLの線形回帰モデル(線形基底関数モデル)
PRMLの線形回帰モデル(線形基底関数モデル)Yasunori Ozaki
 

What's hot (20)

PRML復々習レーン#9 6.3-6.3.1
PRML復々習レーン#9 6.3-6.3.1PRML復々習レーン#9 6.3-6.3.1
PRML復々習レーン#9 6.3-6.3.1
 
PRML エビデンス近似 3.5 3.6.1
PRML エビデンス近似  3.5 3.6.1PRML エビデンス近似  3.5 3.6.1
PRML エビデンス近似 3.5 3.6.1
 
PRML ベイズロジスティック回帰 4.5 4.5.2
PRML ベイズロジスティック回帰 4.5 4.5.2PRML ベイズロジスティック回帰 4.5 4.5.2
PRML ベイズロジスティック回帰 4.5 4.5.2
 
PRML輪読#7
PRML輪読#7PRML輪読#7
PRML輪読#7
 
PRML輪読#3
PRML輪読#3PRML輪読#3
PRML輪読#3
 
PRML輪読#8
PRML輪読#8PRML輪読#8
PRML輪読#8
 
PRML第9章「混合モデルとEM」
PRML第9章「混合モデルとEM」PRML第9章「混合モデルとEM」
PRML第9章「混合モデルとEM」
 
データ解析1 ベクトルの復習
データ解析1 ベクトルの復習データ解析1 ベクトルの復習
データ解析1 ベクトルの復習
 
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
 
Prml07
Prml07Prml07
Prml07
 
パターン認識と機械学習 §6.2 カーネル関数の構成
パターン認識と機械学習 §6.2 カーネル関数の構成パターン認識と機械学習 §6.2 カーネル関数の構成
パターン認識と機械学習 §6.2 カーネル関数の構成
 
データ解析14 ナイーブベイズ
データ解析14 ナイーブベイズデータ解析14 ナイーブベイズ
データ解析14 ナイーブベイズ
 
状態空間モデルの実行方法と実行環境の比較
状態空間モデルの実行方法と実行環境の比較状態空間モデルの実行方法と実行環境の比較
状態空間モデルの実行方法と実行環境の比較
 
Prml nn
Prml nnPrml nn
Prml nn
 
Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜
 
PRML 5章 PP.227-PP.247
PRML 5章 PP.227-PP.247PRML 5章 PP.227-PP.247
PRML 5章 PP.227-PP.247
 
PRML 2.4
PRML 2.4PRML 2.4
PRML 2.4
 
Chapter6.4
Chapter6.4Chapter6.4
Chapter6.4
 
PRMLの線形回帰モデル(線形基底関数モデル)
PRMLの線形回帰モデル(線形基底関数モデル)PRMLの線形回帰モデル(線形基底関数モデル)
PRMLの線形回帰モデル(線形基底関数モデル)
 
Chapter2.3.6
Chapter2.3.6Chapter2.3.6
Chapter2.3.6
 

More from tmtm otm

テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明tmtm otm
 
自然言語処理における深層学習を用いた予測の不確実性 - Predictive Uncertainty in NLP -
自然言語処理における深層学習を用いた予測の不確実性  - Predictive Uncertainty in NLP -自然言語処理における深層学習を用いた予測の不確実性  - Predictive Uncertainty in NLP -
自然言語処理における深層学習を用いた予測の不確実性 - Predictive Uncertainty in NLP -tmtm otm
 
予測の不確かさのユーザー調査
予測の不確かさのユーザー調査予測の不確かさのユーザー調査
予測の不確かさのユーザー調査tmtm otm
 
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -tmtm otm
 
[論文紹介] 機械学習システムの安全性における未解決な問題
[論文紹介] 機械学習システムの安全性における未解決な問題[論文紹介] 機械学習システムの安全性における未解決な問題
[論文紹介] 機械学習システムの安全性における未解決な問題tmtm otm
 
ICML 2021 Workshop 深層学習の不確実性について
ICML 2021 Workshop 深層学習の不確実性についてICML 2021 Workshop 深層学習の不確実性について
ICML 2021 Workshop 深層学習の不確実性についてtmtm otm
 
Bayesian Neural Networks : Survey
Bayesian Neural Networks : SurveyBayesian Neural Networks : Survey
Bayesian Neural Networks : Surveytmtm otm
 
PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門tmtm otm
 
PRML 条件付き混合モデル 14.5
PRML 条件付き混合モデル 14.5PRML 条件付き混合モデル 14.5
PRML 条件付き混合モデル 14.5tmtm otm
 
PRML 多項式曲線フィッティング 1.1
PRML 多項式曲線フィッティング 1.1PRML 多項式曲線フィッティング 1.1
PRML 多項式曲線フィッティング 1.1tmtm otm
 
PRML 2.3.7 2.3.9
PRML 2.3.7 2.3.9PRML 2.3.7 2.3.9
PRML 2.3.7 2.3.9tmtm otm
 
PRML カーネルPCA 12.2.3 12.3
PRML カーネルPCA 12.2.3 12.3PRML カーネルPCA 12.2.3 12.3
PRML カーネルPCA 12.2.3 12.3tmtm otm
 
PRML RVM 7.2 7.2.3
PRML RVM 7.2 7.2.3PRML RVM 7.2 7.2.3
PRML RVM 7.2 7.2.3tmtm otm
 
PRML EP法 10.7 10.7.2
PRML EP法 10.7 10.7.2 PRML EP法 10.7 10.7.2
PRML EP法 10.7 10.7.2 tmtm otm
 

More from tmtm otm (14)

テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明
 
自然言語処理における深層学習を用いた予測の不確実性 - Predictive Uncertainty in NLP -
自然言語処理における深層学習を用いた予測の不確実性  - Predictive Uncertainty in NLP -自然言語処理における深層学習を用いた予測の不確実性  - Predictive Uncertainty in NLP -
自然言語処理における深層学習を用いた予測の不確実性 - Predictive Uncertainty in NLP -
 
予測の不確かさのユーザー調査
予測の不確かさのユーザー調査予測の不確かさのユーザー調査
予測の不確かさのユーザー調査
 
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
 
[論文紹介] 機械学習システムの安全性における未解決な問題
[論文紹介] 機械学習システムの安全性における未解決な問題[論文紹介] 機械学習システムの安全性における未解決な問題
[論文紹介] 機械学習システムの安全性における未解決な問題
 
ICML 2021 Workshop 深層学習の不確実性について
ICML 2021 Workshop 深層学習の不確実性についてICML 2021 Workshop 深層学習の不確実性について
ICML 2021 Workshop 深層学習の不確実性について
 
Bayesian Neural Networks : Survey
Bayesian Neural Networks : SurveyBayesian Neural Networks : Survey
Bayesian Neural Networks : Survey
 
PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門
 
PRML 条件付き混合モデル 14.5
PRML 条件付き混合モデル 14.5PRML 条件付き混合モデル 14.5
PRML 条件付き混合モデル 14.5
 
PRML 多項式曲線フィッティング 1.1
PRML 多項式曲線フィッティング 1.1PRML 多項式曲線フィッティング 1.1
PRML 多項式曲線フィッティング 1.1
 
PRML 2.3.7 2.3.9
PRML 2.3.7 2.3.9PRML 2.3.7 2.3.9
PRML 2.3.7 2.3.9
 
PRML カーネルPCA 12.2.3 12.3
PRML カーネルPCA 12.2.3 12.3PRML カーネルPCA 12.2.3 12.3
PRML カーネルPCA 12.2.3 12.3
 
PRML RVM 7.2 7.2.3
PRML RVM 7.2 7.2.3PRML RVM 7.2 7.2.3
PRML RVM 7.2 7.2.3
 
PRML EP法 10.7 10.7.2
PRML EP法 10.7 10.7.2 PRML EP法 10.7 10.7.2
PRML EP法 10.7 10.7.2
 

PRML BNN 5.7 5.7.3

  • 1.
  • 4. !(#|%, ', () = + )!(#|,, ()!(,|%, ', ( -, ).(#|/(0, ,), (12 ).(,|34, 54 6,78(0 .(#| 634 78(0 , (12 + 8 0 7 )548(0 ) 12 / 0, , 7 (5, . 6 1 2 4 )3 / 0, , = :(,7 8(0)) 4 )3 , . 6 )!(0) = .(0|;, <12 )!(=|0) = .(=|>0 + ?, @12 6!(=) = .(=|>; + ?, @12 + ><12>7 1
  • 7. ! " )$("|!, (, )) = +("|,(!, (), )-. 2( )$((|/) = +((|0, /-.1 $(2|(, )) = 3 45. 6 )+("4|,(74, (), )-. )$((|2, /, )) ∝ $((|/)$(2|(, ) . . ,(!, ()1( 3 ( . . .
  • 8. . 54 : ln#(%|') = − + 2 %- % − . 2 / 012 3 4(56, %) − 80 9 + ;<=>8. %@AB : C = −DDln#(%|', +, .) = +E + .F 54 .
  • 9. )"($|&) = (($|$)*+, -./ 0(1|2, &) = 30(1|2, $)"($|&)4$ 2 , 5 6, $ ,$ , 4 5 6, $ 7)*+ ) 3 1 ( , . )0(1|6, $, 8) = ((1|5(6, $), 8./ )0(6) = ((6|9, :./ )0(;|6) = ((;|-6 + =, >./ ?0(;) = ((;|-9 + =, >./ + -:./-@ 2 5
  • 10. !"($, &) ≃ "($, &)*+) + -.(& − &)*+ - = 1&"($, &)|&3&456 7(8|9, :) = ;7(8|9, &)<(&|:)=& 7(8|9, >, ?) ≃ @(t|" $, &)*+ + -. & − &)*+ , ?BC) )<(&|:) = @(&|&)*+, DBC " $, & E)*+ ,
  • 11. )"($) = &($|(, *+, )"(-|$) = &(-|.$ + 0, 1+, 2"(-) = &(-|.( + 0, 1+, + .*+, .3. 3 "(4|5, 6, 7) ≃ &(t|: $, ;<=> + ?3 ; − ;<=> , 7+, ) )A(;|B) = &(;|;<=>, .+, )"(4|$, B) = &(4|: $, ;<=> , CD($) CD($) 7+, ?3.+,? . 3 =4 8 + ; =:(5E, ;) 3
  • 12. 3 5 71. 2 2 3 5 71.
  • 13. B !, #. ) $(&|!, #) = *$(&|+, #)$(+|!),+ ln$(&|!, #) ≃ −1(+234) − 1 2 ln|7| + 9 2 ln! + : 2 ln# − : 2 ln(2;) 1(+234) = # 2 < =>? @ A(B=, +234) − C= D + ! 2 +234 E +234 2 0 1 2 (2 ) ( ) ( ) W Z f z dz f z A p = =ò F(+) $(&|+, #)$(+|!) G $(&|!, #) F(+234) $(&|+234, #)$(+234|!) C 314 ( 314 15 ) =
  • 14. !, # #$%& = (%& $ )*+,. ! = - )*+, . )*+, 1 W i i i l g l a= = + å ln1(3|!, #) ≃ − # 2 9 :;< = >(?:, )*+,) − @: A − ! 2 )*+, . )*+, − 1 2 ln|C| + E 2 ln! + F 2 ln# − F 2 ln(2G) !, #. ln|C|2 C = !H + #$ 3 1 # = 1 F − - 9 :;< = >(?:, )*+,) − @: A • !, #2 5 3 !, #2 2 3
  • 15. • !, # !, # )%('|) '*+, ' )-('|'*+,, ./0 '*+, %()|!, #) 12%()|!, #) !, # !, # 3!, 4# 3!, 4#
  • 16. 5 5 !(#| %&, ()) 15 . 1 1 ! # %&, () ∗ 3! 2/ ! # %&, () ∗ 4! 21 . 2345 6! 23 5 1
  • 17. 3 5 71. 2 2 3 5 71.
  • 18. . ln#(%|') = * +,- . /+ln0+ + (1 − /+)ln(1 − 0+) }/+ ∈ {0,1 )0+ = 0(9+, ' 0 :; :- :< . = )#('|>) = ?('|@, >A-B C- CD
  • 19. 8 4 !"#$ . 5 % ) . • )'(!|!"#$, +,- • 8 4. ln1(2|.) ≃ −5(!"#$) − 1 2 ln|8| + : 2 ln. 5(!"#$) = < =>- ? @=lnA= + (1 − @=)ln(1 − A=) + . 2 !"#$ B !"#$ )A= = A(C=, !"#$ . = D !"#$ B !"#$ . (
  • 20. !(#|%, ') = *!(#|%, +),(+|')-+ ! # ., + = / %0+ = 1(2 %, + ) 5 , 32(%, +) ≃ 2(%, +567) + 9:(+ − +567 9 = <2(%, +567) !(2|%, ') = *=(2 − 2 %, +567 − 9: + − +567 ),(+|')-+ !(2|%, ') = >(2|2 %, +567 , 1? @ (%)) 1? @(%) = 9:(%)ABC9(%) !(# = 1|%, ') = *1(2)!(2|%, ')-2 ! # = 1 %, ' = )1(E(1? @)2567 E .(4.154) 42 4
  • 21. ! " = 1 %, ' = ))(+(), -)./01! " %, 2/01 = )(. %, 2/01 ) . , 5 9 A 01 ,