SlideShare a Scribd company logo
1 of 21
Download to read offline
3 5 71.
2
2
3 5 71.
•
•
!(#|%, ', () = + )!(#|,, ()!(,|%, ', ( -,
).(#|/(0, ,), (12
).(,|34, 54
6,78(0
.(#| 634
78(0 , (12 + 8 0 7 )548(0 )
12 / 0, , 7 (5, .
6
1 2 4 )3
/ 0, , = :(,7
8(0))
4 )3
, .
6
)!(0) = .(0|;, <12
)!(=|0) = .(=|>0 + ?, @12
6!(=) = .(=|>; + ?, @12 + ><12>7 1
1
!(#, %) '
3 5 71.
2
2
3 5 71.
!
"
)$("|!, (, )) = +("|,(!, (), )-.
2(
)$((|/) = +((|0, /-.1
$(2|(, )) = 3
45.
6
)+("4|,(74, (), )-.
)$((|2, /, )) ∝ $((|/)$(2|(, )
. .
,(!, ()1(
3
( .
.
.
.
54 :
ln#(%|') = −
+
2
%-
% −
.
2
/
012
3
4(56, %) − 80
9
+ ;<=>8.
%@AB
:
C = −DDln#(%|', +, .) = +E + .F
54 .
)"($|&) = (($|$)*+, -./
0(1|2, &) = 30(1|2, $)"($|&)4$
2 ,
5 6, $ ,$ , 4
5 6, $ 7)*+ ) 3 1
( , .
)0(1|6, $, 8) = ((1|5(6, $), 8./
)0(6) = ((6|9, :./
)0(;|6) = ((;|-6 + =, >./
?0(;) = ((;|-9 + =, >./ + -:./-@
2
5
!"($, &) ≃ "($, &)*+) + -.(& − &)*+
- = 1&"($, &)|&3&456
7(8|9, :) = ;7(8|9, &)<(&|:)=&
7(8|9, >, ?) ≃ @(t|" $, &)*+ + -. & − &)*+ , ?BC)
)<(&|:) = @(&|&)*+, DBC
" $, & E)*+
,
)"($) = &($|(, *+,
)"(-|$) = &(-|.$ + 0, 1+,
2"(-) = &(-|.( + 0, 1+,
+ .*+,
.3. 3
"(4|5, 6, 7) ≃ &(t|: $, ;<=> + ?3
; − ;<=> , 7+,
)
)A(;|B) = &(;|;<=>, .+,
)"(4|$, B) = &(4|: $, ;<=> , CD($)
CD($) 7+, ?3.+,?
. 3
=4 8 + ; =:(5E, ;)
3
3 5 71.
2
2
3 5 71.
B !, #. )
$(&|!, #) = *$(&|+, #)$(+|!),+
ln$(&|!, #) ≃ −1(+234) −
1
2
ln|7| +
9
2
ln! +
:
2
ln# −
:
2
ln(2;)
1(+234) =
#
2
<
=>?
@
A(B=, +234) − C=
D
+
!
2
+234
E
+234
2
0 1 2
(2 )
( ) ( )
W
Z f z dz f z
A
p
= =ò
F(+) $(&|+, #)$(+|!)
G $(&|!, #)
F(+234) $(&|+234, #)$(+234|!)
C
314 (
314 15 ) =
!, #
#$%& = (%&
$ )*+,.
! =
-
)*+,
. )*+,
1
W
i
i i
l
g
l a=
=
+
å
ln1(3|!, #) ≃ −
#
2
9
:;<
=
>(?:, )*+,) − @:
A
−
!
2
)*+,
.
)*+, −
1
2
ln|C| +
E
2
ln! +
F
2
ln# −
F
2
ln(2G)
!, #.
ln|C|2
C = !H + #$
3
1
#
=
1
F − -
9
:;<
=
>(?:, )*+,) − @:
A
• !, #2
5 3
!, #2 2 3
• !, #
!, #
)%('|)
'*+, '
)-('|'*+,, ./0
'*+, %()|!, #)
12%()|!, #) !, #
!, # 3!, 4#
3!, 4#
5
5 !(#| %&, ())
15 .
1 1
! # %&, () ∗ 3! 2/ ! # %&, () ∗ 4! 21
. 2345
6! 23
5 1
3 5 71.
2
2
3 5 71.
.
ln#(%|') = *
+,-
.
/+ln0+ + (1 − /+)ln(1 − 0+)
}/+ ∈ {0,1
)0+ = 0(9+, '
0
:;
:-
:<
. =
)#('|>) = ?('|@, >A-B
C-
CD
8 4 !"#$ .
5 % )
.
•
)'(!|!"#$, +,-
• 8 4.
ln1(2|.) ≃ −5(!"#$) −
1
2
ln|8| +
:
2
ln.
5(!"#$) = <
=>-
?
@=lnA= + (1 − @=)ln(1 − A=) +
.
2
!"#$
B
!"#$
)A= = A(C=, !"#$
. =
D
!"#$
B
!"#$
. (
!(#|%, ') = *!(#|%, +),(+|')-+
! # ., + = / %0+ = 1(2 %, + )
5 ,
32(%, +) ≃ 2(%, +567) + 9:(+ − +567
9 = <2(%, +567)
!(2|%, ') = *=(2 − 2 %, +567 − 9:
+ − +567 ),(+|')-+
!(2|%, ') = >(2|2 %, +567 , 1?
@
(%))
1?
@(%) = 9:(%)ABC9(%)
!(# = 1|%, ') = *1(2)!(2|%, ')-2
! # = 1 %, ' = )1(E(1?
@)2567
E .(4.154)
42
4
! " = 1 %, ' = ))(+(),
-)./01! " %, 2/01 = )(. %, 2/01 )
. , 5 9 A
01
,

More Related Content

What's hot

PRML輪読#3
PRML輪読#3PRML輪読#3
PRML輪読#3matsuolab
 
2013.12.26 prml勉強会 線形回帰モデル3.2~3.4
2013.12.26 prml勉強会 線形回帰モデル3.2~3.42013.12.26 prml勉強会 線形回帰モデル3.2~3.4
2013.12.26 prml勉強会 線形回帰モデル3.2~3.4Takeshi Sakaki
 
PRML 4.4-4.5.2 ラプラス近似
PRML 4.4-4.5.2 ラプラス近似PRML 4.4-4.5.2 ラプラス近似
PRML 4.4-4.5.2 ラプラス近似KokiTakamiya
 
PRML輪読#10
PRML輪読#10PRML輪読#10
PRML輪読#10matsuolab
 
クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式Hiroshi Nakagawa
 
[PRML] パターン認識と機械学習(第3章:線形回帰モデル)
[PRML] パターン認識と機械学習(第3章:線形回帰モデル)[PRML] パターン認識と機械学習(第3章:線形回帰モデル)
[PRML] パターン認識と機械学習(第3章:線形回帰モデル)Ryosuke Sasaki
 
ベイズ統計入門
ベイズ統計入門ベイズ統計入門
ベイズ統計入門Miyoshi Yuya
 
PRML上巻勉強会 at 東京大学 資料 第1章後半
PRML上巻勉強会 at 東京大学 資料 第1章後半PRML上巻勉強会 at 東京大学 資料 第1章後半
PRML上巻勉強会 at 東京大学 資料 第1章後半Ohsawa Goodfellow
 
[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化
[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化
[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化Deep Learning JP
 
Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Yuki Matsubara
 
機械学習におけるオンライン確率的最適化の理論
機械学習におけるオンライン確率的最適化の理論機械学習におけるオンライン確率的最適化の理論
機械学習におけるオンライン確率的最適化の理論Taiji Suzuki
 
PRML 5章 PP.227-PP.247
PRML 5章 PP.227-PP.247PRML 5章 PP.227-PP.247
PRML 5章 PP.227-PP.247Tomoki Hayashi
 

What's hot (20)

劣微分
劣微分劣微分
劣微分
 
PRML輪読#3
PRML輪読#3PRML輪読#3
PRML輪読#3
 
2013.12.26 prml勉強会 線形回帰モデル3.2~3.4
2013.12.26 prml勉強会 線形回帰モデル3.2~3.42013.12.26 prml勉強会 線形回帰モデル3.2~3.4
2013.12.26 prml勉強会 線形回帰モデル3.2~3.4
 
PRML 4.4-4.5.2 ラプラス近似
PRML 4.4-4.5.2 ラプラス近似PRML 4.4-4.5.2 ラプラス近似
PRML 4.4-4.5.2 ラプラス近似
 
PRML輪読#10
PRML輪読#10PRML輪読#10
PRML輪読#10
 
PRML8章
PRML8章PRML8章
PRML8章
 
PRML 2.4
PRML 2.4PRML 2.4
PRML 2.4
 
クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式
 
Prml 3 3.3
Prml 3 3.3Prml 3 3.3
Prml 3 3.3
 
PRML chapter7
PRML chapter7PRML chapter7
PRML chapter7
 
[PRML] パターン認識と機械学習(第3章:線形回帰モデル)
[PRML] パターン認識と機械学習(第3章:線形回帰モデル)[PRML] パターン認識と機械学習(第3章:線形回帰モデル)
[PRML] パターン認識と機械学習(第3章:線形回帰モデル)
 
ベイズ統計入門
ベイズ統計入門ベイズ統計入門
ベイズ統計入門
 
PRML上巻勉強会 at 東京大学 資料 第1章後半
PRML上巻勉強会 at 東京大学 資料 第1章後半PRML上巻勉強会 at 東京大学 資料 第1章後半
PRML上巻勉強会 at 東京大学 資料 第1章後半
 
PRML 5.3-5.4
PRML 5.3-5.4PRML 5.3-5.4
PRML 5.3-5.4
 
[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化
[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化
[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化
 
PRML6.4
PRML6.4PRML6.4
PRML6.4
 
Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜
 
Prml nn
Prml nnPrml nn
Prml nn
 
機械学習におけるオンライン確率的最適化の理論
機械学習におけるオンライン確率的最適化の理論機械学習におけるオンライン確率的最適化の理論
機械学習におけるオンライン確率的最適化の理論
 
PRML 5章 PP.227-PP.247
PRML 5章 PP.227-PP.247PRML 5章 PP.227-PP.247
PRML 5章 PP.227-PP.247
 

More from tmtm otm

テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明tmtm otm
 
自然言語処理における深層学習を用いた予測の不確実性 - Predictive Uncertainty in NLP -
自然言語処理における深層学習を用いた予測の不確実性  - Predictive Uncertainty in NLP -自然言語処理における深層学習を用いた予測の不確実性  - Predictive Uncertainty in NLP -
自然言語処理における深層学習を用いた予測の不確実性 - Predictive Uncertainty in NLP -tmtm otm
 
予測の不確かさのユーザー調査
予測の不確かさのユーザー調査予測の不確かさのユーザー調査
予測の不確かさのユーザー調査tmtm otm
 
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -tmtm otm
 
[論文紹介] 機械学習システムの安全性における未解決な問題
[論文紹介] 機械学習システムの安全性における未解決な問題[論文紹介] 機械学習システムの安全性における未解決な問題
[論文紹介] 機械学習システムの安全性における未解決な問題tmtm otm
 
ICML 2021 Workshop 深層学習の不確実性について
ICML 2021 Workshop 深層学習の不確実性についてICML 2021 Workshop 深層学習の不確実性について
ICML 2021 Workshop 深層学習の不確実性についてtmtm otm
 
Bayesian Neural Networks : Survey
Bayesian Neural Networks : SurveyBayesian Neural Networks : Survey
Bayesian Neural Networks : Surveytmtm otm
 
PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門tmtm otm
 
PRML ベイズロジスティック回帰 4.5 4.5.2
PRML ベイズロジスティック回帰 4.5 4.5.2PRML ベイズロジスティック回帰 4.5 4.5.2
PRML ベイズロジスティック回帰 4.5 4.5.2tmtm otm
 
PRML 条件付き混合モデル 14.5
PRML 条件付き混合モデル 14.5PRML 条件付き混合モデル 14.5
PRML 条件付き混合モデル 14.5tmtm otm
 
PRML 多項式曲線フィッティング 1.1
PRML 多項式曲線フィッティング 1.1PRML 多項式曲線フィッティング 1.1
PRML 多項式曲線フィッティング 1.1tmtm otm
 
PRML 2.3.7 2.3.9
PRML 2.3.7 2.3.9PRML 2.3.7 2.3.9
PRML 2.3.7 2.3.9tmtm otm
 
PRML エビデンス近似 3.5 3.6.1
PRML エビデンス近似  3.5 3.6.1PRML エビデンス近似  3.5 3.6.1
PRML エビデンス近似 3.5 3.6.1tmtm otm
 
PRML カーネルPCA 12.2.3 12.3
PRML カーネルPCA 12.2.3 12.3PRML カーネルPCA 12.2.3 12.3
PRML カーネルPCA 12.2.3 12.3tmtm otm
 
PRML RVM 7.2 7.2.3
PRML RVM 7.2 7.2.3PRML RVM 7.2 7.2.3
PRML RVM 7.2 7.2.3tmtm otm
 
PRML EP法 10.7 10.7.2
PRML EP法 10.7 10.7.2 PRML EP法 10.7 10.7.2
PRML EP法 10.7 10.7.2 tmtm otm
 

More from tmtm otm (16)

テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明
 
自然言語処理における深層学習を用いた予測の不確実性 - Predictive Uncertainty in NLP -
自然言語処理における深層学習を用いた予測の不確実性  - Predictive Uncertainty in NLP -自然言語処理における深層学習を用いた予測の不確実性  - Predictive Uncertainty in NLP -
自然言語処理における深層学習を用いた予測の不確実性 - Predictive Uncertainty in NLP -
 
予測の不確かさのユーザー調査
予測の不確かさのユーザー調査予測の不確かさのユーザー調査
予測の不確かさのユーザー調査
 
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
 
[論文紹介] 機械学習システムの安全性における未解決な問題
[論文紹介] 機械学習システムの安全性における未解決な問題[論文紹介] 機械学習システムの安全性における未解決な問題
[論文紹介] 機械学習システムの安全性における未解決な問題
 
ICML 2021 Workshop 深層学習の不確実性について
ICML 2021 Workshop 深層学習の不確実性についてICML 2021 Workshop 深層学習の不確実性について
ICML 2021 Workshop 深層学習の不確実性について
 
Bayesian Neural Networks : Survey
Bayesian Neural Networks : SurveyBayesian Neural Networks : Survey
Bayesian Neural Networks : Survey
 
PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門
 
PRML ベイズロジスティック回帰 4.5 4.5.2
PRML ベイズロジスティック回帰 4.5 4.5.2PRML ベイズロジスティック回帰 4.5 4.5.2
PRML ベイズロジスティック回帰 4.5 4.5.2
 
PRML 条件付き混合モデル 14.5
PRML 条件付き混合モデル 14.5PRML 条件付き混合モデル 14.5
PRML 条件付き混合モデル 14.5
 
PRML 多項式曲線フィッティング 1.1
PRML 多項式曲線フィッティング 1.1PRML 多項式曲線フィッティング 1.1
PRML 多項式曲線フィッティング 1.1
 
PRML 2.3.7 2.3.9
PRML 2.3.7 2.3.9PRML 2.3.7 2.3.9
PRML 2.3.7 2.3.9
 
PRML エビデンス近似 3.5 3.6.1
PRML エビデンス近似  3.5 3.6.1PRML エビデンス近似  3.5 3.6.1
PRML エビデンス近似 3.5 3.6.1
 
PRML カーネルPCA 12.2.3 12.3
PRML カーネルPCA 12.2.3 12.3PRML カーネルPCA 12.2.3 12.3
PRML カーネルPCA 12.2.3 12.3
 
PRML RVM 7.2 7.2.3
PRML RVM 7.2 7.2.3PRML RVM 7.2 7.2.3
PRML RVM 7.2 7.2.3
 
PRML EP法 10.7 10.7.2
PRML EP法 10.7 10.7.2 PRML EP法 10.7 10.7.2
PRML EP法 10.7 10.7.2
 

PRML BNN 5.7 5.7.3

  • 1.
  • 4. !(#|%, ', () = + )!(#|,, ()!(,|%, ', ( -, ).(#|/(0, ,), (12 ).(,|34, 54 6,78(0 .(#| 634 78(0 , (12 + 8 0 7 )548(0 ) 12 / 0, , 7 (5, . 6 1 2 4 )3 / 0, , = :(,7 8(0)) 4 )3 , . 6 )!(0) = .(0|;, <12 )!(=|0) = .(=|>0 + ?, @12 6!(=) = .(=|>; + ?, @12 + ><12>7 1
  • 7. ! " )$("|!, (, )) = +("|,(!, (), )-. 2( )$((|/) = +((|0, /-.1 $(2|(, )) = 3 45. 6 )+("4|,(74, (), )-. )$((|2, /, )) ∝ $((|/)$(2|(, ) . . ,(!, ()1( 3 ( . . .
  • 8. . 54 : ln#(%|') = − + 2 %- % − . 2 / 012 3 4(56, %) − 80 9 + ;<=>8. %@AB : C = −DDln#(%|', +, .) = +E + .F 54 .
  • 9. )"($|&) = (($|$)*+, -./ 0(1|2, &) = 30(1|2, $)"($|&)4$ 2 , 5 6, $ ,$ , 4 5 6, $ 7)*+ ) 3 1 ( , . )0(1|6, $, 8) = ((1|5(6, $), 8./ )0(6) = ((6|9, :./ )0(;|6) = ((;|-6 + =, >./ ?0(;) = ((;|-9 + =, >./ + -:./-@ 2 5
  • 10. !"($, &) ≃ "($, &)*+) + -.(& − &)*+ - = 1&"($, &)|&3&456 7(8|9, :) = ;7(8|9, &)<(&|:)=& 7(8|9, >, ?) ≃ @(t|" $, &)*+ + -. & − &)*+ , ?BC) )<(&|:) = @(&|&)*+, DBC " $, & E)*+ ,
  • 11. )"($) = &($|(, *+, )"(-|$) = &(-|.$ + 0, 1+, 2"(-) = &(-|.( + 0, 1+, + .*+, .3. 3 "(4|5, 6, 7) ≃ &(t|: $, ;<=> + ?3 ; − ;<=> , 7+, ) )A(;|B) = &(;|;<=>, .+, )"(4|$, B) = &(4|: $, ;<=> , CD($) CD($) 7+, ?3.+,? . 3 =4 8 + ; =:(5E, ;) 3
  • 12. 3 5 71. 2 2 3 5 71.
  • 13. B !, #. ) $(&|!, #) = *$(&|+, #)$(+|!),+ ln$(&|!, #) ≃ −1(+234) − 1 2 ln|7| + 9 2 ln! + : 2 ln# − : 2 ln(2;) 1(+234) = # 2 < =>? @ A(B=, +234) − C= D + ! 2 +234 E +234 2 0 1 2 (2 ) ( ) ( ) W Z f z dz f z A p = =ò F(+) $(&|+, #)$(+|!) G $(&|!, #) F(+234) $(&|+234, #)$(+234|!) C 314 ( 314 15 ) =
  • 14. !, # #$%& = (%& $ )*+,. ! = - )*+, . )*+, 1 W i i i l g l a= = + å ln1(3|!, #) ≃ − # 2 9 :;< = >(?:, )*+,) − @: A − ! 2 )*+, . )*+, − 1 2 ln|C| + E 2 ln! + F 2 ln# − F 2 ln(2G) !, #. ln|C|2 C = !H + #$ 3 1 # = 1 F − - 9 :;< = >(?:, )*+,) − @: A • !, #2 5 3 !, #2 2 3
  • 15. • !, # !, # )%('|) '*+, ' )-('|'*+,, ./0 '*+, %()|!, #) 12%()|!, #) !, # !, # 3!, 4# 3!, 4#
  • 16. 5 5 !(#| %&, ()) 15 . 1 1 ! # %&, () ∗ 3! 2/ ! # %&, () ∗ 4! 21 . 2345 6! 23 5 1
  • 17. 3 5 71. 2 2 3 5 71.
  • 18. . ln#(%|') = * +,- . /+ln0+ + (1 − /+)ln(1 − 0+) }/+ ∈ {0,1 )0+ = 0(9+, ' 0 :; :- :< . = )#('|>) = ?('|@, >A-B C- CD
  • 19. 8 4 !"#$ . 5 % ) . • )'(!|!"#$, +,- • 8 4. ln1(2|.) ≃ −5(!"#$) − 1 2 ln|8| + : 2 ln. 5(!"#$) = < =>- ? @=lnA= + (1 − @=)ln(1 − A=) + . 2 !"#$ B !"#$ )A= = A(C=, !"#$ . = D !"#$ B !"#$ . (
  • 20. !(#|%, ') = *!(#|%, +),(+|')-+ ! # ., + = / %0+ = 1(2 %, + ) 5 , 32(%, +) ≃ 2(%, +567) + 9:(+ − +567 9 = <2(%, +567) !(2|%, ') = *=(2 − 2 %, +567 − 9: + − +567 ),(+|')-+ !(2|%, ') = >(2|2 %, +567 , 1? @ (%)) 1? @(%) = 9:(%)ABC9(%) !(# = 1|%, ') = *1(2)!(2|%, ')-2 ! # = 1 %, ' = )1(E(1? @)2567 E .(4.154) 42 4
  • 21. ! " = 1 %, ' = ))(+(), -)./01! " %, 2/01 = )(. %, 2/01 ) . , 5 9 A 01 ,