Why use Bayesian?

1. Bayesian Learning

2. 2 / 26
전통적 통계 vs 베이지언 통계

3. 3 / 26
고전학파 vs 케인즈학파
애덤스미스
산업혁명시기
정부개입 X
케인즈
대공황시기
정부개입 O

4. 4 / 26
전통적 통계 분석

5. 5 / 26
베이즈 정리
𝑃 𝐴 𝐵 =
𝑃 𝐵 𝐴 𝑃(𝐴)
𝑃(𝐵)

6. 6 / 26
조건부 확률
𝑃 𝐴 𝐵
B가 일어났을 때 A가 일어날 확률

7. 7 / 26
벤다이어그램
𝐴 𝐵
𝑃(𝐴)

8. 8 / 26
벤다이어그램
𝐴 𝐵
𝑃(𝐵)

9. 9 / 26
벤다이어그램
𝐴 𝐵
𝑃(𝐴 ∩ 𝐵)

10. 10 / 26
벤다이어그램
𝐴 𝐵
𝑃(𝐴|𝐵)

11. 11 / 26
벤다이어그램
𝑃 𝐴 𝐵 =
𝑃(𝐴 ∩ 𝐵)
𝑃(𝐵)

12. 12 / 26
조건부 확률
P 𝐴 ∩ 𝐵 = 𝑃 𝐴 𝐵 𝑃(𝐵) = 𝑃 𝐵 𝐴 𝑃(𝐴)
= ×

13. 13 / 26
베이즈 정리
𝑃 𝐴 𝐵 =
𝑃 𝐵 𝐴 𝑃(𝐴)
𝑃(𝐵)

14. 14 / 26
베이즈 정리
𝑃 𝐴 𝐵 =
𝑃 𝐵 𝐴 𝑃(𝐴)
𝑃(𝐵)
아는 정보모르는 정보

15. 15 / 26
베이즈 정리
𝑃 𝐴 𝐵 =
𝑃 𝐵 𝐴 𝑃(𝐴)
𝑃(𝐵)
사후확률 사전확률

16. 16 / 26
베이즈 정리
𝑃 𝐴 𝐵 =
𝑃 𝐵 𝐴 𝑃(𝐴)
𝑃(𝐵)
Posterior Prob.
Prior Prob.
Prior Prob.
Likelihood

17. 17 / 26
Probability vs. Likelihood

18. 18 / 26
Probability vs. Likelihood

19. 19 / 26
𝑃 𝐴 𝐵 =
𝑃 𝐵 𝐴 𝑃(𝐴)
𝑃(𝐵)
A B1 B2

20. 20 / 26
𝑃 𝐴 𝐵 =
𝑃 𝐵 𝐴 𝑃(𝐴)
𝑃(𝐵)
𝑃 𝐴 𝐵 =
𝑃 𝐵 𝐴 𝑃(𝐴)
𝑃(𝐵)
0.35
0.47

21. 21 / 26
MAP (Maximum a posteriori)
max
𝑘
𝑃 ℎ 𝑘 𝐷𝑎𝑡𝑎

22. 22 / 26
ML (Maximum likelihood)
max
𝑘
𝑃 ℎ 𝑘 𝐷 = max
𝑘
𝑃 𝐷 ℎ 𝑘 𝑃(ℎ 𝑘)
𝑃(𝐷)
= max
𝑘
𝑃 𝐷 ℎ 𝑘 𝑃(ℎ 𝑘)
𝑃(𝐷) 상수
= max
𝑘
𝑃 𝐷 ℎ 𝑘 𝑃(ℎ 𝑘)
likelihood

23. 23 / 26
베이지언과 머신러닝

24. 24 / 26
전통통계 vs 베이지언
불량률 P(x) Data: 100만개 제품
전통통계: 100개 샘플링, 모집단 추정

25. 25 / 26
전통통계 vs 베이지언
불량률 P(x) Data: 100만개 제품
for(i=1; i < 1000000; i++)
{
sum = sum + isFail( x[i] )
}
i i-1

26. 26 / 26
베이지언과 머신러닝
max
𝑘
𝑃 ℎ 𝑘 𝐷𝑎𝑡𝑎