Download as PDF, PPTX
![測度
関数μ : A → [0, ∞] が測度であるとは
(1)μ(ϕ) = 0
(2)互いにそな⾼々加算個の集合A .., A ... ∈ Aに対して
μ( A ) = Σ μ(A )
この時(Ω, A, μ)を測度空間という。
μ(Ω) = 1の場合 μを確率測度という。
1 n
i=1
⋃
n
i i=1
n
i](https://image.slidesharecdn.com/untitled-180329142900/85/slide-11-320.jpg)
![[研究室論文紹介用スライド] Adversarial Contrastive Estimation](https://cdn.slidesharecdn.com/ss_thumbnails/acepub-181119101425-thumbnail.jpg?width=640&height=640&fit=bounds)
![[PRML] パターン認識と機械学習（第2章：確率分布）](https://cdn.slidesharecdn.com/ss_thumbnails/prmlchapter2-171002030018-thumbnail.jpg?width=640&height=640&fit=bounds)
基礎からわかる確率過程
- 1.
- 2.
- 3.
- 4.
- 5.
- 6.
- 7.
- 8.
- 9.
- 10. 可測空間 Ωの部分集合族Aが"σ代数"であるとは以下の３つ条件を満たすこ と (1) Ω∈A (2) A∈A⇒ A ∈ A (3) A , A , A , ... ∈ A ⇒ A ∈ A (Ω, A)を可測空間という Ω・・・標本空間 A・・・事象 c 1 2 3 ⋃i=1 ∞ i
- 11. 測度 関数μ : A→ [0, ∞] が測度であるとは (1)μ(ϕ) = 0 (2)互いにそな⾼々加算個の集合A .., A ... ∈ Aに対して μ( A ) = Σ μ(A ) この時(Ω, A, μ)を測度空間という。 μ(Ω) = 1の場合 μを確率測度という。 1 n i=1 ⋃ n i i=1 n i
- 12.
- 13.
- 14. 確率変数について 可測空間(Ω , A), (Ω , A )を考える。ある写像X : Ω → Ω が 可測であるとは、次を満たすとき A ∈ A ⇒ X (A) = {ω ∈ Ω ∣X(ω) ∈ A} ∈ A この時XをΩ -値可測関数と呼ぶ。また(Ω , A )上に確率測度μが 定まっているとき、特にXを確率変数と呼ぶ 1 1 2 2 1 2 2 −1 1 1 2 1 1
- 15.
- 16. 機械学習・・・Xの⾏き先の可測空間(R , B)⾃体が確率変数であ ると考えがち(すなわち実数値確率変数) 確率変数は奥が深い︕ d
- 17.
- 18. 確率分布とは 確率空間(Ω, A, μ)から可測空間(Ω, A )への確率変数(または可測 関数) X が定める確率分布とは、次の式によって定まる(Ω , A )上 の確率測度μ のことである μ (A ) := μ(X 1(A )), A ∈ A ′ ′ ′ ′ X X ′ − ′ ′ ′
- 19. ”確率変数が正規分布に従う”の意味 ↓ 測度空間(R , B)-値の確率変数によって誘導されるR上の確率分 布が先程のガウス測度μ に⼀致する d d G
- 20.
- 21. 位相空間とは 集合につながりを持たせたもの (1) ∅, S∈ O (2) O , O ∈ O ⇒ O ∩ O ∈ O (3) O ⊂ O ⇒ U ∈ O 1 2 1 2 ′ ⋃U∈O′
- 22.
- 23.
- 24. 距離から定まる位相 (S, d)を距離空間とします。ここで dは距離関数。S上の位相を 次のように定める。 次の形の集合 B(p; r) := {x ∈ S∣d(p, x) < r}, 0 < r < ∞, p ∈ S 全体からなる集合族O を考え、それにより⽣成される位相、すな わち位相の定義式(1)-(3)を満たすようにO に付け加えたものを、 距離空間上の距離から定まる位相と呼ぶ。 ′ ′
- 25. Borel集合 定義 位相空間(S, O)に対して定まるBorel集合族B(O)とは、位相 Oに よって⽣成されるσ-代数の事である。 即ちOが位相空間の条件を全て満たすように⾜りないものを付け 加えた集合族である。
- 26. ガウス測度 Ω := Rとする。R 上のσ-代数（事象) Bをユークリッド距離か ら定まるR 上の位相により定まるBorel集合族とする。可測空間 (R, B)上の確率測度μ を次のように定める μ (B) := exp dx, これを標準ガウス測度と呼ぶ。 d d d G G ∫ B √2π d 1 ( 2 −∣∣x∣∣2 )
- 27.
- 28. cylinder set ある集合D上の関数の集合Sを考える。 筒集合(cylinder set)とは f∈ S : (f(t ), ..., f(t )) ∈ B × ... × B B ∈ B(R), i ∈ 1, ..., n, 1 ≤ n < ∞, t , ...t ∈ D すなわち，S の要素の中で，(有限個の)Dの要素が実数上のボレル 集合体 B(R) の要素となる関数の集合を意味している 1 n 1 n i 1 n
- 29. cylinder set 2 重要な性質 cylindersetにより⽣成されるσ-加法族はBorel集合体B(D)と同⼀ である （要証明）
- 30. 関数空間上のσ代数 R をT上の関数空間、すなわちR :={f : T → R}と定義す る。この空間上の⾃然なσ-代数を C(T)とおく。 T T
- 31. ガウス過程の定義 確率空間(Ω, A, μ)から測度空間(R , C(T))への確率変数ζがガ ウス過程であるとは、それによってい誘導されるR 上の確率分布 μ が次の条件を満たすときに⾔う︓ 任意の有限個のTの元t , ..., t を取ってきた時に定まる確率変数 (t , ..., t ) : R → R , f → (f(t ), ..., f(t )) が定めるR 上の確率分布が必ずガウス測度となる T T ζ 1 n 1 n T n 1 n n
- 32. すなわちガウス過程とは In terms ofmeasures: Consider the space R of all real-valued functions on T. A subset of the form {f : f(t ) ∈ A , 1 ≤ i ≤ n} for some n ≥ 1, t ∈ T and some Borel sets A ⊆ R is called a cylinder set. Let G be the sigma-algebra generated by all cylinder sets. Equivalently, we may consider the product topology on R (by definition the smallest topology that makes the projection maps Πt , ..., t (f) = (f(t ), ..., f(t )) from R to R continuous) and define G as the Borel sigma-algebra of this topology. T i i i i T 1 n 1 n T n
- 33. すなわちガウス過程とは Then, a measureμ on (R , G) is called a Gaussian measure if for every n ≥ 1 an and every t1,...,tn ∈ T, the push-forward measure µ◦Π−1 t1, ..., tn on R is a Gaussian measure (with some mean vector and some covariance matrix). T n
- 34.
- 35. そんなcontinuous function は存在するの か︖ Kormogolvextension theory 理解不能だった
- 36.
- 37.
- 39.