統計學基本三大原則與定理

1. 統計內功
常態分佈、大數法則 與
中央極限定理
Summarized by
Victor Huang

2. 內功心法
• 統計的三大內功心法，常態分佈、大數法則、中
央極限定理的定義，這些你清楚嗎

3. 一、常態分佈
(Normal Distribution, Gaussian distribution)
• 若隨機變量X服從一個位置參數為 μ、變異
數 (尺度參數) 為 σ 的機率分佈，記為：
X∼N(μ, σ2),
• 則其機率密度函數為

4. 常態分佈中一些值得
注意的量
• 平均值與它的眾數（statistical mode）以及中位數（median）
同一數值。
• 函數曲線下68.26%的面積在平均數左右的一個標準差範圍內。
• 95.45%的面積在平均數左右兩個標準差2 σ的範圍內。
• 99.73%的面積在平均數左右三個標準差3 σ的範圍內。
• 99.99%的面積在平均數左右四個標準差4 σ的範圍內。
• 函數曲線的反曲點（inflection point）為離平均數一個標準差距
離的位置。

5. 二、大數法則
(Law of large numbers)
• 大數法則是說，樣本數量越多，則其平均
就越趨近期望值，數學定義如下：

6. 二、大數法則
(Law of large numbers)
• 大數法則又分弱大數法則和強大數法則：
– 弱大數法則 (辛欽定理) : 弱大數法則的意義是
說，當樣本數趨近於無限大時，樣本平均值會
趨近於母體平均數 μ。
– 強大數法則的意義則是說，當樣本數趨近於無
限大時，樣本平均值等於母體平均數的機率為
1。
• 大數定律揭示了大量隨機變數的平均結果，但沒
有涉及到隨機變數的分佈的問題。

7. 三、中央極限定理
(Central Limit Theorem)
• 中央極限定理 (Central Limit Theorem) 是機率理論
及統計學中最重要且常用的結果之一。
• 以白話來說：大量相互獨立、同分佈的隨機變量
(無論其分佈形式)，其均值的分佈以常態分佈為極
限。
中央極限定理進一步說明了大量獨立隨機變
數的平均數是如何分布的

8. 三、中央極限定理
(Central Limit Theorem)
• 正式的中央極限定理如下 :
• Lindeberg–Lévy CLT. Suppose X1,X2,... is a sequence of i.i.d.
random variables with E[Xi]=µ and Var[Xi]=σ2<∞. Then as
n approaches infinity, the random variables √n(Sn−µ)
converge in distribution to a normal N(0,σ2)

9. 棣莫佛－拉普拉斯定理
(de Movire - Laplace theorem)
• 棣莫佛－拉普拉斯定理 (de Movire - Laplace
theorem)
• 棣莫佛－拉普拉斯定理是中央極限定理的最初版本，
討論了服從二項分布的隨機變量序列。它指出，參
數為 n, p 的二項分布以 np 為均值、np(1−p) 為變
異數的常態分布為極限。
• 若 μn 是 n 次伯努利實驗中事件 A 出現的次數，0
< p < 1，則對任意有限區間[a,b]：

10. 棣莫佛－拉普拉斯定理
(de Movire - Laplace theorem)

11. 夜市與中央極限定理
• 中央極限定理解釋了高密頓板小球累積高度曲線
(就是夜市玩的小遊戲!) 為什麼是常態分布獨有的
鐘形曲線。
• 高爾頓板可以看作是伯努利試驗的實驗模型。如果
我們把小球碰到釘子看作一次實驗，而把從右邊落
下算是成功，從左邊落下看作失敗，就有了一次
p=12 的伯努利試驗。小球從頂端到底層共需要經
過 n 排釘子，這就相當於一個 n 次伯努利試驗。

12. 四、中央極限定理的模擬
- 使用R語言

13. End~