為什麼樣本方差的分母是n-1?為什麼它又叫做無偏估計?
阿新 • • 發佈:2019-01-04
簡單的回答,是因為因為均值你已經用了n個數的平均來做估計在求方差時,只有(n-1)個數 和 均值資訊 是不相關的。而你的第n個數已經可以由前(n-1)個數和均值 來唯一確定,實際上沒有資訊量。所以在計算方差時,只除以(n-1)。
那麼更嚴格的證明呢?請耐心的看下去。
樣本方差計算公式裡分母為的目的是為了讓方差的估計是無偏的。無偏的估計(unbiased estimator)比有偏估計(biased estimator)更好是符合直覺的,儘管有的統計學家認為讓mean square error即MSE最小才更有意義,這個問題我們不在這裡探討;不符合直覺的是,為什麼分母必須得是而不是才能使得該估計無偏。
首先,我們假定隨機變數的數學期望是已知的,然而方差未知。在這個條件下,根據方差的定義我們有
由此可得
.
因此是方差的一個無偏估計,注意式中的分母不偏不倚正好是!
這個結果符合直覺,並且在數學上也是顯而易見的。
現在,我們考慮隨機變數的數學期望是未知的情形。這時,我們會傾向於無腦直接用樣本均值替換掉上面式子中的。這樣做有什麼後果呢?後果就是,
如果直接使用作為估計,那麼你會傾向於低估方差!
這是因為:
換言之,除非正好,否則我們一定有
,
而不等式右邊的那位才是的對方差的“正確”估計!
這個不等式說明了,為什麼直接使用會導致對方差的低估。
那麼,在不知道隨機變數真實數學期望的前提下,如何“正確”的估計方差呢?答案是把上式中的分母
至於為什麼分母是而不是或者別的什麼數,最好還是去看真正的數學證明,因為數學證明的根本目的就是告訴人們“為什麼”;暫時我沒有辦法給出更“初等”的解釋了。