-
均方誤差
鎖定
均方誤差(mean-square error, MSE)是反映
估計量與被估計量之間
差異程度的一種度量。設t是根據子樣確定的總體參數θ的一個估計量,(θ-t)
2的
數學期望,稱為估計量t的
均方誤差。它等於σ
2+b
2,其中σ
2與b分別是t的
方差與
偏倚。
- 中文名
-
均方誤差
- 外文名
-
mean-square error, MSE
- 意 義
-
反映估計量與被估計量差異程度
- 相關概念
-
估計量、有偏估計、點估計等
均方誤差名詞介紹
相合估計(或
一致估計)是在大樣本下評價估計量的標準,在樣本量不是很多時,人們更加傾向於基於小樣本的評價標準,此時,對
無偏估計使用
方差,對
有偏估計使用
均方誤差。
一般地,在
樣本量一定時,評價一個點估計的好壞標準使用的指標總是點估計
與參數真值
的距離的函數,最常用的函數是距離的平方,由於估計量
具有隨機性,可以對該函數求
期望,這就是下式給出的均方誤差:
均方誤差是評價
點估計的最一般的標準,自然,我們希望估計的均方誤差越小越好,注意到
上式説明,均方誤差
由點估計的方差
與偏差
的平方兩部分組成。
如果
是θ的無偏估計,則
,此時用均方誤差評價點估計與用方差是完全一致的,這也説明了用方差考察無偏估計是合理的。
當
不是θ的無偏估計,就要看其均方誤差
,即不僅看方差大小,還要看其偏差大小,下面的例子説明在均方誤差的含義下,有些有偏估計優於無偏估計。
[1]
均方誤差公式
一致最小均方誤差估計
定義1 設有樣本
對待估參數θ,有一個估計類,稱
是該類中θ的
一致最小均方誤差估計,如果對該類估計中另外任意一個θ的估計
,在
參數空間 上都有
一致最小均方誤差估計通常是在一個確定的估計類中進行的,一致最小均方誤差估計一般是不存在的。
既然一致最小均方誤差估計一般是不存在的,人們通常就對估計提出一些合理性要求,如
無偏性就是一個常見的合理性要求。
[1]
一致最小方差無偏估計
前面曾指出,均方誤差
由點估計的方差
與偏差
的平方兩部分組成,當
是θ的無偏估計時,均方誤差就簡化為方差,此時一致最小均方誤差估計就是一致最小方差無偏估計。
定義2 設
是θ的無偏估計,如果對於任意一個θ的無偏估計
,在參數空間
上都有
則稱
是θ的
一致最小方差無偏估計,簡記為UMVUE。
[1]
- 參考資料
-
-
1.
韓明.概率論與數理統計教程:同濟大學出版社,2014.04