複製鏈接
請複製以下鏈接發送給好友

均方誤差

鎖定
均方誤差(mean-square error, MSE)是反映估計量與被估計量之間差異程度的一種度量。設t是根據子樣確定的總體參數θ的一個估計量,(θ-t)2數學期望,稱為估計量t的均方誤差。它等於σ2+b2,其中σ2與b分別是t的方差偏倚
中文名
均方誤差
外文名
mean-square error, MSE
意    義
反映估計量與被估計量差異程度
相關概念
估計量、有偏估計、點估計等

目錄

均方誤差名詞介紹

相合估計(或一致估計)是在大樣本下評價估計量的標準,在樣本量不是很多時,人們更加傾向於基於小樣本的評價標準,此時,對無偏估計使用方差,對有偏估計使用均方誤差
一般地,在樣本量一定時,評價一個點估計的好壞標準使用的指標總是點估計
與參數真值
的距離的函數,最常用的函數是距離的平方,由於估計量
具有隨機性,可以對該函數求期望,這就是下式給出的均方誤差:
均方誤差是評價點估計的最一般的標準,自然,我們希望估計的均方誤差越小越好,注意到
上式説明,均方誤差
由點估計的方差
與偏差
的平方兩部分組成。
如果
是θ的無偏估計,則
,此時用均方誤差評價點估計與用方差是完全一致的,這也説明了用方差考察無偏估計是合理的。
不是θ的無偏估計,就要看其均方誤差
,即不僅看方差大小,還要看其偏差大小,下面的例子説明在均方誤差的含義下,有些有偏估計優於無偏估計。 [1] 

均方誤差公式

一致最小均方誤差估計
定義1 設有樣本
對待估參數θ,有一個估計類,稱
是該類中θ的一致最小均方誤差估計,如果對該類估計中另外任意一個θ的估計
,在參數空間
上都有
一致最小均方誤差估計通常是在一個確定的估計類中進行的,一致最小均方誤差估計一般是不存在的。
既然一致最小均方誤差估計一般是不存在的,人們通常就對估計提出一些合理性要求,如無偏性就是一個常見的合理性要求。 [1] 
一致最小方差無偏估計
前面曾指出,均方誤差
由點估計的方差
與偏差
的平方兩部分組成,當
是θ的無偏估計時,均方誤差就簡化為方差,此時一致最小均方誤差估計就是一致最小方差無偏估計。
定義2
是θ的無偏估計,如果對於任意一個θ的無偏估計
,在參數空間
上都有
則稱
是θ的一致最小方差無偏估計,簡記為UMVUE。 [1] 
參考資料
  • 1.    韓明.概率論與數理統計教程:同濟大學出版社,2014.04