複製鏈接
請複製以下鏈接發送給好友

殘差平方和

鎖定
殘差平方和是在線性模型中衡量模型擬合程度的一個量,用連續曲線近似地刻畫或比擬平面上離散點組,以表示座標之間函數關係的一種數據處理方法。用解析表達式逼近離散數據的一種方法。在科學實驗或社會活動中,通過實驗或觀測得到變量x與y的一組數據對(xₑ,yₑ)(e=1,2,…ə),其中各xₑ是彼此不同的 。人們希望用一類與數據的背景材料規律相適應的解析表達式,y=f(x,c)來反映變量x與y之間的依賴關係,即在一定意義下“最佳”地逼近或擬合已知數據。f(x,c)常稱作擬合模型 ,式中c=(c₁,c₂,…cₔ)是一些待定參數 [1] 
中文名
殘差平方和
外文名
Residual Sum of Squares/Sum Squared Residual
簡    稱
RSS/SSR
所屬學科
數理科學
用    途
衡量模型擬合程度

目錄

殘差平方和公式概念

為了明確解釋變量隨機誤差各產生的效應是多少,統計學上把數據點與它在迴歸直線上相應位置的差異稱為殘差,把每個殘差平方之後加起來 稱為殘差平方和,它表示隨機誤差的效應。一組數據的殘差平方和越小,其擬合程度越好。

殘差平方和計算

按定義,殘差平方和應為 [2] 
非等精度測量:
式中
是測量數據
的殘差,
為相應的。在一般情況下
式中,
為直接測量參數的估計值。
對於線性參數,殘差為
式中
矩陣形式表示的殘差平方和為
﹞=
線性參數測量數據的殘差平方和可進一步寫成
(對等精度測量)
(對非等精度測量)
式中符號的意義與前面相應的的符號一致。
以上給出了殘差平方和的一般形式。在具體解算時,從計算方便考慮,對不同的解算方法,殘差平方和的計算各有相應的具體方法。 [2] 

殘差平方和性質

解釋變量與殘差平方和
殘差平方和RSS具有以下性質: [3] 
性質1 只有常數項沒有其他解釋變量的迴歸方程的RSS和TSS相等,其決定係數為0。
性質2 增加解釋變量必然導致RSS減小。因此,如果想降低RSS,只要在迴歸方程中儘可能地加入解釋變量就能達到目的。
性質3 包含常數項全部解釋變量的個數K等於樣本數n時,RSS為0,決定係數為1。
F檢驗和t檢驗之間的關係
在一些場合t檢驗不僅可以進行雙側檢驗,也可以進行單側檢驗。而F檢驗沒有單側和雙側的區別。當進行雙側檢驗的時候兩種檢驗的P值相同。

殘差平方和分佈

概率分佈
殘差帶權平方和除以單位權方差服從
分佈。即 [4] 
式中自由度f就是平差中多餘觀測數。由於
,f對於一個平差系統是不變量,與具體採用的平差方法無關。
數學期望和方差
易知
數學期望
由此可知
即單位權方差
無偏估計
則有
即方差估計
的標準差與
正比
成反比。可見自由度f 愈小,方差估計
的精度就愈差。
概率表達式
分位值
以自由度f和顯著水平
可由
分佈表中查得。 [4] 
參考資料
  • 1.    《數學辭海》編輯委員會.數學辭海·第四卷:中國科學技術出版社,2002.8
  • 2.    丁振良.誤差理論與數據處理,,,:哈爾濱工業大學出版社,2015.02:第168頁
  • 3.    (日)森棟公夫,趙國慶.計量經濟學 基礎理論與方法:中國金融出版社,2010.03
  • 4.    陶本藻.測量數據處理的統計理論和方法 第2版=Statistic theory and methods of surveying data processing:測繪出版社,2014.12