條件期望

在概率論中，條件期望是一個實數隨機變量的相對於一個條件概率分佈的期望值。換句話説，這是給定的一個或多個其他變量的值一個變量的期望值。它也被稱為條件期望值。

設X和Y是離散隨機變量，則X的條件期望在給定事件Y = y條件下是y的在Y的值域的函數

其中，是x處於X的值域。

如果X是一個連續隨機變量，而在Y仍然是一個離散變量，條件期望是：

其中，

是在給定Y=y下X的條件概率密度函數。

條件數學期望在近代概率論中有着基本重要的作用 ^[2]  ，在實際問題中也有很大用處。在兩個互有影響的隨機變量中，如果已知其中一個隨機變量的取值=y，要據此去估計或預測另一個隨機變量的取值，這樣的問題在實際應用中經常會碰到。人們稱它為“預測問題”。由上述討論可知，條件數學期望E( )是在已知(=y)發生的條件下，對 的一個頗為“合理”的預測。

一般認為，人的身高和腳印長可當作一個二維正態分佈變量來處理。

把它畫在平面的直角座標系中就是一條直線，它在一定程度上描寫了身高依賴於腳印的關係，常常稱為是迴歸直線。在一般情形下，由

E( x，y) 或{x，E( x)}

可以得到平面上的兩條曲線，它們稱為是迴歸曲線或簡稱為迴歸。

還有一點應該指出的是，對於用得最廣泛的正態分佈來説，可以從例3.27知道，兩類迴歸恰好是一致的。這一事實表明，就正態分佈而言，最佳線性估計就是最佳估計。當然，這裏“最佳”的意思是指均方差最小

這個均方誤差常常稱為剩餘方差。由上式可知，當 與 間的相關係數| |=1時，剩餘方差為零。這時， 可以用方差來準確估計，也就是説 與 之間存在着線性關係。於是我們又一次證明了相關係數是隨機變量間線性相依程度的反映。