先驗分佈

參數空間

上的任一概率分佈 π 稱為參數 θ 的一個先驗分佈。先驗分步反映了人們對參數的經驗認識。例如設總體X～F(x;θ)，θ∈Θ，其中F(x;θ)形式已知，參數θ未知，求θ的點估計問題。 ^[2] 

先驗分佈是總體分佈參數θ的一個概率分佈。

貝葉斯學派的根本觀點，是認為在關於θ的任何統計推斷問題中，除了使用樣本X所提供的信息外，還必須對θ規定一個先驗分佈，它是在進行推斷時不可或缺的一個要素。貝葉斯學派把先驗分佈解釋為在抽樣前就有的關於θ的先驗信息的概率表述，先驗分佈不必有客觀的依據，它可以部分地或完全地基於主觀信念。

例如，某甲懷疑自己患有一種疾病A，在就診時醫生對他測了諸如體温、血壓等指標，其結果構成樣本X。引進參數θ：有病時，θ=1；無病時，θ=0。X的分佈取決於θ是0還是1，因而知道了X有助於推斷θ是否為1。

按傳統（頻率）學派的觀點，醫生診斷時，只使用X提供的信息；而按貝葉斯學派觀點，則認為只有在規定了一個介於0與1之間的數p作為事件{θ=1}的先驗概率時，才能對甲是否有病（即θ是否為1）進行推斷。p這個數刻畫了本問題的先驗分佈，且可解釋為疾病A的發病率。

先驗分佈的規定對推斷結果有影響，如在此例中，若疾病A的發病率很小，醫生將傾向於只有在樣本X顯示出很強的證據時，才診斷甲有病。在這裏先驗分佈的使用看來是合理的，但貝葉斯學派並不是基於“p是發病率”這樣一個解釋而使用它的，事實上即使對本病的發病率毫無所知，也必須規定這樣一個p，否則問題就無法求解。

當參數 θ 的先驗分佈已知時，稱在給定樣本 x 下 θ 定條件分佈為參數 θ 的後驗分佈(posterior distribution)。

假定樣本 x 的密度函數為

，則θ 的後驗分佈為

其中

後驗分佈可看成是在獲得樣本 x 後對參數先驗知識的調整。