-
Map
(最大後驗)
鎖定
在貝葉斯
統計學中,最大後驗(Maximum A Posteriori,MAP)
估計可以利用經驗數據獲得對未觀測量的點態估計。它與Fisher的
最大似然估計(Maximum Likelihood,ML)方法相近,不同的是它擴充了優化的目標函數,其中融合了預估計量的
先驗分佈信息,所以最大後驗估計可以看作是正則化(regularized)的最大似然估計。
- 中文名
-
最大後驗
- 外文名
-
Maximum A Posteriori
- 應用學科
-
貝葉斯統計學
公式
假設我們需要根據觀察數據x估計沒有觀察到的總體參數θ,讓f作為x的採樣分佈,這樣f(x| θ)就是總體參數為θ時x的概率。函數即為
似然函數,其估計就是θ的最大似然估計。
假設θ存在一個先驗分佈g,這就允許我們將θ作為貝葉斯統計(en:Bayesian statistics)中的
隨機變量,這樣θ的後驗分佈就是:
公式
其中Θ是g的domain,這是
貝葉斯定理(en: Bayes' theorem)的直接應用。
Map公式
最大後驗估計方法於是估計θ為這個隨機變量的後驗分佈的mode:
後驗分佈的分母與θ無關,所以在優化過程中不起作用。注意當前驗g是 uniform(也就是
常函數)時最大後驗估計與最大似然估計重和。
最大後驗估計可以用以下幾種方法計算:
解析方法,當後驗分佈的模能夠用closed form方式表示的時候用這種方法。當使用en:conjugate prior的時候就是這種情況。通過如共扼積分法或者牛頓法這樣的數值
優化方法進行,這通常需要一階或者
導數,導數需要通過解析或者
數值方法得到。通過
期望最大化算法的修改實現,這種方法不需要後驗密度的導數。
儘管最大後驗估計與 Bayesian 統計共享前驗分佈的使用,通常並不認為它是一種 Bayesian 方法,這是因為最大後驗估計是點估計,然而 Bayesian 方法的特點是使用這些分佈來總結數據、得到推論。Bayesian 方法試圖算出後驗
均值或者
中值以及posterior interval,而不是後驗模。尤其是當後驗分佈沒有一個簡單的解析形式的時候更是這樣:在這種情況下,後驗分佈可以使用Markov chain Monte Carlo技術來模擬,但是找到它的模的優化是很困難或者是不可能的。