複製鏈接
請複製以下鏈接發送給好友

貝葉斯分析方法

鎖定
貝葉斯分析方法(Bayesian Analysis)是貝葉斯學習的基礎,它提供了一種計算假設概率的方法,這種方法是基於假設的先驗概率、給定假設下觀察到不同數據的概率以及觀察到的數據本身而得出的。其方法為,將關於未知參數的先驗信息與樣本信息綜合,再根據貝葉斯公式,得出後驗信息,然後根據後驗信息去推斷未知參數的方法。 [1] 
中文名
貝葉斯分析方法
外文名
Bayesian Analysis
屬    性
貝葉斯學習的基礎
提出人
貝葉斯

貝葉斯分析方法定義

計算後驗分佈期望的傳統數值計算方法是數值積分、拉普萊斯近似計算和蒙特卡洛(Monte Carlo)重要抽樣。MCMC方法,即馬爾可夫鏈——蒙特卡羅(Markov chain Monte Carlo)方法已經變成了非常流行的貝葉斯計算方法。一方面是由於它處理非常複雜問題的效率,另一方面是因為它的編程方法相對容易。
貝葉斯分析方法(Bayesian Analysis)提供了一種計算假設概率的方法,這種方法是基於假設的先驗概率、給定假設下觀察到不同數據的概率以及觀察到的數據本身而得出的。 [1]  其方法為,將關於未知參數的先驗信息與樣本信息綜合,再根據貝葉斯公式,得出後驗信息,然後根據後驗信息去推斷未知參數的方法。
貝葉斯統計理論中,統計推斷中的相關量均作為隨機量對待,而不考慮其是否產生隨機值。概率被理解為基於給定信息下對相關量不完全瞭解的程度,對於具有相同可能性的隨機事件認為具有相同的概率。在進行測量不確定度的貝葉斯評定時,與測量結果推斷或不確是度評定相關的每一個物理量均被分配一個隨機變量,分佈寬度常用標準差表示,反映了對未知真值瞭解的程度。
按照貝葉斯理論,與測量或相關評定工作有關的每一個物理量均被分配一個隨機變量,儘管每一個估計量和它所表示的相關被測量是不相同的,但它是用來估計被測量的待定真值的。為了簡單起見,估計量、估計量的值和該被測量均用相同的符號表示,如用
表示樣本,同時也用它表示樣本值,這可從上下文區別,不會發生混淆,因為樣本是隨機變量,而樣本值是一些常量,這與經典統計理論是不同的。 [2] 

貝葉斯分析方法貝葉斯理論基礎

經典統計在對隨機分佈參數進行參數估計時,假定待估計參數是未知常數,並認定這些參數的信息僅由樣本攜帶,於是通過對樣本“毫無偏見”的加工來獲得參數估計。由於估計量可能有不完善之處,估計誤差在所難免,因此經典統計理論中用置信區間表示這些誤差的大小。
在對概率的理解上,經典統計認為概率就是頻率的穩定值。一旦離開了重複試驗,就談不上去理解概率。因此要精確估計上述參數,必須保證有大量的數據樣本,但在工程中實測數據畢竟有限。另外,統計抽樣時所要求的樣本獨立同分布的條件也很難滿足。
貝葉斯定理 貝葉斯定理
貝葉斯統計理論在估計隨機分佈參數時,認為待估計參數是隨機變量,存在概率分佈。貝葉斯方法對概率的理解是人們對某些事件的一種信任程度,是對事物的不確定性的一種主觀判斷,與個人因素等有關,,故稱之為主觀概率。貝葉斯統計中的先驗分佈反映的就是人們對於待估計參數的主觀概率。為了在小樣本量下能獲得較好的參數估計,就必須利用參數的歷史資料或先驗知識。在進行參數估計時,貝葉斯學派認為後驗分佈綜合了先驗和樣本的知識,可以對參數作出較先驗分佈更合理的估計,故其參數估計都是建立在後驗分佈基礎上的,該方法對研究除觀測數據外還具備較多信息的情況特別有效。
儘管貝葉斯方法與經典統計方法有很大的不同,但在大樣本條件下,由這兩種方法估計出的參數是一致的。而在小樣本的情況下,貝葉斯方法可充分利用各種信息,結果更為可靠。
貝葉斯方法的特點是能充分利用現有信息,如總體信息、經驗信息和樣本信息等,將統計推斷建立在後驗分佈的基礎上。這樣不但可以減少因樣本量小而帶來的統計誤差,而且在沒有數據樣本的情況下也可以進行推斷。 [2] 
貝葉斯理論是貝葉斯分析的基本工具,是以全概率法則為依據建立的。

貝葉斯分析方法貝葉斯定理

是不相交事件,即
;並且
,設必然事件
。於是我們有:
這樣,必然事件
被分為m個不相交的子事件,事件B的條件概率即為給定每一個子事件
下事件B的條件概率之和。於是,給定事件B(P(B)>0),事件
的條件概率可以寫為:
這個表達式就是貝葉斯定理 [3] 
參考資料
  • 1.    楊憲澤.21世紀高校特色教材 人工智能與機器翻譯:西南交通大學出版社,2006年02月:第1版,第233頁
  • 2.    王中宇.精密儀器的小樣本非統計分析原理:北京航空航天大學出版社,2010-03:38
  • 3.    劉振亞,鄧磊.解密復興科技:基於隱蔽馬爾科夫模型的時序分析方法:中國經濟出版社,2014-04:37