-
概率模型
鎖定
概率模型,給定一個用户的查詢串,相對於該串存在一個包含所有相關文檔的集合。我們把這樣的集合看作是一個理想的結果文檔集,在給出理想結果集後,我們能很容易得到結果文檔。
這樣我們可以把查詢處理看作是對理想結果文檔集屬性的處理。問題是我們並不能確切地知道這些屬性,我們所知道的是存在索引術語來表示這些屬性。由於在查詢期間這些屬性都是不可見的,這就需要在初始階段來估計這些屬性。這種初始階段的估計允許我們對首次檢索的文檔集合返回理想的結果集,併產生一個初步的概率描述。
- 中文名
- 概率模型
- 適用領域
- 數學
概率模型簡介
概率模型(Statistical Model,也稱為Probabilistic Model)是用來描述不同隨機變量之間關係的數學模型,通常情況下刻畫了一個或多個隨機變量之間的相互非確定性的概率關係。從數學上講,該模型通常被表達為
,其中 Y 是觀測集合用來描述可能的觀測結果, P 是 Y 對應的概率分佈函數集合。若使用概率模型,一般而言需假設存在一個確定的分佈P 生成觀測數據 Y 。因此通常使用統計推斷的辦法確定集合 P 中誰是數據產生的原因。
大多數統計檢驗都可以被理解為一種概率模型。例如,一個比較兩組數據均值的學生t檢驗可以被認為是對該概率模型參數是否為0的檢測。此外,檢驗與模型的另一個共同點則是兩者都需要提出假設並且誤差在模型中常被假設為正態分佈。
[1]
概率模型定義
參數模型是一組由有限維參數構成的分佈集合
。其中
是參數,而
是其可行歐幾里得子空間。概率模型可被用來描述一組可產生已知採樣數據的分佈集合。例如,假設數據產生於唯一參數的高斯分佈,則我們可假設該概率模型為
。
無參數模型則是一組由無限維參數構成的概率分佈函數集合,可被表示為
。
相比於無參數模型和參數模型,半參數模型也由無限維參數構成,但其在分佈函數空間內並不緊密。例如,一組混疊的高斯模型。確切的説,如果
是參數的維度,是數據點的大小,如果隨着
和
則,則我們稱之為半參數模型。
[2]
概率模型處理過程
為了提高理想結果集的描述概率,系統需要與用户進行交互式(feedback)操作。具體處理過程如下:用户大致瀏覽一下結果文檔,決定哪些是相關的,哪些是不相關的;然後系統利用該信息重新定義理想結果集的概率描述;重複以上操作,就會越來越接近真正的結果文檔集。
[1]
概率模型算法
下面將具體討論一種簡單的算法。
在查詢的開始間段只定義了查詢串,還沒有得到結果文檔集。我們不得不作一些簡單的假設,例如:(a)假定 對所有的索引術語 來説是常數(一般等於0.5);(b)假定索引術語在非相關文檔中的分佈可以由索引術語在集合中所有文檔中的分佈來近似表示。這兩種假設用公式表示如下:
概率模型優點
概率模型的優點在於,文檔可以按照他們相關概率遞減的順序來計算秩(rank)。他的缺點在於:開始時需要猜想把文檔分為相關和不相關的兩個集合,實際上這種模型沒有考慮索引術語在文檔中的頻率(因為所有的權重都是二元的),而索引術語都是相互獨立的。
[2]
- 參考資料
-
- 1. Adèr, H.J. (2008), "Modelling", in Adèr, H.J.; Mellenbergh, G.J., Advising on Research Methods: a consultant's companion, Huizen, The Netherlands: Johannes van Kessel Publishing, pp. 271–304.
- 2. McCullagh, P. (2002), "What is a statistical model?" (PDF), Annals of Statistics, 30: 1225–1310, doi:10.1214/aos/1035844977.