廣義線性模型

假設因變量

是 n 個獨立觀測，服從指數型分佈，即其有密度函數:

其中

和

為參數，

和

為函數。

假設

為對應於

的 p 維自變量 X 的觀測值。記

，其中

為

未知參數向量。假設

並且

與

具有關係

稱如此定義的模型為廣義線性模型，

稱為自然參數，

稱為離散參數，稱

為聯繫函數（連接函數）。

聯繫函數確定了廣義線性模型的均值結構，對於不同的數據類型，不同的聯繫函數的選取就產生了不同的廣義線性模型。比如，對0-1變量數據，即實驗結果只有兩種情況。將全部試驗數據分成 n 個組，第 i 組有

個數據.它們對應的自變量都為

在這個數據中，假設對應的因變量取值為 1 的數據個數為

假設

相互獨立，並記因變量取1的概率為

.如果

與

具有如下關係

其中

為標準正態分佈函數，則稱該廣義線性模型為概率單位模型(probit model)。

如果聯繫函數為

，且滿足

則稱該廣義線性模型為對數單位模型(logit model)。再如，對計數數據(比如，在一定時間內某隨機事件發生的次數),如果假設觀測數據服從泊松分佈.即

則當聯繫函數滿足

稱如此定義的廣義線性模型為對數線性模型(logit linear model)；當聯繫函數滿足

稱如此定義的廣義線性模型為線性泊松模型 (linear Poisson model) 。 ^[2]