歸納偏向

機器學習試圖去建造一個可以學習的算法，用來預測某個目標的結果。要達到此目的，要給於學習算法一些訓練樣本，樣本説明輸入與輸出之間的預期關係。然後假設學習器在預測中逼近正確的結果，其中包括在訓練中未出現的樣本。既然未知狀況可以是任意的結果，若沒有其它額外的假設，這任務就無法解決。這種關於目標函數的必要假設就稱為歸納偏置。

雖然大部分的學習算法使用固定的偏置，但有些算法在獲得更多數據時可以變換它們的偏置。這不會取消偏置，因為偏置變換的過程本身就是一種偏置。