-
多項式核函數
鎖定
多項式核函數K(x,xi)=(x▪xi+1)^d, d=1,2,...,N；
根據模式識別理論，低維空間線性不可分的模式通過非線性映射到高維特徵空間則可能實現線性可分，但是如果直接採用這種技術在高維空間進行分類或迴歸，則存在確定非線性映射函數的形式和參數、特徵空間維數等問題，而最大的障礙則是在高維特徵空間運算時存在的維數災難。採用核函數技術可以有效地解決這樣問題。
多項式核函數是一種常見的核函數。
- 中文名
- 多項式核函數
- 外文名
- Polynomial kernel function
- 性 質
- 數學函數
- 特 點
- 多項式較多
多項式核函數第一章 核函數
§1 多項式空間和多項式核函數
1. 有序齊次多項式空間考慮2維空間，其所有的2階單項式為
(1.3) // 這些公式都沒有，包括文章的下邊的公式都沒有， 這邊文章的校驗工作實在粗陋
注意，在表達式(1.3)中，我們把和看成兩個不同的單項式，所以稱式（1.3）中的單項式為有序單項式。這4個有序單項式張成的是一個4維特徵空間，稱為2階有序齊次多項式空間，記為。相應地可建立從原空間到多項式空間的非線性映射
(1.4)
同理，從到階有序齊次多項式空間映射可表示為
(1.5)
這樣的有序單項式的個數為，即多項式空間的維數。如果在中進行內積運算，當和都不太小時，多項式空間的維數會相當大。如當，時，維數可達到上億維。顯然，在多項式空間中直接進行內積運算將會引起“維數災難”問題，那麼，如何處理這個問題呢？
我們先來考查的情況，計算多項式空間中兩個向量的內積
(1.6)
若定義函數
(1.7)
則有
(1.8)
即4維多項式空間上的向量內積可以轉化為原始2維空間上的向量內積的平方。對於一般的從到階有序多項式空間的映射（1.5）也有類似的結論。
定理1.1 考慮由式（1.5）定義的從到多項式空間的映射，則在空間上的內可表為 (1.9)
其中
(1.10)
證明：直接計算可得
(1.11)
上述定理表明，我們並不需要在高維的多項式空間中直接做內積運算， 而利用式（1.10）給出的輸入空間上的二元函數來計算高維多項式空間中的內積。
2. 有序多項式空間
在式（1.5）定義的映射中，多項式空間的分量由所有的階有序單項式組成。如果把該多項式空間的分量擴充為所有不超過階的有序單項式，便得到從到有序多項式空間的映射
(1.12)
對於這個映射，我們有如下的定理：
定理1.2 考慮有式（1.12）定義的從到多項式空間的映射，則空間上的內積可表為空間上的內積的函數，即若定義兩個變量和的函數
(1.13)
則有
(1.14)
上述有序多項式空間的一個簡單的例子是
(1.15)
3. 無序多項式空間
如果我們把式（1.4）中的看作相同的單項式，那麼我們就可以把從到4維多項式空間的映射（1.4）簡化為從到3維多項式空間的映射
(1.16)
將映射（1.16）調整為
(1.17)
則相應的多項式空間稱為2階無序多項式空間，並且有
(1.18)
對式（1.5）所示的變換按下述方式操作：把中次序不同但因子相同的各分量合併為一個分量，並在該分量前增加一個係數，這個係數取為相應次序不同但因子相同的分量在中出現次數的平方根。這樣得到的從到階無序多項式空間的變換仍滿足關係式
(1.19)
其中
(1.20)
根據定義1.1，我們稱（1.13）和（1.20）分別為階多項式核函數和階齊次多項式核函數。
比較式（1.4）定義的變換和式（1.17）定義的可以發現，它們所映射到的多項式空間是不同的。前者是一個4維多項式空間，後者為一個3維多項式空間。但是內積是相同的，它們都可以表示為內積的函。這説明：多項式空間不是由核函數唯一確定的。
