複製鏈接
請複製以下鏈接發送給好友

徑向基函數核

鎖定
徑向基函數核(Radial Basis Function, RBF kernel),也被稱為高斯核(Gaussian kernel)或平方指數核(Squared Exponential., SE kernel) [1]  ,是常見的核函數(kernel function)。RBF核被應用各類核學習(kernel learning)算法中,包括支持向量機(Support Vector Machine, SVM)、高斯過程迴歸(Gaussian Process Regression, GPR)等。
中文名
徑向基函數核
外文名
Radial Basis Function (RBF) kernel
別    名
高斯核,平方指數核
類    型
核函數
學    科
統計學
應    用
機器學習

目錄

徑向基函數核定義

關於兩個樣本x和x'的RBF核可表示為某個輸入空間(input space)的特徵向量,它的定義如下所示 [2] 
可以看做兩個特徵向量之間的平方歐幾里得距離
是一個自由參數。一種等價但更為簡單的定義是設一個新的參數
,其表達式為
因為RBF核函數的值隨距離減小,並介於0(極限)和1(當x=x'的時候)之間,所以它是一種現成的相似性度量表示法。核的特徵空間有無窮多的維數;例如
時,其展開式為:

徑向基函數核近似

因為支持向量機和其他模型使用了核技巧,它在處理輸入空間中大量的訓練樣本或含有大量特徵的樣本的時表現不是很好。所以,2016年已經設計出了多種RBF核(或相似的其他核)的近似方法 [3]  。典型的情況下,這些方法使用z(x)的形式,也就是用一個函數對一個與其他向量(例如支持向量機中的支持向量)無關的單向量進行變換,例如:
其中
是RBF核中植入的隱式映射
一種建構這樣的z函數的方法,是對核函數作傅里葉變換,然後從中隨機抽出所需函數 [4] 
參考資料
  • 1.    Rasmussen, C. E..Gaussian processes in machine learning.Berlin, Heidelberg:Springer,2004:pp.14
  • 2.    Schölkopf B, Tsuda K, Vert J. A Primer on KernelMethods[C]// Kernel Methods in Computational. MIT Press, 2004:35-70.
  • 3.    Ring M, Eskofier B M. An approximation of the Gaussian RBF kernel for efficient classification with SVMs[M]. Elsevier Science Inc. 2016.
  • 4.    Rahimi A, Recht B. Random features for large-scale kernel machines[C]// International Conference on Neural Information Processing Systems. Curran Associates Inc. 2007:1177-1184.