複製鏈接
請複製以下鏈接發送給好友

Hebb學習規則

鎖定
Hebb學習規則是一個無監督學習規則,這種學習的結果是使網絡能夠提取訓練集的統計特性,從而把輸入信息按照它們的相似性程度劃分為若干類。這一點與人類觀察和認識世界的過程非常吻合,人類觀察和認識世界在相當程度上就是在根據事物的統計特徵進行分類。Hebb學習規則只根據神經元連接間的激活水平改變權值,因此這種方法又稱為相關學習或並聯學習。 [1] 
中文名
Hebb學習規則
外文名
Hebbian Learning Rule
提出者
赫布
地    點
加拿大

Hebb學習規則產生來源

hebb hebb
唐納德·赫布(1904-1985)是加拿大著名生理心理學家。在1949年出版的《行為的組織》中,赫布提出了其神經心理學理論。
赫布認為神經網絡的學習過程最終是發生在神經元之間的突觸部位,突觸的聯結強度隨着突觸前後神經元的活動而變化,變化的量與兩個神經元的活性之和成正比。

Hebb學習規則公式方法

可以看出,權值調整量與輸入輸出的乘積成正比,顯然經常出現的模式將對權向量有較大的影響。在這種情況下,Hebb學習規則需預先定置權飽和值,以防止輸入和輸出正負始終一致時出現權值無約束增長。

Hebb學習規則表達意義

由赫布提出的Hebb學習規則為神經網絡的學習算法奠定了基礎,在此基礎上,人們提出了各種學習規則和算法,以適應不同網絡模型的需要。有效的學習算法,使得神經網絡能夠通過聯結權重的調整,構造客觀世界的內在表徵。 [1] 
Hebb學習規則與“條件反射”機理一致,並且已經得到了神經細胞學説的證實。
巴甫洛夫的條件反射實驗:每次給狗餵食前都先響鈴,時間一長,狗就會將鈴聲和食物聯繫起來。以後如果響鈴但是不給食物,狗也會流口水。 [2] 
受該實驗的啓發,Hebb的理論認為在同一時間被激發的神經元間的聯繫會被強化。比如,鈴聲響時一個神經元被激發,在同一時間食物的出現會激發附近的另一個神經元,那麼這兩個神經元間的聯繫就會強化,從而記住這兩個事物之間存在着聯繫。相反,如果兩個神經元總是不能同步激發,那麼它們間的聯繫將會越來越弱。
參考資料