進化神經網絡

動物的大腦及其複雜的神經系統本身就是在漫長的歷史中進化而形成的，因此模擬這種複雜智能系統的演化形成，產生出進化神經網絡模型。進化計算與神經網絡作為計算智能的兩大分支經過融合之後產生了一種全新的神經網絡模型——進化神經網絡。 ^[1]  這種模型把進化計算的進化自適應機制與神經網絡的學習計算機機制有機結合在一起，有效地克服了傳統人工神經網絡的幾乎所有缺點，是一種很有發展前途新模型。

進化神經網絡模型的一個主要特點就是它對動態環境的自適應性。這種自適應性過程通過進化的三個等級實現，即連接權值、網絡結構和學習規則的進化，他們以不同的時間尺度進化，在自適應中也起着不同的作用。

根據進化神經網絡的三個等級，進化神經網絡模型的發展呈現以下四個不同的類型。 ^[2] 

連接權值進化的進化神經網絡

神經網絡連接權值的調整算法是神經網絡設計中的一個關鍵問題。區別與傳統人工神經網絡中連接權值調整的BP算法，該進化算法是一種更有效的全局搜索優化算法，它能夠避開局部極值點，並且在進化過程中無需提供所需解決問題的梯度信息。它不單可用於前向網絡及具有不可微傳遞函數的網絡，而且對於任何網絡形式都可以進行訓練，程序編制非常簡單、訓練速度很快。

網絡結構進化的進化神經網絡

在傳統意義上提出了三種網絡結構選擇的主要方法：試湊法、構造法以及修剪法。其中，試湊法過程複雜且依賴於經驗，較難找到滿意的結構；構造法及修剪法為局部優化法，極易陷入局部極值。

網絡結構化的主要問題是結構的編碼顯示。以編碼方式的不同，結構進化型的進化神經網絡可分為以下幾種類型：

（1）直接編碼法。

此法把網絡結構的所有信息均用編碼表示。

優點：編碼直觀、方便，可表示一些對網絡的特殊約束。

缺點：只能應用於結構固定的網絡，且規模不宜太大，否則計算效率會很低。

（2）間接編碼法。

克服直接編碼的缺點，可進化大型網絡。常用的兩種類型：

① 參數編碼法

②生長規則法

結構和權值同時進化的進化神經網絡

綜合了結構進化和權值進化，代表性的方法有如下：

（1）Yao等提出的EPNet系統。

（2）Maniezzo提出的粒度編碼的進化神經網絡方法。 ^[3] 

學習規則進化的進化神經網絡

不同的網絡結構，不同應用問題採用不同的學習規則。

用於進化神經網絡的進化算法主要有遺傳算法及進化規劃。前者是研究最早、成果最多的一種，而後者研究則較晚，經過研究的不斷深入，越來越的研究者傾向於採用進化規劃進化神經網絡研究，並認為用進化規劃進化神經網絡是更適宜的。

基於遺傳算法的進化神經網絡

採用遺傳算法進化神經網絡主要有如下缺點：

①編碼帶來的問題

② 遺傳操作帶來的問題

③ 基因型同表現型的多多映射帶來的問題

④同時進化結構及權值時，採用遺傳算法對網絡結構有較大的約束。

基於進化規劃的進化神經網絡

採用進化規劃進化神經網絡具有一些明顯的好處：

① 進化規劃直接採用表現型進行操作，不但省略了遺傳算法複雜的編碼及譯碼操作，而且避免了交叉算子和雙重表示帶來的問題。

②進化規劃非常適合於網絡結構及權值的同時進化，有利於減少評價噪聲。

③ 進化規劃強調父、子代間的連接，注重網絡行為的進化，這增加了網絡進化的有效性。

基於其他新型算法的進化神經網絡

經過不斷的研究，產生了一些基於新型仿生算法的進化神經網絡模型，如：

（1）用於擬合的權值及結構同時進化的進化網絡 ^[4] 

（2）用於預測的權值及結構同時進化的進化網絡

隨着進化神經網絡研究的不斷深入，其應用範圍也越來越廣，主要體現在以下方面：

（1）進化神經網絡在股市預測中的應用

（2）進化神經網絡在滑坡預測的應用

（3）進化神經網絡在異或分類問題中的應用

（4）進化神經網絡在巷道圍巖鬆動圈預測中的應用

（5）進化神經網絡在岩土力學參數逆分析中的應用 ^[5]