神經網絡編碼

目前，在神經網絡編碼中，使用較多的是三層BP網絡和自組織映射神經網絡 ^[1]  。

採用BP網絡實現數據壓縮好比是強迫數據通過細腰型網絡的瓶頸，並期望在網絡的瓶頸處能獲得較緊湊的數據表示。圖1-1給出了BP網絡進行數據壓縮的原理，將圖像先分層n個小塊，對應於輸入的n個神經元，壓縮後的數據對應於隱含層m個神經元，m≦n。通過訓練算法在網絡學習過程中調整網絡的權重，使訓練集圖像的重建誤差E=||X-Z||均值達到最小（X為輸入層樣本集，Z為輸出層樣本集），或者説使重建圖像在均方誤差意義上儘可能地相似於原始圖像。經過訓練後的BP神經網絡便可以用來進行圖像壓縮。

自組織映射神經網絡中的神經元可以自動根據外部刺激的興奮點調整自己在由外界信號決定的參數空間中的位置。以一種雙層神經網絡為例，其中輸入層神經元（x₁，x₂，…,x_n）簡單反映外部刺激。在輸出層中，M個神經元排布成二維網絡，其中每個神經元j接收兩類輸入：來自輸入層神經元i的輸入x_i(權重為w_ij)和來自輸出層神經元的固定權重。對每一個外界輸入矢量x=( x₁，x₂，…,x_n),只有一個同該輸入的距離di=f(x,w_j),w_j=(w_1j,w_2j,…,w_nj)為最小的神經元j才被激發。其中，距離函數f(x,w_j)反映了在某一準則（一般為平方誤差準則）下，矢量x與w_j之間的距離。在網絡的訓練中只需要提供輸入矢量x,通過調整從公共的外部輸入到每個神經元j的連接權重w_j，權重矢量將逐漸指向輸入矢量空間的聚類。從而實現了輸入空間的維數壓縮，完成了類似於矢量量化的功能。

除了把神經網絡直接用於圖像壓縮之外，還可以把神經網絡同傳統的圖像壓縮編碼算法相結合，構成許多間接應用神經網絡的圖像編碼方法。但是，目前人工神經網絡的工作原理還不清楚，神經網絡的圖像編碼方法的研究目前僅處於一個初級階段，需要解決的問題還很多，如完善人工神經網絡的理論體系，弄清楚神經網絡的工作原理，找到適合圖像數據的高效壓縮，充分利用視覺信息處理機制的神經網絡模型和學習算法。