隨機神經網絡

隨機神經網絡向神經網絡引進隨機變化，一類是在神經元之間分配隨機過程傳遞函數，一類是給神經元隨機權重。這使得隨機神經網絡在優化(Optimization)問題中非常有用，因為隨機的變換避免了局部最優(local minima)。由隨機傳遞函數建立的隨機神經網絡通常被稱為波茨曼機(Boltzmann machine)。隨機神經網絡在風險控制，腫瘤學和生物信息學相關領域均有應用。 ^[1] 

人工神經網絡（英語：Artificial Neural Network，ANN），簡稱神經網絡（Neural Network，NN）或類神經網絡，在機器學習和認知科學領域，是一種模仿生物神經網絡（動物的中樞神經系統，特別是大腦）的結構和功能的數學模型或計算模型，用於對函數進行估計或近似。神經網絡由大量的人工神經元聯結進行計算。大多數情況下人工神經網絡能在外界信息的基礎上改變內部結構，是一種自適應系統，通俗的講就是具備學習功能。現代神經網絡是一種非線性統計性數據建模工具。 ^[1] 

在概率論概念中，隨機過程是隨機變量的集合。若一隨機系統的樣本點是隨機函數，則稱此函數為樣本函數，這一隨機系統全部樣本函數的集合是一個隨機過程。實際應用中，樣本函數的一般定義在時間域或者空間域。隨機過程的實例如股票和匯率的波動、語音信號、視頻信號、體温的變化，反對法隨機運動如布朗運動、隨機徘徊等等。 ^[2] 

玻爾茲曼機（Boltzmann machine）是隨機神經網絡和遞歸神經網絡的一種，由傑弗裏·辛頓(Geoffrey Hinton)和特里·謝澤諾斯基(Terry Sejnowski)在1985年發明。

玻爾茲曼機可被視作隨機過程的，可生成的相應的Hopfield神經網絡。它是最早能夠學習內部表達，並能表達和（給定充足的時間）解決複雜的組合優化問題的神經網絡。但是，沒有特定限制連接方式的玻爾茲曼機目前為止並未被證明對機器學習的實際問題有什麼用。所以它目前只在理論上顯得有趣。然而，由於局部性和訓練算法的赫布性質(Hebbian nature)，以及它們和簡單物理過程相似的並行性，如果連接方式是受約束的（即受限玻爾茲曼機），學習方式在解決實際問題上將會足夠高效。

它由玻爾茲曼分佈得名。該分佈用於玻爾茲曼機的抽樣函數。 ^[2]