人工神經(jīng)網(wǎng)絡(luò)-連續(xù)型Hopfield神經(jīng)網(wǎng)絡(luò).pptx

《人工神經(jīng)網(wǎng)絡(luò)-連續(xù)型Hopfield神經(jīng)網(wǎng)絡(luò).pptx》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、連續(xù)型Hopfield神經(jīng)網(wǎng)絡(luò)ContinuousHopfieldNeuralNetwork——CHNN連續(xù)型Hopfield神經(jīng)網(wǎng)絡(luò)是Hopfield于1984年在離散型Hopfield神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上提出的。Hopfield網(wǎng)絡(luò)分為離散型和連續(xù)型兩種，都是對稱互連網(wǎng)絡(luò)（Wij=Wji）,根據(jù)節(jié)點狀態(tài)的取值來劃分是離散型的還是連續(xù)型。離散網(wǎng)絡(luò)節(jié)點取{-1，+1}或{0，+1}，連續(xù)網(wǎng)絡(luò)節(jié)點狀態(tài)在某個隨機區(qū)間內(nèi)連續(xù)取值。其原理與離散型Hopfield神經(jīng)網(wǎng)絡(luò)相似，它以模擬量作為網(wǎng)絡(luò)的輸入輸出量，各神經(jīng)元采用并行方式工作所以它在信息處

2、理的并行性、聯(lián)想性、實時性、分布存儲和協(xié)同性等方面比離散型Hopfield神經(jīng)網(wǎng)絡(luò)更接近于生物神經(jīng)網(wǎng)絡(luò)提出原理優(yōu)點一、網(wǎng)絡(luò)結(jié)構(gòu)二、穩(wěn)定性證明三、CHNN的幾點結(jié)論連續(xù)型Hopfield神經(jīng)網(wǎng)絡(luò)ContinuousHopfieldNeuralNetwork——CHNN連續(xù)型Hopfield網(wǎng)絡(luò)結(jié)構(gòu)及特點連續(xù)型Hopfield網(wǎng)絡(luò)結(jié)構(gòu)如右圖所示，它是單層反饋非線性網(wǎng)絡(luò)，每一個節(jié)點的輸出均反饋至節(jié)點的輸入。Hopfield網(wǎng)絡(luò)用模擬電路實現(xiàn)的神經(jīng)元節(jié)點如右圖。圖中電阻Rio和電容Ci并聯(lián)，模擬生物神經(jīng)元的延時特性，電阻Rij(j=1,2,

3、…,n)模擬突觸特征，偏置電流Ii相當(dāng)于閾值，運算放大器模擬神經(jīng)元的非線性飽和特性。設(shè)模型中放大器為理想放大器，其輸入端無電流輸入，則第i個放大器的輸入方程為：ui：表示運算放大器i的輸入電壓vi：表示運算放大器i的輸出電壓連續(xù)型Hopfield動態(tài)神經(jīng)網(wǎng)絡(luò)模型如右圖所示。取Wij=Wji,Wii=0(無自反饋)Hopfield神經(jīng)網(wǎng)絡(luò)中每個神經(jīng)元都是由運算放大器及其相關(guān)的電路組成的，其中任意一個運算放大器i（或神經(jīng)元i）都有兩組輸入：第一組是恒定的外部輸入，用Ii表示，這相當(dāng)于放大器的電流輸入；第二組是來自其他運算放大器的反饋連接

4、，如其中的另一任意運算放大器j（或神經(jīng)元j），用wij表示，這相當(dāng)于神經(jīng)元i與神經(jīng)元j之間的連接權(quán)值。設(shè)則有一般設(shè)則有式中f(x)為S形激勵函數(shù)。一般有以下兩種形式：非對稱型Sigmoid函數(shù)對稱型Sigmoid函數(shù)連續(xù)型Hopfield神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析能量函數(shù)的定義求取其中：由于Wij=Wji則有：由連續(xù)Hopfield運行方程可得將上式代入原式可得：由于Ci>0,f(U)單調(diào)遞增，故f-1(U)也單調(diào)遞增，可得：當(dāng)且僅當(dāng)，時，結(jié)論：網(wǎng)絡(luò)是漸進(jìn)穩(wěn)定的，隨著時間的推移，網(wǎng)絡(luò)的狀態(tài)向E減小的方向運動，其穩(wěn)定平衡狀態(tài)就是E的極小點。關(guān)

5、于Hopfield能量函數(shù)的幾點說明：當(dāng)對反饋網(wǎng)絡(luò)應(yīng)用能量函數(shù)后，從任一初始狀態(tài)開始，因為在每次迭代后都能滿足?E≤0，所以網(wǎng)絡(luò)的能量將會越來越小，最后趨于穩(wěn)定點?E=0。Hopfield能量函數(shù)的物理意義：在那些漸進(jìn)穩(wěn)定點的吸引域內(nèi)，離吸引點越遠(yuǎn)的狀態(tài)，所具有的能量越大，由于能量函數(shù)的單調(diào)下降特性，保證狀態(tài)的運動方向能從遠(yuǎn)離吸引點處，不斷地趨于吸引點，直到達(dá)到穩(wěn)定點。兩點說明：1）能量函數(shù)為反饋網(wǎng)絡(luò)的重要概念。根據(jù)能量函數(shù)可以方便的判斷系統(tǒng)的穩(wěn)定性；2）Hopfield選擇的能量函數(shù)，只是保證系統(tǒng)穩(wěn)定和漸進(jìn)穩(wěn)定的充分條件，而不是必

6、要條件，其能量函數(shù)也不是唯一的。1）具有良好的收斂性；2）具有有限個平衡點；3）如果平衡點是穩(wěn)定的，那么它也一定是漸進(jìn)穩(wěn)定的；4）漸進(jìn)穩(wěn)定平衡點為其能量函數(shù)的局部極小點；5）能將任意一組希望存儲的正交化矢量綜合為網(wǎng)絡(luò)的漸進(jìn)平衡點；6）網(wǎng)絡(luò)的存儲信息表現(xiàn)為神經(jīng)元之間互連的分布式動態(tài)存儲；7）網(wǎng)絡(luò)以大規(guī)模、非線性、連續(xù)時間并行方式處理信息，其計算時間就是網(wǎng)絡(luò)趨于平衡點的時間。CHNN的幾點結(jié)論