神經(jīng)網(wǎng)絡(luò)與神經(jīng)網(wǎng)絡(luò)控制

《神經(jīng)網(wǎng)絡(luò)與神經(jīng)網(wǎng)絡(luò)控制》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、機電系統(tǒng)智能控制第5章神經(jīng)網(wǎng)絡(luò)與神經(jīng)網(wǎng)絡(luò)控制推薦課后閱讀資料SimonHaykin.神經(jīng)網(wǎng)絡(luò)的綜合基礎(chǔ)(第2版).清華大學出版社,2001MartinT.Hagan.神經(jīng)網(wǎng)絡(luò)設(shè)計.機械工業(yè)出版社,200235.1概述5.1.1生物神經(jīng)元模型5.1.2人工神經(jīng)元模型5.1.3人工神經(jīng)網(wǎng)絡(luò)模型5.1.4神經(jīng)網(wǎng)絡(luò)的學習方法45.1.1生物神經(jīng)元模型人腦大約包含1012個神經(jīng)元，分成約1000種類型，每個神經(jīng)元大約與102～104個其他神經(jīng)元相連接，形成極為錯綜復雜而又靈活多變的神經(jīng)網(wǎng)絡(luò)。每個神經(jīng)元雖然都十分簡單，但是如此大量的神經(jīng)元之間、如此復雜的連接卻可以演化出豐富多彩的行為方式。同時

2、，如此大量的神經(jīng)元與外部之間的多種多樣的連接方式也蘊含了變化莫測的反應方式。67從生物控制論的觀點來看，神經(jīng)元作為控制和信息處理的基本單元，具有下列一些重要的功能與特性：時空整合功能興奮與抑制狀態(tài)脈沖與電位轉(zhuǎn)換神經(jīng)纖維傳導速度突觸延時和不應期學習、遺忘和疲勞5.1.1生物神經(jīng)元模型95.1.2人工神經(jīng)元模型人工神經(jīng)元是對生物神經(jīng)元的一種模擬與簡化。它是神經(jīng)網(wǎng)絡(luò)的基本處理單元。如圖所示為一種簡化的人工神經(jīng)元結(jié)構(gòu)。它是一個多輸入、單輸出的非線性元件。1011其輸入、輸出關(guān)系可描述為其中，是從其他神經(jīng)元傳來的輸入信號；表示從神經(jīng)元j到神經(jīng)元i的連接權(quán)值；為閾值；稱為激發(fā)函數(shù)或作用函數(shù)。5

3、.1.2人工神經(jīng)元模型12激發(fā)函數(shù)又稱為變換函數(shù)，它決定神經(jīng)元（節(jié)點）的輸出。該輸出取決于其輸入之和大于或小于內(nèi)部閾值。函數(shù)一般具有非線性特性。下圖表示了幾種常見的激發(fā)函數(shù)。1.閾值型函數(shù)（見圖（a），（b））2.飽和型函數(shù)（見圖（c））3.雙曲函數(shù)（見圖（d））4.S型函數(shù)（見（e））5.高斯函數(shù)（見圖（f））5.1.2人工神經(jīng)元模型13神經(jīng)元處理活性的理想模式155.1.3人工神經(jīng)網(wǎng)絡(luò)模型人工神經(jīng)網(wǎng)絡(luò)是以工程技術(shù)手段來模擬人腦神經(jīng)元網(wǎng)絡(luò)的結(jié)構(gòu)與特征的系統(tǒng)。利用人工神經(jīng)元可以構(gòu)成各種不同拓撲結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)，它是生物神經(jīng)網(wǎng)絡(luò)的一種模擬和近似。就神經(jīng)網(wǎng)絡(luò)的主要連接型式而言，目前已有數(shù)

4、十種不同的神經(jīng)網(wǎng)絡(luò)模型，其中前饋型網(wǎng)絡(luò)和反饋型網(wǎng)絡(luò)是兩種典型的結(jié)構(gòu)模型。16(1).前饋型神經(jīng)網(wǎng)絡(luò)前饋型神經(jīng)網(wǎng)絡(luò)，又稱前向網(wǎng)絡(luò)（FeedforwardNN）。如圖所示，神經(jīng)元分層排列，有輸入層、隱層（亦稱中間層，可有若干層）和輸出層，每一層的神經(jīng)元只接受前一層神經(jīng)元的輸入。17從學習的觀點來看，前饋網(wǎng)絡(luò)是一種強有力的學習系統(tǒng)，其結(jié)構(gòu)簡單而易于編程；從系統(tǒng)的觀點看，前饋網(wǎng)絡(luò)是一靜態(tài)非線性映射，通過簡單非線性處理單元的復合映射，可獲得復雜的非線性處理能力。但從計算的觀點看，缺乏豐富的動力學行為。大部分前饋網(wǎng)絡(luò)都是學習網(wǎng)絡(luò)，它們的分類能力和模式識別能力一般都強于反饋網(wǎng)絡(luò)，典型的前饋網(wǎng)絡(luò)有

5、感知器網(wǎng)絡(luò)、BP網(wǎng)絡(luò)等。(1).前饋型神經(jīng)網(wǎng)絡(luò)1819(2).反饋型神經(jīng)網(wǎng)絡(luò)反饋型神經(jīng)網(wǎng)絡(luò)（FeedbackNN）的結(jié)構(gòu)如圖所示。如果總節(jié)點（神經(jīng)元）數(shù)為N，那么每個節(jié)點有N個輸入和一個輸出，也就是說，所有節(jié)點都是一樣的，它們之間都可相互連接。20反饋神經(jīng)網(wǎng)絡(luò)是一種反饋動力學系統(tǒng)，它需要工作一段時間才能達到穩(wěn)定。Hopfield神經(jīng)網(wǎng)絡(luò)是反饋網(wǎng)絡(luò)中最簡單且應用廣泛的模型，它具有聯(lián)想記憶（Content一AddressibleMemory，CAM）的功能，同時Hopfield神經(jīng)網(wǎng)絡(luò)還可以用來解決快速尋優(yōu)問題。(2).反饋型神經(jīng)網(wǎng)絡(luò)21225.1.4神經(jīng)網(wǎng)絡(luò)的學習方法學習方法是體現(xiàn)人

6、工神經(jīng)網(wǎng)絡(luò)智能特性的主要標志，離開了學習算法，人工神經(jīng)網(wǎng)絡(luò)就失去了自適應、自組織和自學習的能力。目前神經(jīng)網(wǎng)絡(luò)的學習方法有多種，按有無教師來分類，可分為有教師學習（SupervisedLearning）、無教師學習（UnsupervisedLearning）和再勵學習（ReinforcementLearning）等幾大類。在有教師的學習方式中，網(wǎng)絡(luò)的輸出和期望的輸出（即教師信號）進行比較，然后根據(jù)兩者之間的差異調(diào)整網(wǎng)絡(luò)的權(quán)值，最終使差異變小。在無教師的學習方式中，輸入模式進入網(wǎng)絡(luò)后，網(wǎng)絡(luò)按照一預先設(shè)定的規(guī)則（如競爭規(guī)則）自動調(diào)整權(quán)值，使網(wǎng)絡(luò)最終具有模式分類等功能。再勵學習是介于上述兩

7、者之間的一種學習方式。5.1.4神經(jīng)網(wǎng)絡(luò)的學習方法2324神經(jīng)網(wǎng)絡(luò)中常用的幾種基本學習方法(1).Hebb學習規(guī)則兩個神經(jīng)元同時處于激發(fā)狀態(tài)時，它們之間的連接強度將得到加強，這一論述的數(shù)學描述被稱為Hebb學習規(guī)則。Hebb學習規(guī)則是一種無教師的學習方法，它只根據(jù)神經(jīng)元連接間的激活水平改變權(quán)值，因此這種方法又稱為相關(guān)學習或并聯(lián)學習。25(2)．Delta（δ）學習規(guī)則δ規(guī)則可以誤差函數(shù)達到最小值。但δ學習規(guī)則只適用于線性可分函數(shù)，無法用于多層網(wǎng)絡(luò)。BP網(wǎng)絡(luò)學習算法稱為