最新智能控制 第6章神經(jīng)網(wǎng)絡理論基礎.教學講義ppt課件.ppt

《最新智能控制 第6章神經(jīng)網(wǎng)絡理論基礎.教學講義ppt課件.ppt》由會員上傳分享，免費在線閱讀，更多相關內(nèi)容在教育資源-天天文庫。

1、智能控制第6章神經(jīng)網(wǎng)絡理論基礎.模糊控制在處理數(shù)值數(shù)據(jù)、自學習能力等方面還遠沒有達到人腦的境界。人工神經(jīng)網(wǎng)絡從另一個角度出發(fā)，即從人惱的生理學和心理學著手，通過人工模擬人腦的工作機理來實現(xiàn)機器的部分智能行為。人工神經(jīng)網(wǎng)絡（簡稱神經(jīng)網(wǎng)絡，NeuralNetwork）是模擬人腦思維方式的數(shù)學模型。神經(jīng)網(wǎng)絡是在現(xiàn)代生物學研究人腦組織成果的基礎上提出的，用來模擬人類大腦神經(jīng)網(wǎng)絡的結構和行為。神經(jīng)網(wǎng)絡反映了人腦功能的基本特征，如并行信息處理、學習、聯(lián)想、模式分類、記憶等。1962年，Widrow和Hoff提出了自適應線性神經(jīng)網(wǎng)絡，即Adaline網(wǎng)絡，并提出了

2、網(wǎng)絡學習新知識的方法，即Widrow和Hoff學習規(guī)則（即δ學習規(guī)則），并用電路進行了硬件設計。2低潮期（1969-1982）受當時神經(jīng)網(wǎng)絡理論研究水平的限制及馮·諾依曼式計算機發(fā)展的沖擊等因素的影響，神經(jīng)網(wǎng)絡的研究陷入低谷。在美、日等國有少數(shù)學者繼續(xù)著神經(jīng)網(wǎng)絡模型和學習算法的研究，提出了許多有意義的理論和方法。例如，1969年，S.Groisberg和A.Carpentet提出了至今為止最復雜的ART網(wǎng)絡，該網(wǎng)絡可以對任意復雜的二維模式進行自組織、自穩(wěn)定和大規(guī)模并行處理。1972年，Kohonen提出了自組織映射的SOM模型。3復興期（1982-1

3、986）1982年，物理學家Hoppield提出了Hoppield神經(jīng)網(wǎng)絡模型，該模型通過引入能量函數(shù)，實現(xiàn)了問題優(yōu)化求解，1984年他用此模型成功地解決了旅行商路徑優(yōu)化問題(TSP)。在1986年，在Rumelhart和McCelland等出版《ParallelDistributedProcessing》一書，提出了一種著名的多層神經(jīng)網(wǎng)絡模型，即BP網(wǎng)絡。該網(wǎng)絡是迄今為止應用最普遍的神經(jīng)網(wǎng)絡。4新連接機制時期（1986-現(xiàn)在）神經(jīng)網(wǎng)絡從理論走向應用領域，出現(xiàn)了神經(jīng)網(wǎng)絡芯片和神經(jīng)計算機。神經(jīng)網(wǎng)絡主要應用領域有：模式識別與圖象處理（語音、指紋、故障檢測

4、和圖象壓縮等）、控制與優(yōu)化、預測與管理（市場預測、風險分析）、通信等。6.2神經(jīng)網(wǎng)絡原理神經(jīng)生理學和神經(jīng)解剖學的研究表明，人腦極其復雜，由一千多億個神經(jīng)元交織在一起的網(wǎng)狀結構構成，其中大腦皮層約140億個神經(jīng)元，小腦皮層約1000億個神經(jīng)元。人腦能完成智能、思維等高級活動，為了能利用數(shù)學模型來模擬人腦的活動，導致了神經(jīng)網(wǎng)絡的研究。神經(jīng)系統(tǒng)的基本構造是神經(jīng)元(神經(jīng)細胞)，它是處理人體內(nèi)各部分之間相互信息傳遞的基本單元。每個神經(jīng)元都由一個細胞體，一個連接其他神經(jīng)元的軸突和一些向外伸出的其它較短分支—樹突組成。軸突功能是將本神經(jīng)元的輸出信號(興奮)傳遞給別

5、的神經(jīng)元，其末端的許多神經(jīng)末梢使得興奮可以同時傳送給多個神經(jīng)元。樹突的功能是接受來自其它神經(jīng)元的興奮。神經(jīng)元細胞體將接收到的所有信號進行簡單地處理后，由軸突輸出。神經(jīng)元的軸突與另外神經(jīng)元神經(jīng)末梢相連的部分稱為突觸。圖單個神經(jīng)元的解剖圖神經(jīng)元由三部分構成：（1）細胞體（主體部分）：包括細胞質(zhì)、細胞膜和細胞核；（2）樹突：用于為細胞體傳入信息；（3）軸突：為細胞體傳出信息，其末端是軸突末梢，含傳遞信息的化學物質(zhì)；（4）突觸：是神經(jīng)元之間的接口（104~105個/每個神經(jīng)元）。通過樹突和軸突，神經(jīng)元之間實現(xiàn)了信息的傳遞。神經(jīng)元具有如下功能：(1)興奮與抑制

6、：如果傳入神經(jīng)元的沖動經(jīng)整和后使細胞膜電位升高，超過動作電位的閾值時即為興奮狀態(tài)，產(chǎn)生神經(jīng)沖動，由軸突經(jīng)神經(jīng)末梢傳出。如果傳入神經(jīng)元的沖動經(jīng)整和后使細胞膜電位降低，低于動作電位的閾值時即為抑制狀態(tài)，不產(chǎn)生神經(jīng)沖動。(2)學習與遺忘：由于神經(jīng)元結構的可塑性，突觸的傳遞作用可增強和減弱，因此神經(jīng)元具有學習與遺忘的功能。決定神經(jīng)網(wǎng)絡模型性能三大要素為：(1)神經(jīng)元（信息處理單元）的特性；(2)神經(jīng)元之間相互連接的形式—拓撲結構；(3)為適應環(huán)境而改善性能的學習規(guī)則。6.3神經(jīng)網(wǎng)絡的分類目前神經(jīng)網(wǎng)絡模型的種類相當豐富，已有近40余種神經(jīng)網(wǎng)絡模型。典型的神經(jīng)網(wǎng)

7、絡有多層前向傳播網(wǎng)絡（BOP網(wǎng)絡）、Hopfield網(wǎng)絡、CMAC小腦模型、ART網(wǎng)絡、BAM雙向聯(lián)想記憶網(wǎng)絡、SOM自組織網(wǎng)絡、Blotzman機網(wǎng)絡和Madaline網(wǎng)絡等。根據(jù)神經(jīng)網(wǎng)絡的連接方式，神經(jīng)網(wǎng)絡可分為兩種形式：（1）前向網(wǎng)絡如圖所示，神經(jīng)元分層排列，組成輸入層、隱含層和輸出層。每一層的神經(jīng)元只接受前一層神經(jīng)元的輸入。輸入模式經(jīng)過各層的順次變換后，由輸出層輸出。在各神經(jīng)元之間不存在反饋。感知器和誤差反向傳播網(wǎng)絡采用前向網(wǎng)絡形式。圖前饋型神經(jīng)網(wǎng)絡（2）反饋網(wǎng)絡該網(wǎng)絡結構在輸出層到輸入層存在反饋，即每一個輸入節(jié)點都有可能接受來自外部的輸入和

8、來自輸出神經(jīng)元的反饋。這種神經(jīng)網(wǎng)絡是一種反饋動力學系統(tǒng)，它需要工作一段時間才能達到穩(wěn)定。Hopfield神經(jīng)