最新人工神經(jīng)網(wǎng)絡(luò)理論和應(yīng)用教學(xué)講義PPT課件.ppt

《最新人工神經(jīng)網(wǎng)絡(luò)理論和應(yīng)用教學(xué)講義PPT課件.ppt》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、人工神經(jīng)網(wǎng)絡(luò)理論和應(yīng)用神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí)7.1生物神經(jīng)元及人工神經(jīng)元的組成7.2人工神經(jīng)網(wǎng)絡(luò)的模型7.2.1人工神經(jīng)元的模型7.2.2常用的激活轉(zhuǎn)移函數(shù)7.2.3MP模型神經(jīng)元7.1生物神經(jīng)元及人工神經(jīng)元的組成神經(jīng)元也稱神經(jīng)細(xì)胞，它是生物神經(jīng)系統(tǒng)的最基本單元，它和人體中其他細(xì)胞的關(guān)鍵區(qū)別在于具有產(chǎn)生、處理和傳遞信號(hào)的功能。每個(gè)神經(jīng)元都包括三個(gè)主要部分：細(xì)胞體、樹突和軸突，見圖7.1（a）。(a)簡單神經(jīng)元網(wǎng)絡(luò)圖(b)簡化后的網(wǎng)絡(luò)示意圖(1)細(xì)胞體；(2)樹突；(3)軸突；(4)突觸圖7.1簡單神經(jīng)元網(wǎng)絡(luò)及其簡化結(jié)構(gòu)圖生

2、物神經(jīng)元的功能與特征(3)脈沖與電位轉(zhuǎn)換突觸界面具有脈沖/電位信號(hào)轉(zhuǎn)化功能。沿神經(jīng)纖維傳遞的信號(hào)為離散的電脈沖信號(hào)，而細(xì)胞膜電位的變化為連續(xù)的電位信號(hào)。這種在突觸接口處進(jìn)行的“數(shù)/?！鞭D(zhuǎn)換，是通過神經(jīng)介質(zhì)以量子化學(xué)方式實(shí)現(xiàn)的如下過程：電脈沖----神經(jīng)化學(xué)物質(zhì)----膜電位(4)神經(jīng)纖維傳導(dǎo)速率神經(jīng)沖動(dòng)沿神經(jīng)纖維傳導(dǎo)的速度在1---150m/s之間。其速度差異與纖維的粗細(xì)、髓鞘的有無有關(guān)。一般來說，有髓鞘的纖維，其傳導(dǎo)速度在100m/s以上，無髓鞘的纖維，其傳導(dǎo)速度可低至每秒數(shù)米。(5)突觸延時(shí)和不應(yīng)期突觸對(duì)相鄰兩次

3、神經(jīng)沖動(dòng)的響應(yīng)需要有一定的時(shí)間間隔，在這個(gè)時(shí)間間隔內(nèi)不響應(yīng)激勵(lì)，也不傳遞神經(jīng)沖動(dòng)，這個(gè)時(shí)間間隔稱為不應(yīng)期。人腦神經(jīng)系統(tǒng)的結(jié)構(gòu)與特征神經(jīng)生理學(xué)的研究結(jié)果表明，人腦的神經(jīng)系統(tǒng)是一個(gè)由大量生物神經(jīng)元并行互連所形成的一個(gè)網(wǎng)絡(luò)系統(tǒng)。每個(gè)人的大腦大約有1011---1012個(gè)神經(jīng)元，每個(gè)神經(jīng)元大約有103---104個(gè)突觸，即與其它103---104個(gè)神經(jīng)元相連。(1)記憶和存儲(chǔ)功能人腦神經(jīng)系統(tǒng)的記憶和處理功能是有機(jī)的結(jié)合在一起的。神經(jīng)元既有存儲(chǔ)功能，又有處理功能，它在進(jìn)行回憶時(shí)不僅不需要先找到存儲(chǔ)地址再調(diào)出所存內(nèi)容，而且還可以

4、由一部分內(nèi)容恢復(fù)全部內(nèi)容。尤其是當(dāng)一部分神經(jīng)元受到損壞（例如腦部受傷等）時(shí)，它只會(huì)丟失損壞最嚴(yán)重部分的那些信息，而不會(huì)丟失全部存儲(chǔ)信息。(2)高度并行性（為什么計(jì)算機(jī)無法模擬更多的神經(jīng)元，如果有100個(gè)神經(jīng)元，兩兩互連，則會(huì)出現(xiàn)100＊99/2=5000個(gè)N元一次方程。如何計(jì)算如此復(fù)雜的方程組？）提供了非常巨大的存儲(chǔ)容量和并行度。例如，人可以非常迅速地識(shí)別出一幅十分復(fù)雜的圖像。人腦神經(jīng)系統(tǒng)的結(jié)構(gòu)與特征(3)分布式功能人們通過對(duì)腦損壞病人所做的神經(jīng)心理學(xué)研究，沒有發(fā)現(xiàn)大腦中的哪一部分可以決定其余所有各部分的活動(dòng)，也沒有

5、發(fā)現(xiàn)在大腦中存在有用于驅(qū)動(dòng)和管理整個(gè)智能處理過程的任何中央控制部分。人類大腦的各個(gè)部分是協(xié)同工作、相互影響的，并沒有哪一部分神經(jīng)元能對(duì)智能活動(dòng)的整個(gè)過程負(fù)有特別重要的責(zé)任。可見，在大腦中，不僅知識(shí)的存儲(chǔ)是分散的，而且其控制和決策也是分散的。因此，大腦是一種分布式系統(tǒng)。(4)容錯(cuò)功能容錯(cuò)性是指根據(jù)不完全的、有錯(cuò)誤的信息仍能做出正確、完整結(jié)論的能力。大腦的容錯(cuò)性是非常強(qiáng)的。例如，我們往往能夠僅由某個(gè)人的一雙眼睛、一個(gè)背影、一個(gè)動(dòng)作或一句話的音調(diào)，就能辨認(rèn)出來這個(gè)人是誰。人腦神經(jīng)系統(tǒng)的結(jié)構(gòu)與特征(5)聯(lián)想功能人腦不僅具有很

6、強(qiáng)的容錯(cuò)功能，還有聯(lián)想功能。善于將不同領(lǐng)域的知識(shí)結(jié)合起來靈活運(yùn)用，善于概括、類比和推理。例如，一個(gè)人能很快認(rèn)出多年不見、面貌變化較大的老朋友。(6)自組織和自學(xué)習(xí)功能人腦能夠通過內(nèi)部自組織、自學(xué)習(xí)能力不斷適應(yīng)外界環(huán)境，從而可以有效地處理各種模擬的、模糊的或隨機(jī)的問題。人工神經(jīng)元的主要結(jié)構(gòu)單元是信號(hào)的輸入、綜合處理和輸出輸出信號(hào)強(qiáng)度大小反映了該神經(jīng)元對(duì)相鄰神經(jīng)元影響的強(qiáng)弱人工神經(jīng)元之間通過互相聯(lián)接形成網(wǎng)絡(luò)，稱為人工神經(jīng)網(wǎng)絡(luò)神經(jīng)元之間相互聯(lián)接的方式稱為聯(lián)接模式相互之間的聯(lián)接強(qiáng)度由聯(lián)接權(quán)值體現(xiàn)。在人工神經(jīng)網(wǎng)絡(luò)中，改變信息處

7、理及能力的過程，就是修改網(wǎng)絡(luò)權(quán)值的過程。目前多數(shù)人工神經(jīng)網(wǎng)絡(luò)的構(gòu)造大體上都采用如下的一些原則：由一定數(shù)量的基本神經(jīng)元分層聯(lián)接；每個(gè)神經(jīng)元的輸入、輸出信號(hào)以及綜合處理內(nèi)容都比較簡單；網(wǎng)絡(luò)的學(xué)習(xí)和知識(shí)存儲(chǔ)體現(xiàn)在各神經(jīng)元之間的聯(lián)接強(qiáng)度上。7.2人工神經(jīng)網(wǎng)絡(luò)的模型7.2.1人工神經(jīng)元的模型神經(jīng)元是人工神經(jīng)網(wǎng)絡(luò)的基本處理單元，它一般是一個(gè)多輸入/單輸出的非線性元件。神經(jīng)元輸出除受輸入信號(hào)的影響外，同時(shí)也受到神經(jīng)元內(nèi)部因素的影響，所以在人工神經(jīng)元的建模中，常常還加有一個(gè)額外輸入信號(hào)，稱為偏差，有時(shí)也稱為閾值或門限值。神經(jīng)元的輸出

8、矢量可以表示為：A=f(W*P+b)=f(∑wjpj+b)(7.2)可以看出偏差被簡單地加在W*P上作為激活函數(shù)的另一個(gè)輸入分量。實(shí)際上偏差也是一個(gè)權(quán)值，只是它具有固定常數(shù)為1的輸入。在網(wǎng)絡(luò)的設(shè)計(jì)中，偏差起著重要的作用，它使得激活函數(shù)的圖形可以左右移動(dòng)，從而增加了解決問題的可能性。7.2.2激活轉(zhuǎn)移函數(shù)激活轉(zhuǎn)移函數(shù)（Activationtran