bp神經(jīng)網(wǎng)絡在matlab函數(shù)逼近中的應用

《bp神經(jīng)網(wǎng)絡在matlab函數(shù)逼近中的應用》由會員上傳分享，免費在線閱讀，更多相關內(nèi)容在學術(shù)論文-天天文庫。

1、燕山大學模式識別與智能系統(tǒng)導論題目：BP網(wǎng)絡在函數(shù)逼近中的應用專業(yè)：控制工程姓名：XXX學號：一BP神經(jīng)網(wǎng)絡及其原理-1-1.1BP神經(jīng)網(wǎng)絡定義-1-1.2BP神經(jīng)網(wǎng)絡模型及其基本原理-1-1.3BP神經(jīng)網(wǎng)絡的主要功能-3-1.4BP網(wǎng)絡的優(yōu)點以及局限性-3-二基于MATLAB的BP神經(jīng)網(wǎng)絡工具箱函數(shù)-6-2.1BP網(wǎng)絡創(chuàng)建函數(shù)-7-2.2神經(jīng)元上的傳遞函數(shù)-7-2.3BP網(wǎng)絡學習函數(shù)-8-2.4BP網(wǎng)絡訓練函數(shù)-9-三BP網(wǎng)絡在函數(shù)逼近中的應用-10-3.1問題的提出-10-3.2基于BP神經(jīng)網(wǎng)絡逼近函數(shù)-10-3.3不同頻率下的

2、逼近效果-14-3.4討論-17-一BP神經(jīng)網(wǎng)絡及其原理1.1BP神經(jīng)網(wǎng)絡定義BP(BackPropagation)神經(jīng)網(wǎng)絡是一種神經(jīng)網(wǎng)絡學習算法。其由輸入層、中間層、輸出層組成的階層型神經(jīng)網(wǎng)絡，中間層可擴展為多層。相鄰層之間各神經(jīng)元進行全連接，而每層各神經(jīng)元之間無連接，網(wǎng)絡按有教師示教的方式進行學習，當一對學習模式提供給網(wǎng)絡后，各神經(jīng)元獲得網(wǎng)絡的輸入響應產(chǎn)生連接權(quán)值（Weight）。然后按減小希望輸出與實際輸出誤差的方向，從輸出層經(jīng)各中間層逐層修正各連接權(quán)，回到輸入層。此過程反復交替進行，直至網(wǎng)絡的全局誤差趨向給定的極小值，即完成

3、學習的過程。1.2BP神經(jīng)網(wǎng)絡模型及其基本原理BP網(wǎng)絡是一種多層前饋神經(jīng)網(wǎng)絡，由輸入層、隱層和輸出層組成。圖7為一個典型的三層BP網(wǎng)絡的拓撲結(jié)構(gòu)，層與層之間采用全互連方式，同一層之間不存在相互連接,隱層可以有一層或多層。層與層之間有兩種信號在流通：一種是工作信號(用實線表示)，它是施加輸入信號后向前傳播直到在輸出端產(chǎn)生實際輸出的信號，是輸入和權(quán)值的函數(shù)。另一種是誤差信號(用虛線表示),網(wǎng)絡實際輸出與期望輸出間的差值即為誤差，它由輸出端開始逐層向后傳播。BP網(wǎng)絡的學習過程程由前向計算過程和誤差反向傳播過程組成。在前向計算過程中，輸入量

4、從輸入層經(jīng)隱層逐層計算，并傳向輸出層，每層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如輸出層不能得到期望的輸出，則轉(zhuǎn)入誤差反向傳播過程，誤差信號沿原來的連接通路返回，逐次調(diào)整網(wǎng)絡各層的權(quán)值和閾值，直至到達輸入層，再重復向計算。這兩個過程一次反復進行，不斷調(diào)整各層的權(quán)值和閾值，使得網(wǎng)絡誤差最小或達到人們所期望的要求時，學習過程結(jié)束。-20-圖1　典型BP神經(jīng)網(wǎng)絡模型生物神經(jīng)元信號的傳遞是通過突觸進行的一個復雜的電化學等過程,在人工神經(jīng)網(wǎng)絡中是將其簡化模擬成一組數(shù)字信號通過一定的學習規(guī)則而不斷變動更新的過程，這組數(shù)字儲存在神經(jīng)元之間的連接權(quán)

5、重。網(wǎng)絡的輸入層模擬的是神經(jīng)系統(tǒng)中的感覺神經(jīng)元，它接收輸入樣本信號。輸入信號經(jīng)輸入層輸入，通過隱含層的復雜計算由輸出層輸出，輸出信號與期望輸出相比較，若有誤差，再將誤差信號反向由輸出層通過隱含層處理后向輸入層傳播。在這個過程中，誤差通過梯度下降算法，分攤給各層的所有單元，從而獲得各單元的誤差信號，以此誤差信號為依據(jù)修正各單元權(quán)值，網(wǎng)絡權(quán)值因此被重新分布。此過程完成后，輸入信號再次由輸入層輸入網(wǎng)絡，重復上述過程。這種信號正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過程周而復始地進行著，直到網(wǎng)絡輸出的誤差減少到可以接受的程度，或進行到預先設定的

6、學習次數(shù)為止。權(quán)值不斷調(diào)整的過程就是網(wǎng)絡的學習訓練過程。BP神經(jīng)網(wǎng)絡的信息處理方式具有如下特點:-20-1）信息分布存儲。人腦存儲信息的特點是利用突觸效能的變化來調(diào)整存儲內(nèi)容，即信息存儲在神經(jīng)元之間的連接強度的分布上，BP神經(jīng)網(wǎng)絡模擬人腦的這一特點，使信息以連接權(quán)值的形式分布于整個網(wǎng)絡。2)信息并行處理。人腦神經(jīng)元之間傳遞脈沖信號的速度遠低于馮·諾依曼計算機的工作速度，但是在很多問題上卻可以做出快速的判斷、決策和處理，這是由于人腦是一個大規(guī)模并行與串行組合的處理系統(tǒng)。BP神經(jīng)網(wǎng)絡的基本結(jié)構(gòu)模仿人腦，具有并行處理的特征，大大提高了網(wǎng)絡

7、功能。3）具有容錯性。生物神經(jīng)系統(tǒng)部分不嚴重損傷并不影響整體功能，BP神經(jīng)網(wǎng)絡也具有這種特性，網(wǎng)絡的高度連接意味著少量的誤差可能不會產(chǎn)生嚴重的后果，部分神經(jīng)元的損傷不破壞整體，它可以自動修正誤差。這與現(xiàn)代計算機的脆弱性形成鮮明對比。4）具有自學習、自組織、自適應的能力。BP神經(jīng)網(wǎng)絡具有初步的自適應與自組織能力，在學習或訓練中改變突觸權(quán)值以適應環(huán)境，可以在使用過程中不斷學習完善自己的功能，并且同一網(wǎng)絡因?qū)W習方式的不同可以具有不同的功能，它甚至具有創(chuàng)新能力，可以發(fā)展知識，以至超過設計者原有的知識水平。1.3BP神經(jīng)網(wǎng)絡的主要功能目前，在

8、人工神經(jīng)網(wǎng)絡的實際應用中。絕大部分的神經(jīng)網(wǎng)絡模型都采用BP神經(jīng)網(wǎng)絡及其變化形式。它也是前向網(wǎng)絡的核心部分，體現(xiàn)了人工神經(jīng)網(wǎng)絡的精華。BP網(wǎng)絡主要用于以下四方面。（1）函數(shù)逼近：用輸入向量和相應的輸出向量訓練一個網(wǎng)絡以逼近一個函數(shù)。（2