bp神經(jīng)網(wǎng)絡(luò)概述

《bp神經(jīng)網(wǎng)絡(luò)概述》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在工程資料-天天文庫。

1、BP祌經(jīng)網(wǎng)絡(luò)概述材科1303徐心怡0121301090747摘要：BP祌經(jīng)網(wǎng)絡(luò)是誤差反傳誤差反向傳播算法的學(xué)習(xí)過程，曲信息的正向傳播和誤差的反向傳播兩個過程組成。它是鬥前應(yīng)用較多的一種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。它能以任意精度逼近任意非線性函數(shù)，而且具有良好的逼近性能，并且結(jié)構(gòu)簡單，是一種性能優(yōu)良的神經(jīng)網(wǎng)絡(luò)。理論研究的深入也促進多種對其的改進方法。關(guān)鍵字：BP網(wǎng)絡(luò)模型算法缺點改進正文：BP神經(jīng)網(wǎng)絡(luò)足1986年提出的一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是H前應(yīng)川最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。bp網(wǎng)絡(luò)能7:和存F:人:W:的輸入-輸出模式映射關(guān)系，而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程

2、。它的學(xué)習(xí)規(guī)則是使用鉍速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。1BP神經(jīng)網(wǎng)絡(luò)模型BP網(wǎng)絡(luò)模型包括其輸入輸出模型、作川闌數(shù)模型、誤差計算模型和￡)學(xué)習(xí)模型。1.1節(jié)點輸出模型隱節(jié)點輸出模型：Oj=f(ZWijxXi-qj)輸出節(jié)點輸出模型：Yk=f(XTjkxOj-qk)其中：f-非線形作用闌數(shù)；q-神經(jīng)單元閾值。1.2作用函數(shù)模型作用函數(shù)是反映卜層輸入對上層節(jié)點刺激脈沖強度的函數(shù)又稱刺激函數(shù)，一般取為(0,1)閃連續(xù)取值Sigmoid函數(shù)：f(x)=l/(l+e-x)1.3誤差計算模型誤差計兌模型是反映神經(jīng)網(wǎng)絡(luò)期第輸出與計算輸出之間誤差

3、大小的闌數(shù)：Ep=1/2>

4、狀態(tài)只影響?層祌經(jīng)元。輸入層各神經(jīng)元負責接收來自外界的輸入信息，并傳遞給中間層各祌經(jīng)元；中間層足內(nèi)部信息處理屋，負責信息變換，根據(jù)信息變化能力的需求，屮fuj層可以設(shè)計力單隱層或者多隱層結(jié)構(gòu)；最后一個隱層傳遞到輸出層各祌經(jīng)元的信息，經(jīng)進一步處理后，完成一次學(xué)習(xí)的正向傳播處理過程，由輸岀層叫外界輸出信息處理結(jié)梁。若在輸出層得不到期望的輸出，則轉(zhuǎn)昀誤差信號的反h'd傳播流程。周而復(fù)始的信息正h'd傳播和誤差反叫傳播過程，是各層權(quán)位不斷調(diào)整的過程，也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過程。在權(quán)句量空間執(zhí)行誤差函數(shù)梯度下降策略，動態(tài)迭代搜索一?組權(quán)向跫，使網(wǎng)絡(luò)誤差函數(shù)達到最小值，從而完成信息

5、提収和記憶過程。2.1正向傳播過程隱含層第i個節(jié)點的輸入neti:Mneti=WijXj+7=1隱含層笫i個節(jié)點的輸出yhM乂=（Knet）=（f）C^）7=1輸出層第k個節(jié)點的輸入netk：(Iqnetk=￡wEwuxj+e)+?輸出層第k個節(jié)點的輸出ok:q(qM/=1°k=料neh)=^(EVVa/XEvva/^(EWUXJ+0)+A7=12.2誤差信號的反h'd傳播過程對于每-個樣本p的二次型誤差準則闌數(shù)為EP:11■EP=~Y^-^）2A=1系統(tǒng)對P個訓(xùn)練樣木的總誤差準則函數(shù)為：1PLp=々=1根據(jù)誤差梯度下降法依次修正輸出層權(quán)值的修正景Awki,輸出層閾值

6、的修正暈△ak.隱含層權(quán)位的修正兒Awij,隱含層閾位的修正量。AdEAdEAdE3E輸岀層權(quán)值調(diào)整公式.?▲dEdEdftetdEdo,^net=-77——=^q=-fj輸出層閾值調(diào)整公式:、dEdEdnet.dEdoLdnetL,心=-n——=-n-=-ndakdnetkdakdok3netkdak隱含層權(quán)值調(diào)整公式：dEdEdnet;dEdy.dnet:Aw..=-；7=-；7L=-rjL(/3vv.,.dnet：dw：：dyidnetjdwfj隱含層閾值調(diào)整公式:eidE_dEdneti_dEdy{dnetj”抓tdnetid3idy{.dnetiddi又因力

7、:PL3￡所以朵盾得到以下公式：PL△%=S(wX(，叫)?x△“A=d(Tk1’-okX[netk)p=ik=[PL=d(TkP-<)?V’(叫)?％?(PetiYxjp=]k=3BP兌法的缺點與改進3.1BP算法的缺點BP算法理論具有依據(jù)可靠、推導(dǎo)過程嚴謹、精度較高、通川性較好等優(yōu)點，但山于它采用非線性規(guī)劃中的最速卜*降方法，按誤差函數(shù)的負梯度方句修改權(quán)伉，W而通常存在以K問題：在權(quán)位調(diào)整上采用梯度下降法作為優(yōu)化算法，極易陷入局部極小；學(xué)>』算法的收斂速度很慢，收斂速度還與初始權(quán)值和傳輸函數(shù)的選擇冇關(guān)；網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計，即隱節(jié)點數(shù)