bp神經(jīng)網(wǎng)絡(luò)概述

《bp神經(jīng)網(wǎng)絡(luò)概述》由會(huì)員上傳分享，免費(fèi)在線(xiàn)閱讀，更多相關(guān)內(nèi)容在工程資料-天天文庫(kù)。

1、BP祌經(jīng)網(wǎng)絡(luò)概述材科1303徐心怡0121301090747摘要：BP祌經(jīng)網(wǎng)絡(luò)是誤差反傳誤差反向傳播算法的學(xué)習(xí)過(guò)程，曲信息的正向傳播和誤差的反向傳播兩個(gè)過(guò)程組成。它是鬥前應(yīng)用較多的一種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。它能以任意精度逼近任意非線(xiàn)性函數(shù)，而且具有良好的逼近性能，并且結(jié)構(gòu)簡(jiǎn)單，是一種性能優(yōu)良的神經(jīng)網(wǎng)絡(luò)。理論研究的深入也促進(jìn)多種對(duì)其的改進(jìn)方法。關(guān)鍵字：BP網(wǎng)絡(luò)模型算法缺點(diǎn)改進(jìn)正文：BP神經(jīng)網(wǎng)絡(luò)足1986年提出的一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是H前應(yīng)川最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。bp網(wǎng)絡(luò)能7:和存F:人:W:的輸入-輸出模式映射關(guān)系，而無(wú)需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程

2、。它的學(xué)習(xí)規(guī)則是使用鉍速下降法，通過(guò)反向傳播來(lái)不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。1BP神經(jīng)網(wǎng)絡(luò)模型BP網(wǎng)絡(luò)模型包括其輸入輸出模型、作川闌數(shù)模型、誤差計(jì)算模型和￡)學(xué)習(xí)模型。1.1節(jié)點(diǎn)輸出模型隱節(jié)點(diǎn)輸出模型：Oj=f(ZWijxXi-qj)輸出節(jié)點(diǎn)輸出模型：Yk=f(XTjkxOj-qk)其中：f-非線(xiàn)形作用闌數(shù)；q-神經(jīng)單元閾值。1.2作用函數(shù)模型作用函數(shù)是反映卜層輸入對(duì)上層節(jié)點(diǎn)刺激脈沖強(qiáng)度的函數(shù)又稱(chēng)刺激函數(shù)，一般取為(0,1)閃連續(xù)取值Sigmoid函數(shù)：f(x)=l/(l+e-x)1.3誤差計(jì)算模型誤差計(jì)兌模型是反映神經(jīng)網(wǎng)絡(luò)期第輸出與計(jì)算輸出之間誤差

3、大小的闌數(shù)：Ep=1/2>

4、狀態(tài)只影響?層祌經(jīng)元。輸入層各神經(jīng)元負(fù)責(zé)接收來(lái)自外界的輸入信息，并傳遞給中間層各祌經(jīng)元；中間層足內(nèi)部信息處理屋，負(fù)責(zé)信息變換，根據(jù)信息變化能力的需求，屮fuj層可以設(shè)計(jì)力單隱層或者多隱層結(jié)構(gòu)；最后一個(gè)隱層傳遞到輸出層各祌經(jīng)元的信息，經(jīng)進(jìn)一步處理后，完成一次學(xué)習(xí)的正向傳播處理過(guò)程，由輸岀層叫外界輸出信息處理結(jié)梁。若在輸出層得不到期望的輸出，則轉(zhuǎn)昀誤差信號(hào)的反h'd傳播流程。周而復(fù)始的信息正h'd傳播和誤差反叫傳播過(guò)程，是各層權(quán)位不斷調(diào)整的過(guò)程，也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過(guò)程。在權(quán)句量空間執(zhí)行誤差函數(shù)梯度下降策略，動(dòng)態(tài)迭代搜索一?組權(quán)向跫，使網(wǎng)絡(luò)誤差函數(shù)達(dá)到最小值，從而完成信息

5、提収和記憶過(guò)程。2.1正向傳播過(guò)程隱含層第i個(gè)節(jié)點(diǎn)的輸入neti:Mneti=WijXj+7=1隱含層笫i個(gè)節(jié)點(diǎn)的輸出yhM乂=（Knet）=（f）C^）7=1輸出層第k個(gè)節(jié)點(diǎn)的輸入netk：(Iqnetk=￡wEwuxj+e)+?輸出層第k個(gè)節(jié)點(diǎn)的輸出ok:q(qM/=1°k=料neh)=^(EVVa/XEvva/^(EWUXJ+0)+A7=12.2誤差信號(hào)的反h'd傳播過(guò)程對(duì)于每-個(gè)樣本p的二次型誤差準(zhǔn)則闌數(shù)為EP:11■EP=~Y^-^）2A=1系統(tǒng)對(duì)P個(gè)訓(xùn)練樣木的總誤差準(zhǔn)則函數(shù)為：1PLp=々=1根據(jù)誤差梯度下降法依次修正輸出層權(quán)值的修正景Awki,輸出層閾值

6、的修正暈△ak.隱含層權(quán)位的修正兒Awij,隱含層閾位的修正量。AdEAdEAdE3E輸岀層權(quán)值調(diào)整公式.?▲dEdEdftetdEdo,^net=-77——=^q=-fj輸出層閾值調(diào)整公式:、dEdEdnet.dEdoLdnetL,心=-n——=-n-=-ndakdnetkdakdok3netkdak隱含層權(quán)值調(diào)整公式：dEdEdnet;dEdy.dnet:Aw..=-；7=-；7L=-rjL(/3vv.,.dnet：dw：：dyidnetjdwfj隱含層閾值調(diào)整公式:eidE_dEdneti_dEdy{dnetj”抓tdnetid3idy{.dnetiddi又因力

7、:PL3￡所以朵盾得到以下公式：PL△%=S(wX(，叫)?x△“A=d(Tk1’-okX[netk)p=ik=[PL=d(TkP-<)?V’(叫)?％?(PetiYxjp=]k=3BP兌法的缺點(diǎn)與改進(jìn)3.1BP算法的缺點(diǎn)BP算法理論具有依據(jù)可靠、推導(dǎo)過(guò)程嚴(yán)謹(jǐn)、精度較高、通川性較好等優(yōu)點(diǎn)，但山于它采用非線(xiàn)性規(guī)劃中的最速卜*降方法，按誤差函數(shù)的負(fù)梯度方句修改權(quán)伉，W而通常存在以K問(wèn)題：在權(quán)位調(diào)整上采用梯度下降法作為優(yōu)化算法，極易陷入局部極??；學(xué)>』算法的收斂速度很慢，收斂速度還與初始權(quán)值和傳輸函數(shù)的選擇冇關(guān)；網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計(jì)，即隱節(jié)點(diǎn)數(shù)