資源描述:
《論基于matlab語言的bp神經網絡的改進算法》由會員上傳分享,免費在線閱讀,更多相關內容在學術論文-天天文庫。
1、[HJ-’@UH-(第’@卷第(期!52-(**)%$$]#FU>:$>;_(**)年)月論基于!"#$"%語言的%&神經網絡的改進算法’(蘇高利鄧芳萍(’浙江省氣象科學研究所,浙江杭州)’***+;(杭州市氣象局,浙江杭州)’***,)摘要:針對標準%&算法存在的缺陷,本文給出了基于!"#$"%語言的%&神經網絡幾種改進的算法-闡述了各種%&算法的優(yōu)化技術原理、優(yōu)缺點,并就它們的訓練速度和內存消耗情況作了比較-建議在多數%&神經網絡訓練時,先嘗試使用$./.01.234!52675289算法,其次是%:;<算法或共軛梯度法以及=&=>&算法-關
2、鍵詞:!"#$"%語言;%&神經網絡;%&優(yōu)化算法中圖分類號:#&’,)文獻標識碼:"文章編號:’**’4?’’(@(**()*(4*’)*4*A!"#$%&’()*+,"-./01()*(/-/#,*"23-*),#$’4*5#$%6%7)/36%#8*)14./4%9*":2;<2."-7/-%:2=%+,%8!"#$%&’(’)*+#,$-.&/(-.((’-BC.DE503F0G9E979.HI!.9.2HJH3K,L503MCH7)’***+,NCE05;(-L503MCH7!.9.2HJH3EO5J"8PE0EG9259EH0,L503MCH7)’***,,NCE
3、05)2>4#)/0#:#H.JEPE059.9C.GCH29OHPE03HIG950852815OQR2HR5359EH05J3H2E9CP,GHP.PH8EIE.8%&5J3H2E9CPGE09C.!"#$"%’G0.725J0.9SH2QG9HHJ1HT52.3E/.0E09C.R5R.2-#C.G.CE3CR.2IH2P50O.5J3H2E9CPG52.8EGO7GG.8E09C.HR9EPEM59EH09.OC0E67.G508OHPR52.8SE9CGR..8508P.PH2K-:H2PHG9GE9759EH0G,9C.$./.01.234!526752895J3H2
4、E9CPEG58/EG.89H7G.IE2G9,9C.09C.%:;<5J3H2E9CP,H2H0.HI9C.OH0D7359.3258E.09P.9CH8G,H2=&=>&5J3H2E9CPEGOH0GE8.2.8-?%@8*)94:!"#$"%J503753.;%&0.725J0.9SH2Q;%RHR9EPEM59EH05J3H2E9CPG行處理、自適應自組織、聯想記憶、容錯魯棒以及逼A引言近任意非線性等特性,在預測評估、模式識別、信號處理、組合優(yōu)化及知識工程等領域具有廣泛的應用[(WV]人工神經網絡("29EIEOE5JU.725JU.9SH2Q,"UU),-近年來,已有多
5、種"UU模型被提出并得以自從(*世紀V*年代=HG.01J599首次將單層感知器深入研究-其中,,*XW@*X的人工神經網絡模型應用于模式分類學習以來,已經有了幾十年的研究是采用前饋反向傳播網絡(%5OQ4&2HR5359EH0U.9Y[AW’*],它是前歷史-但是,由于!E0GQK和&5R.29指出單層系統(tǒng)的SH2Q簡稱%&網絡)或它的改進形式局限性,并表達了對多層系統(tǒng)的悲觀看法,在(*世向網絡的核心部分,體現了網絡最精華的部分-標紀?*年代對"UU的研究興趣減弱-直至,*年代中準的%&網絡是根據ZE82HS4LHII規(guī)則,采用梯度期=7P.JC529等重新闡述了反傳訓練方法’
6、,使得在下降算法,在非線性多層網絡中,反向傳播計算梯"UU領域的理論和應用研究開始在世界范圍內重度-但%&網絡存在自身的限制與不足,如需要較長新興起-"UU是一種按照人腦的組織和活動原理而的訓練時間、會收斂于局部極小值等,使得%&算法在實際應用中不是處處能勝任[V]構造的一種數據驅動型非線性映射模型,它具有并-收稿日期:(***4’(4(V作者簡介:蘇高利,男,’@?)年生,廣東湛江人,工程師,碩士-萬方數據第!期蘇高利等(論基于4:;-:)語言的)*神經網絡的改進算法#%#因此近十幾年來,許多研究人員對其做了深入的研!*"!("##)$%&’"!(")#()’%&’究,提出了許
7、多改進的算法[!,",##],如使用動量項的!!I+()!#(#)加快離線訓練速度的方法[#]、歸一化權值更新技術其中"為訓練次數,%&為動量因子,一般取I,J"左方法[##]、快速傳播算法[#!]、!$!方法[#%]、擴展卡爾右,()為學習速率,是常數,*為誤差函數,曼濾波法[#&]、二階優(yōu)化[#"]以及最優(yōu)濾波法[#’]等(這種方法所加入的動量項實質上相當于阻尼本文討論)*網絡的改進算法有兩類,一類是項,它減小了學習過程的振蕩趨勢,從而改善了收采用啟發(fā)式技術,如附加動量法、自