BP算法的改進及其應(yīng)用

《BP算法的改進及其應(yīng)用》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、BP算法的改進及其應(yīng)用內(nèi)容摘要隨著人工神經(jīng)網(wǎng)絡(luò)的發(fā)展，其用途日益廣泛，應(yīng)用領(lǐng)域也在不斷擴展，已在人工智能、自動控制、計算機科學(xué)、信息處理、機器人、模式識別等各個領(lǐng)域中有著成功的案例。在眾多神經(jīng)網(wǎng)絡(luò)中，又以BP（BackPropagation）網(wǎng)絡(luò)的應(yīng)用最為廣泛，它所采用的BP算法已成為目前應(yīng)用最為廣泛的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，絕大部分的神經(jīng)網(wǎng)絡(luò)模型都是采用BP算法或它的變化形式。這樣的算法具有很好的非線性映射能力、泛化能力、容錯能力，已在各個領(lǐng)域中取得了廣泛的應(yīng)用。但是人們在使用過程中卻發(fā)現(xiàn)，這種算法存在這樣或那樣的局限，比如收斂速度慢、容易陷入局部最小值以及忘記舊樣本的趨勢，這些局域性嚴(yán)重

2、影響了BP算法的應(yīng)用。本文主要針對BP算法的缺點，從梯度下降法和BP算法融合的角度進行改進，設(shè)計出效果較優(yōu)的算法。主要研究工作如下：第一、多層前饋模型的綜述。第二、BP算法的推導(dǎo)過程及其改進。第三、實例仿真。關(guān)鍵字：BP算法，神經(jīng)網(wǎng)絡(luò)，前饋模型.ABSTRACTWiththedevelopmentofartificialneuralnetworks,itisappliedwidelyinmorefields,suchasartificialintelligence,intelligentcontrol,computerscience,informationprocessing,robo

3、tics,patternrecognition.BP(backpropagation)neuralnetworkisoneofthemostwidelyappliedneuralnetworks.BPalgorithmhasbecomethemostwidelyappliedneuralnetworkalgorithms,itanditsdeformationsareusedinmostneuralnetworkmodels.Thesealgorithmswhichhavegoodnonlinearmappingability,generalizationabilityandfault

4、algorithmhavewideapplicationsinvariousengineeringfields.However,thestandardBPalgorithmoritsimprovedalgorithmsarebasedonsteepestdescentalgorithm,thustherearesomeshortcomings,suchasslowconvergence,easytofallintolocalminimumandforgettheoldsamples.TheseshortcomingsseriouslyaffecttheapplicationofBPne

5、twork.Inthisthesis,theshortcomingsofBPalgorithmisstudied,fromtheperspectiveofcombininggradientalgorithmwithBPalgorithm,theoptimumalgorithmsaredesigned.Themainpointsofresearchareasfollows:Firstofall,Summaryofmultilayerfeed-forwardmodelSecondly,DerivationofBPalgorithmanditsimprovementThirdly,Thesi

6、mulationKeywords:BPalgorithm;neutralnetworks;feed-forwardmodel;目錄1引言42基于BP算法的多層前饋模型42.1數(shù)學(xué)模型42.2各層計算53BP學(xué)習(xí)算法63.1網(wǎng)絡(luò)誤差與權(quán)值調(diào)整63.2算法推導(dǎo)64基于BP的多層前饋網(wǎng)的主要能力、局限性及改進84.1主要能力84.2局限性及改進85.仿真實例86.附錄107.參考文獻...............................................................................................111引言神經(jīng)網(wǎng)絡(luò)（N

7、euralNetworks，簡稱NN）是由大量的、簡單的處理單元（簡稱為神經(jīng)元）廣泛的相互連接而成的復(fù)雜網(wǎng)絡(luò)系統(tǒng)，它反映了人腦功能的許多基本特性，是一個高度復(fù)雜的非線性動力學(xué)系統(tǒng)。神經(jīng)網(wǎng)絡(luò)具有大規(guī)模并行、分布式存儲和處理、自組織、自適應(yīng)和自學(xué)習(xí)能力，特別適合處理需要同時考慮許多因素和條件的、不精確和模糊的信息處理問題。神經(jīng)網(wǎng)絡(luò)的發(fā)展與神經(jīng)科學(xué)、數(shù)理科學(xué)、認(rèn)知科學(xué)、計算機科學(xué)、人工智能、信息科學(xué)、控制論、機器人學(xué)、微電子學(xué)、心理學(xué)、光計算、分子生