資源描述:
《基于改進可變學習速率BP算法的短時交通流預(yù)測.pdf》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、基于改進可變學習速率BP算法的短時交通流預(yù)測李晶,等基于改進可變學習速率BP算法的短時交通流預(yù)測木李晶,陳儲培,鄧洪敏,馬遙(四川大學電子信息學院成都,610065)摘要:為了解決可變學習速率的BP神經(jīng)網(wǎng)絡(luò)(VLBP)在訓練時容易陷入局部極小的問題,在VLBP的算法規(guī)則中引入模擬退火中的metropolis接受準則,使得在均方誤差增量超過設(shè)定的界限值時,權(quán)值更新不總是被取消,而是以一定的概率被接受,構(gòu)造了一種容易跳出局部極小的VLBP神經(jīng)網(wǎng)絡(luò)(MVLBP)。運用MVLBP算法對短時交通流進行預(yù)測,仿真結(jié)果表明,MVLBP神經(jīng)網(wǎng)絡(luò)訓練收斂速度更快,且有較好的預(yù)測精度。關(guān)鍵詞:VLBP
2、;Metropolis準則;局部極??;短時交通流預(yù)測中圖分類號:rI’P183;u491文獻標識碼:ADOI編碼:10.14叭6/j.cnki.1001—9227.2016.02.182Abst髓ct:Inordertosolvethelocalminimumproblemsofv捌ableleamingmteBPneumlnetwork(VLBP)intmining,themetIDpolisacceptancecriteriaintheSAalgorithmisintroducedtoVLBPneuralnetwork.Thentheweightupdateisnotalway
3、scanceUed,butacceptedwithacertainpIDbabilitvwhentheincrementofthemeansquareenDrexceedsthepresetvalue,amodifiedVLBPnetworkwhichcaneasilvhopfnmthelocalminimumisconst九Jcted(MVLBP).TheMVLBPneuralnetworkisappliedtopredictshort—temtramcnow.Thesimulationresultsshowthatthismethodimpmvestheconvergences
4、peedandforecastingprecisionKeywords:VLBP;Metmpoliscriteria;Loealminimum;Short—te丌11tramcnowforecast0引言BP神經(jīng)網(wǎng)絡(luò)是一種應(yīng)用反向傳播算法進行學習、采用梯度下降算法調(diào)整系統(tǒng)參數(shù)的多層神經(jīng)網(wǎng)絡(luò)。BP網(wǎng)絡(luò)具有很好的逼近非線性映射的能力,在信息處理、圖像識別、模型辨識、系統(tǒng)控制等方面有很好的應(yīng)用前景?,但因其存在著收斂速度慢,容易陷入局部極小等問題,限制了其在很多方面的實際應(yīng)用,于是出現(xiàn)了許多BP網(wǎng)絡(luò)的改進算法。改進算法的研究粗略地分成兩類,第一類使用啟發(fā)式信息的技術(shù),這源于對標準反向傳播
5、算法特定性能的研究;另一類研究集中在標準數(shù)值優(yōu)化技術(shù)拉o。啟發(fā)式技術(shù)包括可變學習速率的VLBP網(wǎng)絡(luò),使用動量‘3。41、引入慣性項、變步長法‘51等;數(shù)值優(yōu)化技術(shù)包括共軛梯度法’6。、牛頓法¨1和Levenberg—Marquardt方法等。其中IJevenberg—Ma-quardt法是牛頓法的改進,同時具有梯度法和牛頓法的優(yōu)點。但是,上述的改進方法都沒有很好地改進網(wǎng)絡(luò)容易陷入局部極小的缺點??紤]到模擬退火算法具有較強的局部搜索能力,能夠在搜索過程中避免陷入局部最優(yōu)解,因此,本文引入模擬退火算法中的metmpolis準則來增加VLBP算法的局部搜索能力,避免了VLBP算法過早收斂
6、和陷入局部最優(yōu)解。通過構(gòu)造一種容易跳出局部極小的VLBP神經(jīng)網(wǎng)絡(luò),在均方誤差增加值超過設(shè)定值時,仍然讓權(quán)值更新以一定的概率被接受,使得網(wǎng)絡(luò)更好地跳出局部極小點,并且給出了算法步驟。用訓練好的MVLBP網(wǎng)絡(luò)進行短時交通流預(yù)測,網(wǎng)絡(luò)預(yù)測精度高于文獻[2]中提出的VLBP神經(jīng)網(wǎng)絡(luò),展現(xiàn)了良好的預(yù)測性能。1Metropolis準則¨o模擬退火算法(simlJlatedannealing,簡稱sA)的思想最早是由Metropolis等人1953提出的,1983年Kirkpatrick等將其用于組合優(yōu)化。sA算法是基于Montecarlo迭代求解策略的一種隨機尋優(yōu)算法,其出發(fā)點是基于物理中固體
7、物質(zhì)的退火過程與一般組合優(yōu)化問題之間的相似性。SA算法在某一初溫下,伴隨溫度參數(shù)的不斷下降,結(jié)合概率突跳特性在解空間收稿日期:2015—07—24+基金項目:國家自然科學基金資助項目(61174025)作者簡介:李晶(1990一),男,湖北荊州人,碩士,主要研究方向為神經(jīng)網(wǎng)絡(luò),機器學習?!?82·中隨機尋找目標函數(shù)的全局最優(yōu)解,即從局部極優(yōu)解能概率性地跳出并最終趨于全局最優(yōu)解。SA算法源于對實際固體退火過程的模擬,加溫時,粒子的熱運動會增強,使其偏離平衡位置。當溫度足