資源描述:
《基于pso的rbf神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法及其應(yīng)用》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、萬方數(shù)據(jù)基于PSO的RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法及其應(yīng)用張頂學(xué)關(guān)治洪劉新芝(華中科技大學(xué)控制科學(xué)與工程系,武漢430074)E—mail:zdx7773@163.COB摘要提出了一種基于粒子群優(yōu)化(PSO)算法的徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法,首先利用減聚類算法確定網(wǎng)絡(luò)徑向基層的單元數(shù),再用PSO對基中心和寬度進(jìn)行優(yōu)化,并與最小二乘法相結(jié)合訓(xùn)練RBF神經(jīng)網(wǎng)絡(luò)。將此算法用于混沌時間序列的預(yù)測,實例仿真表明此方法是有效的。關(guān)鍵詞粒子群徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)減聚類算法混沌時間序列最小二乘法文章編號1002—8331一(2006)20—0013—03文獻(xiàn)標(biāo)識
2、碼A中圖分類號TPl83RBFNeuralNetworkAlgorithmBasedonPSOAlgorithmandItsApplicationZhangDingxueGuanZhihongLiuXinzhi(HuazhongUniversityofScience&Technology,Wuhan430074)Abstract:ThispaperintroducesamethodofRadialBasisFunction(RBF)neuralnetworkalgorithmbasedonParticleSwarmOptimization(PSO
3、)algorithm.Thefirsttodetermineunits’numberinRBFlayerusingsubtractiveclusteringmethod,thesecondtooptimizecentralpositionanddirectionalwidthbasedonPSOalgorithm,andthelasttotrainRBFneuralnetworkcombinewithleast—squaremethod.Thenewtrainingalgorithmisusedtopredictchaotictimeseries
4、,andthesimulationresultsareefficiency.Keywords:particleswarmoptimization,RBFneuralnetwork,subtractiveclusteringmethod,chaotictimeseries,least—squaremethodRBF神經(jīng)網(wǎng)絡(luò)是一種性能很好的前向神經(jīng)網(wǎng)絡(luò)模型,其具有全局最佳逼近能力【l】。它不僅具有良好的推廣能力,而且計算量少,已廣泛應(yīng)用于模式識別、函數(shù)逼近、自適應(yīng)濾波、非線性時間序列預(yù)測等方面。RBF神經(jīng)網(wǎng)絡(luò)的非線性映射能力體現(xiàn)在隱層基函數(shù)上,其特性
5、主要由基函數(shù)的中心確定12]。基函數(shù)中心的確定方法有多種:正交優(yōu)選法可以自動確定最佳隱層數(shù)目和網(wǎng)絡(luò)輸出權(quán)值,但隱含層中心點取值為輸入數(shù)據(jù).因此很難反映出系統(tǒng)真正的輸入輸出關(guān)系,并且初始中心點數(shù)太多,在優(yōu)選過程中會出現(xiàn)數(shù)據(jù)病態(tài)現(xiàn)象閉.當(dāng)正交過程中所選取的正交向量超過一定數(shù)目后,將難以進(jìn)一步選出正交向量唧:遞推Givens變換算法雖然解決了遞推最小二乘的數(shù)據(jù)病態(tài)問題,但是計算量較大,并且在學(xué)習(xí)過程中不能找到網(wǎng)絡(luò)實際所需的隱層神經(jīng)元數(shù)目;遺傳算法也被用于確定基函數(shù)中心,并取得較好的效果p刪,但其存在實現(xiàn)相對復(fù)雜.調(diào)整參數(shù)較多的缺點;一般采用K—mean
6、s聚類算法來確定基函數(shù)中心.但必須事先確定徑向基函數(shù)中心個數(shù),由于同一種輸入樣本模式可能對應(yīng)于多個聚類,往往通過聚類算法得到的隱節(jié)點數(shù)目仍很大,從而產(chǎn)生由于隱節(jié)點數(shù)目過大而出現(xiàn)的過學(xué)習(xí)的問題【”。文獻(xiàn)【7】引入減聚類算法用于指導(dǎo)聚類學(xué)習(xí),并通過一個聚類自動終止判斷聚類個數(shù),但其基函數(shù)中心在采集到的樣本范圍內(nèi)進(jìn)行挑選,很難達(dá)到較高的精度。粒子群優(yōu)化M(PraticleSwarmOptimizer,PSO)算法是一種新的基于群體智能的優(yōu)化算法.同遺傳算法相比較,不但具有遺傳算法的全局尋優(yōu)能力,而且通過調(diào)整參數(shù)還可以同時具有較強的局部尋優(yōu)能力。由于沒有
7、個體雜交、變異等操作,其參數(shù)調(diào)整簡單易行,更適合計算機(jī)編程處理,在多數(shù)情況下,比遺傳算法更快地收斂于最優(yōu)解.而且可以避免完全尋優(yōu)的退化現(xiàn)象[?。本文在減聚類算法確定徑向基函數(shù)中心個數(shù)的基礎(chǔ)上,通過PSO算法對基函數(shù)中心參數(shù)進(jìn)行優(yōu)化,再結(jié)合最小二乘法確定網(wǎng)絡(luò)輸出權(quán)值,并將本算法應(yīng)用于混沌時間序列的預(yù)測。1RBF神經(jīng)網(wǎng)絡(luò)1.1RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)分析RBF網(wǎng)絡(luò)由輸入層、隱層和輸出層組成。其完成如下非線性映射:fn(X)=w。+∑W;咖(
8、IX—ci11)其中X∈R。是輸入矢量,咖(·)是一個R。一R的非線性函數(shù),一般取高斯型函數(shù):?h。
9、
10、)=。xp(
11、一單)基金項目:國家自然科學(xué)基金資助項目(編號:60573005)作者簡介:張頂學(xué)(1975一),男,博士生,主要研究方向:神經(jīng)網(wǎng)絡(luò)、計