資源描述:
《BP算法論文神經(jīng)網(wǎng)絡(luò)論文》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在工程資料-天天文庫。
1、BP算法論文神經(jīng)網(wǎng)絡(luò)論文:BP神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)及在入侵檢測中的應(yīng)用摘要:BP算法是神經(jīng)網(wǎng)絡(luò)眾多算法中應(yīng)用最為廣泛的一種,它在函數(shù)逼近、模式識(shí)別、分類、數(shù)據(jù)壓縮等領(lǐng)域有著更加廣泛的應(yīng)用。針對(duì)BP算法的缺陷,提出了幾點(diǎn)改進(jìn)措施。關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);算法改進(jìn);入侵檢測1引言據(jù)統(tǒng)計(jì)有近90%的神經(jīng)網(wǎng)絡(luò)應(yīng)用是基于BP算法的。但它存在學(xué)習(xí)收斂速度慢、容易陷入局部極小點(diǎn)而無法得到全局最優(yōu)解、對(duì)初始權(quán)值的選取很敏感等缺點(diǎn)。針對(duì)此問題,目前國內(nèi)外已有不少人對(duì)BP網(wǎng)絡(luò)進(jìn)行了人量的研究.本文在眾人研究上,針對(duì)BP算法的缺陷,提出了幾點(diǎn)改進(jìn)措施。2改變誤差函數(shù)由于等效誤差分量§pljk和5
2、plij的大小和正負(fù)的變化對(duì)收斂速度存在影響,因?yàn)锽P網(wǎng)絡(luò)是誤差逆向傳播,6pljk和Splij兩者比較,6pljk對(duì)收斂速度的影響更大,所以,可選取“信息爛”作為誤差函數(shù)的定義。Etotal二PPi二1n-ll=0tPlIXIOgplyl+(l~tpl1)5pl1Xlog(1-ypl1)(1)其中,8Pll=ypl1-tpl13連接權(quán)重的選擇為避免學(xué)習(xí)過程中的振蕩,Jcaillon等人曾強(qiáng)調(diào)限制連接權(quán)重的范圍,將權(quán)重初值限制在[-0.5,0.5]區(qū)間內(nèi)隨機(jī)選取(一般將連接權(quán)重初值限制在[-5,5],也可加速收斂。4加入動(dòng)量項(xiàng)這種措施又稱為慣性校正法,其權(quán)值調(diào)整公式可用
3、下式表示:Awij(t)=aAwij(tT)6i(t)yj等式右端第二項(xiàng)是常規(guī)BP算法的修正量,8i(t)稱為廣義誤差,yj為第j層神經(jīng)元輸出。第一項(xiàng)稱為動(dòng)量項(xiàng),a為動(dòng)量系數(shù),u為學(xué)習(xí)率。這種方法在加速收斂的同時(shí),抑制了振蕩。綜上,BP算法的改進(jìn)策略都從不同程度上提高了算法的收斂速度,避免算法陷于局部極值。5入侵檢測實(shí)驗(yàn)設(shè)計(jì)本實(shí)驗(yàn)對(duì)BackDoS,Buffer_0verflow,Guess_Passwd,Imap,IpsweepProbe5類經(jīng)常出現(xiàn)的攻擊進(jìn)行基于改進(jìn)算法和傳統(tǒng)算法的對(duì)比識(shí)別實(shí)驗(yàn),給出實(shí)驗(yàn)結(jié)果,對(duì)結(jié)果進(jìn)行分析。數(shù)據(jù)采用DARPA1998入侵檢測評(píng)估數(shù)據(jù)庫
4、作為訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)。數(shù)據(jù)庫包含500萬條用于訓(xùn)練的TCP/IP連接記錄和200萬條用于測試的記錄。訓(xùn)練數(shù)據(jù)帶有標(biāo)記(正?;蚰撤N攻擊),按時(shí)間先后排序。每條記錄含41個(gè)特征,分為4類:基本TCP特征,與有效載荷有關(guān)的特征,基于時(shí)間的流量特征和基于主機(jī)的流量特征。取其中20000條包含有以上5類攻擊的記錄,一半作為訓(xùn)練,另一半作為測試。其中正常連接4625個(gè),攻擊連接15375個(gè)。6基于改進(jìn)算法和傳統(tǒng)算法的檢測結(jié)果比較分析神經(jīng)網(wǎng)絡(luò)采用如下結(jié)構(gòu):輸入層的節(jié)點(diǎn)數(shù)為15個(gè),隱含層的節(jié)點(diǎn)數(shù)為20個(gè),輸出節(jié)點(diǎn)數(shù)為3個(gè)。將改進(jìn)算法的In和2n都設(shè)置為7,即每次競爭有7個(gè)具有最大絕對(duì)
5、值輸出的神經(jīng)元激發(fā)。初始條件為:學(xué)習(xí)速率u為0.15,動(dòng)量系數(shù)a為0.075,傳輸函數(shù)為f(x)=1/(1+e-x)o初始權(quán)值和閾值為[-0.5,0.5]之間的隨機(jī)數(shù)。連接權(quán)重初值限制在[-5,5],誤差函數(shù)采用公式(Do7結(jié)論針對(duì)傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的缺陷,提出了改進(jìn)措施。通過入侵檢測仿真實(shí)驗(yàn),證實(shí)了改進(jìn)算法的性能優(yōu)于傳統(tǒng)算法。對(duì)攻擊的識(shí)別實(shí)驗(yàn)結(jié)果表明,改進(jìn)后的算法不僅能夠很好地識(shí)別攻擊,而且性能優(yōu)于傳統(tǒng)算法。參考文獻(xiàn)[1]AboelmagdNoureldin,RashadSharaf,AhmedOsmanetc.INS/GPSDataFusionTechniqueUti
6、lizingRadialBasisFunctionsNeuralNetworks[J]?IEEE,2004:280-284.[2]董長虹.神經(jīng)網(wǎng)絡(luò)與應(yīng)用[M]?北京:國防工業(yè)出版社,2005.[3]劉富強(qiáng)?數(shù)字視頻監(jiān)控系統(tǒng)開發(fā)及應(yīng)用[M]?北京:機(jī)械工業(yè)出版社,2003,(3).