利用量子遺傳算法改進(jìn)BP學(xué)習(xí)算法

《利用量子遺傳算法改進(jìn)BP學(xué)習(xí)算法》由會(huì)員上傳分享，免費(fèi)在線(xiàn)閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)。

1、2009年第5期計(jì)算機(jī)系統(tǒng)應(yīng)用1利用量子遺傳算法改進(jìn)BP學(xué)習(xí)算法UsingQuantumGeneticAlgorithmtoImProveBPLearningAlgorithm閡泉葉水生郭榮傳石海霞(南昌航空大學(xué)計(jì)算機(jī)學(xué)院江西南昌330063)、,,摘要:針對(duì)BP算法易陷入局部極小收斂速度慢的缺點(diǎn)根據(jù)量子遺傳算法具有全局尋優(yōu)的特點(diǎn)本文提一,出了一種新的訓(xùn)練神經(jīng)網(wǎng)絡(luò)的混合算法一QGABP算法;通過(guò)算法比較和實(shí)例結(jié)果分析表明該算法加快了收斂速度、提高了收斂速度。一:關(guān)健詞量子遺傳算法遺傳算法BP網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)QGABP網(wǎng)絡(luò)1引言,、近年來(lái)國(guó)際上掀起了一股人工神經(jīng)網(wǎng)絡(luò)研究,

2、。開(kāi)發(fā)應(yīng)用的熱潮其應(yīng)用已滲入到各個(gè)領(lǐng)域但是在,:實(shí)際應(yīng)用中神經(jīng)網(wǎng)絡(luò)也暴露出一些自身固有的缺陷,。容易陷入局部極小收斂速度慢等量子遺傳算法是基于量子計(jì)算原理的一種遺傳算法,,圖將量子計(jì)算與遺傳算法相結(jié)合的一種優(yōu)化方法1三層BP網(wǎng)絡(luò)結(jié)構(gòu)圖,,具有種群規(guī)模小收斂速度快全局尋優(yōu)能力強(qiáng)的特。因。點(diǎn)此可以用于優(yōu)化神經(jīng)網(wǎng)絡(luò)1)Bp神經(jīng)網(wǎng)路采用的算法是基于誤差函數(shù)梯度下降的方向,,不具有本文利用量子遺傳算法的獨(dú)特屬性來(lái)彌補(bǔ)神經(jīng)網(wǎng)該算法實(shí)質(zhì)上是單點(diǎn)搜索算法,;絡(luò)存在的一些固有缺陷提出了一種新的混合訓(xùn)練算全局搜索能力一一Bp算法,。2)BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練開(kāi)始時(shí)網(wǎng)絡(luò)的結(jié)構(gòu)參數(shù)法QCA達(dá)

3、到優(yōu)化網(wǎng)絡(luò)的目的,因此結(jié);是隨機(jī)給定的果存在一定的隨機(jī)性,網(wǎng)絡(luò)的收斂速度較慢。2BP神經(jīng)網(wǎng)絡(luò)模型3)訓(xùn)練易陷入癱瘓Bp神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最為廣泛的一種神經(jīng)網(wǎng),,3量子遺傳算法(QGA)絡(luò)模型它是基于BP算法的多層前饋網(wǎng)絡(luò)包括輸入·,、。遺傳算法I,2](GeneticAlgorithmGA)是模仿生物層輸出層和一層或多層隱含層網(wǎng)絡(luò)的輸入層對(duì)應(yīng)。于學(xué)習(xí)樣本的各個(gè)屬性,進(jìn)化和遺傳的過(guò)程來(lái)進(jìn)行優(yōu)化的一種搜索方法其基本輸入層的數(shù)據(jù)經(jīng)加權(quán)處理后,。第一過(guò)程是首先對(duì)問(wèn)題的備選解進(jìn)行編碼形成基因編碼傳遞給第一個(gè)隱含層的各個(gè)處理單元個(gè)隱含層,、、,,如此傳遞下串然后對(duì)該串進(jìn)行選擇交

4、叉變異等操作不斷產(chǎn)處理后輸出的數(shù)據(jù)輸入到第二個(gè)隱含層,,。,。生新的個(gè)體并進(jìn)行選優(yōu)從而最終獲得最優(yōu)解去直至最后一個(gè)隱含層最后一個(gè)隱含層的輸出經(jīng),加權(quán)處理后作為輸出層的輸入,。量子遺傳算法本質(zhì)上是一種遺傳算法因而傳統(tǒng)輸出層輸出最終結(jié)果,,,、遺傳算法所能應(yīng)用的領(lǐng)域量子遺傳算法也適用由三層Bp網(wǎng)絡(luò)的結(jié)構(gòu)如圖1所示包含輸入層輸出層和一個(gè)隱含層。于,。引入量子計(jì)算其效果明顯優(yōu)于傳統(tǒng)進(jìn)化算法,因此存在一些量子遺傳算法的基本步驟41:由于BP網(wǎng)絡(luò)是基于梯度下降法的13,不:。,足之處U取種群規(guī)模為N的初始種群Q(t)一般情況1基金項(xiàng)目:江西省自然科學(xué)基金項(xiàng)目(0511072):

5、2008一10一21收稿時(shí)間ReS創(chuàng)燈ch叨dDevel叩ment研究開(kāi)發(fā)53計(jì)算機(jī)系統(tǒng)應(yīng)用2009年第5期,種群中全部染色體的所有基因()都被初始化為碼時(shí)。可對(duì)更利于QGA算法與Bp算法的結(jié)合,();:脆瓜關(guān)鍵點(diǎn)將BP網(wǎng)絡(luò)的權(quán)值和閨值按一定的順序級(jí),2)對(duì)初始種群每個(gè)個(gè)體實(shí)施一次測(cè)量得一個(gè)狀,,聯(lián)起來(lái)形成一個(gè)實(shí)數(shù)數(shù)組作為遺傳算法的一個(gè)染色。,態(tài)P(t)測(cè)量(或選擇狀態(tài))時(shí)是根據(jù)量子比特幾率幅。。(“?！?。,)來(lái)選擇相應(yīng)基因位上的。體遺傳操作在這樣的染色體群中進(jìn)行}}},“或,具體方}2)適應(yīng)度函數(shù)的選擇:0,,法為隨機(jī)產(chǎn)生一個(gè)【1]數(shù)若它大于等于幾率幅(或)衡量

6、Bp網(wǎng)絡(luò)的性能的主要指標(biāo)是網(wǎng)絡(luò)的輸出值,;,,。的值則測(cè)量結(jié)果取1否則取0(當(dāng)然也可反之)。,與期望的輸出值之間的誤差平方和該誤差平方和小,然后對(duì)這一組解進(jìn)行適應(yīng)度評(píng)估記錄下最佳適應(yīng)。則表示該網(wǎng)絡(luò)性能好;度個(gè)體座位下一步演化的目標(biāo),;為f=衛(wèi)L其中3)對(duì)各個(gè)狀態(tài)計(jì)算適應(yīng)度J+l,一,,,一e一少‘為”,4)記錄最佳個(gè)體及其適應(yīng)度值合客沁獷(i,‘,〔,習(xí)樣本數(shù)沁)為5)while(不滿(mǎn)足終止條件)do網(wǎng)絡(luò)的輸出值,y,,。(i)為期望輸出值e(i)為兩者的差begin3)量子旋轉(zhuǎn)門(mén)調(diào)整策略t=t+1;,對(duì)種群Q(,在量子遺傳算法中由于染色體處于疊加或糾纏t)中每個(gè)個(gè)

7、體實(shí)施一次測(cè)量得一,因此采用量子旋轉(zhuǎn)門(mén)分別作用于各疊加和糾纏狀態(tài)組狀態(tài)P(t);。狀態(tài)的方式實(shí)現(xiàn)更新種群的操作從而子代個(gè)體的產(chǎn)對(duì)每個(gè)狀態(tài)計(jì)算適應(yīng)度;,,生不是由父代種群決定而是由父代的最優(yōu)個(gè)體及狀依據(jù)一定的調(diào)整策略利用量子旋轉(zhuǎn)門(mén)操作。,和量子非門(mén)對(duì)種群個(gè)體進(jìn)行更新到子種群Q(t十1);態(tài)的概率幅決定遺傳操作主要將量子旋轉(zhuǎn)門(mén)作用于。疊加狀態(tài)和糾纏狀態(tài)的基態(tài),,記錄下最佳個(gè)體及其適應(yīng)度使其相互干涉發(fā)生狀,。End態(tài)改變從而更新各基態(tài)的概率幅因而量子旋轉(zhuǎn)門(mén),是量子遺傳算法的關(guān)鍵直接影響到量子遺傳算法的.4QGA和BP。算法的結(jié)合性能調(diào)整策略見(jiàn)15].41基本思想:關(guān)鍵