開題報告模板(曹云茜)

《開題報告模板(曹云茜)》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在工程資料-天天文庫。

1、畢業(yè)設(shè)計（論文）開題報告二級學(xué)院信息工程學(xué)院教學(xué)系通信工程系專業(yè)班級通信04?1學(xué)生姓名曹蕓茜學(xué)號20043762指導(dǎo)教師張立毅畢業(yè)設(shè)計（論文）題目BP前饋神經(jīng)網(wǎng)絡(luò)的改進(jìn)研究一、選題依據(jù)神經(jīng)網(wǎng)絡(luò)一般采用謀差反向傳播算法（ErrorBackPropagationAlgorithm,簡稱BP）O早在1969年，Bryson就提出了BP算法理論，1974年和1985年Werbos和Pakei?各自獨立提出這一算法,但未引起重視o1986年，由Bumelhart和McCleland等人組成的PDP研究小組在對并行分布處理的微觀結(jié)構(gòu)進(jìn)行深入研究后，系統(tǒng)提出了完整的BP算法神經(jīng)網(wǎng)絡(luò)

2、理論，受到人們的普遍認(rèn)可和關(guān)注。BP神經(jīng)網(wǎng)絡(luò)是目前信號處理、口適應(yīng)控制領(lǐng)域的應(yīng)用最為成熟和普遍的一種網(wǎng)絡(luò)結(jié)構(gòu)。BP算法是一種監(jiān)督式學(xué)習(xí)算法，屬于/學(xué)習(xí)算法的推廣。其目的是使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小。由信息的正向傳播與誤差的反向傳播兩部分組成。在正向傳播過程中，輸入信息從輸入層經(jīng)隱含層逐層計算傳向輸出層，每一層神經(jīng)元的輸出作用于下一層神經(jīng)元的輸入。如果在輸出層沒有得到期望的輸出，則計算輸出層的誤差變化值，然后轉(zhuǎn)向反向傳播，通過網(wǎng)絡(luò)將謀差信號沿原來的連接通路反傳冋來，修改各層神經(jīng)元的權(quán)值，直至達(dá)到期望目標(biāo)。在目前眾多的神經(jīng)網(wǎng)絡(luò)模型中，多層前饋神經(jīng)網(wǎng)絡(luò)、尤其是三層前饋神

3、經(jīng)網(wǎng)絡(luò)是應(yīng)用最為廣泛的模型。它一般采用反向傳播學(xué)習(xí)算法（簡稱BP算法）進(jìn)行訓(xùn)練。該方法具冇簡單和可塑性強等優(yōu)點，但由于是基于梯度方法，存在著收斂速度慢、易陷入局部極小點的缺陷。為了克服該缺陷，現(xiàn)已提出了多種改進(jìn)算法。二、研究內(nèi)容和研究方法（-）BP算法的核心是最速下降法，這是一種以梯度為基礎(chǔ)的誤差下降算法，具有原理簡單、實現(xiàn)方便等特點，但也有許多不足之處：（1）收斂速度較慢導(dǎo)致BP算法收斂速度慢的原因主要是固定的學(xué)習(xí)速率（也稱為迭代步＜）。BP算法的本質(zhì)是優(yōu)化計算屮的梯度下降法，利用誤差函數(shù)的一階導(dǎo)數(shù)信息指導(dǎo)下一步的權(quán)值調(diào)整方向，以達(dá)到誤差最小的目的。（2）易陷入局部極

4、小點BP算法的訓(xùn)練是從某一起始點沿誤差函數(shù)的曲面逐漸到達(dá)誤差的最小點。由于誤差曲而是一個復(fù)雜得多維曲而，冇可能存在多個局部極小點，使得訓(xùn)練陷入局部極小。（-）針對BP算法的上述缺陷，近年來學(xué)者們提出了多種改進(jìn)算法。主要可以分為采用啟發(fā)式信息技術(shù)的BP算法，加入數(shù)值優(yōu)化技術(shù)的BP算法和基于現(xiàn)代優(yōu)化理論的BP算法三大類。1.采用啟發(fā)式信息技術(shù)的BP算法采用啟發(fā)式信息技術(shù)的BP算法的實質(zhì)就是在謀差梯度變化緩慢時加大學(xué)習(xí)速率，而在變化劇烈時減小學(xué)習(xí)速率。主要冇可變學(xué)習(xí)速率法，加入動量項法等。（1）可變學(xué)習(xí)速率法可變學(xué)習(xí)速率是指在網(wǎng)絡(luò)訓(xùn)練過程中，學(xué)習(xí)速率是變化的，即在訓(xùn)練的初始階

5、段，選擇較大的學(xué)習(xí)速率，加快收斂速度；在接近收斂時，減小學(xué)習(xí)速率，避免權(quán)值調(diào)整幅度過大而產(chǎn)生振蕩或不收斂。在可變學(xué)習(xí)速率方法中，學(xué)習(xí)速率的改變可以有多種形式，其中主耍有以卜?幾種：1）Vogl算法2）其他可變學(xué)習(xí)速率算法（2）附加動量項法附加動量項法的實質(zhì)是將前而最后幾次權(quán)值變化的影響通過一個動量因子來傳遞給當(dāng)前權(quán)值的變化。在修正權(quán)值時不僅考慮謀差在梯度上的作用，而且考慮在謀茅曲面上變化趨勢的影響，降低了網(wǎng)絡(luò)對謀茅曲面局部細(xì)節(jié)的皺感性，有效地抑制了網(wǎng)絡(luò)陷于局部極小的缺陷，加速了算法的收斂過程。目前，附加動量項的方法有很多種，不少文獻(xiàn)都提出了不同的方法。1.加入數(shù)值優(yōu)化技

6、術(shù)的BP算法神經(jīng)網(wǎng)絡(luò)的BP學(xué)習(xí)過程實質(zhì)上是一個數(shù)值優(yōu)化問題，可以利用數(shù)值優(yōu)化技術(shù)來進(jìn)行改進(jìn)，如牛頓法、共軌梯度法和Levenberg-Marquardt算法等。2.基于現(xiàn)代優(yōu)化理論的BP算法基于現(xiàn)代優(yōu)化理論的BP算法是將遺傳算法、蟻群算法(ColonyAlgorithm)＞模擬退火算法等于神經(jīng)網(wǎng)絡(luò)相結(jié)合，改善BP算法的缺陷，捉高算法的全局收斂能力。(1)遺傳算法優(yōu)化BP算法(2)模擬退火算法優(yōu)化BP算法(3)蟻群算法優(yōu)化BP算法(4)免疫算法優(yōu)化BP算法三、預(yù)計可獲得的成果(含可能取得的獨特之處)通過對BP而饋神經(jīng)網(wǎng)絡(luò)的改進(jìn)研究，綜述克服BP算法收斂速度慢和易陷入局部極

7、小點的各種方法，包括啟發(fā)式信息技術(shù)、數(shù)值優(yōu)化技術(shù)等。四、工作進(jìn)度計劃2007.11.05-2008.03.06：收集資料，理解課題，寫岀開題報告;2008.03.07-2008.04.30：根據(jù)設(shè)計耍求，完成設(shè)計任務(wù)，并進(jìn)行相應(yīng)的仿真實驗;2008.05.01-2008.05.20：撰寫畢業(yè)設(shè)計論文;2008.05.21-2008.05.28：修改完善畢業(yè)設(shè)計論文;2008.05.29?2008.06.05：制作PPT講稿，準(zhǔn)備答辯。五、與開題有關(guān)的主要參考文獻(xiàn)[1]李敏生，劉斌.BP學(xué)習(xí)算法的改進(jìn)與應(yīng)用[J]?北京理工大學(xué)學(xué)報，1999