資源描述:
《關(guān)于隨機權(quán)網(wǎng)絡的1稀疏正則化與adaboost算法及其應用研究》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在學術(shù)論文-天天文庫。
1、碩士學位論文MASTERDISSERTATION關(guān)于隨機權(quán)網(wǎng)絡的?1稀疏正則化與Adaboost算法及其應用研究TheResearchon?1SparseRegularizationandAdaboostAlgorithmsforNeuralNetworkswithRandomWeights作者王學軍導師曹飛龍教授趙建偉教授學科應用數(shù)學中國計量學院二〇一四年六月萬方數(shù)據(jù)TheResearchon?1SparseRegularizationandAdaboostAlgorithmsforNeuralNetworkswithRandomWeightsByWangXuejunADiss
2、ertationSubmittedtoChinaJiliangUniversityInpartialfulfillmentoftherequirementForthedegreeofMASTERofScienceChinaJiliangUniversityJune,2014萬方數(shù)據(jù)中圖分類號TP.183學校代碼10356UDC密級公開碩士學位論文MASTERDISSERTATION關(guān)于隨機權(quán)網(wǎng)絡的?1稀疏正則化與Adaboost算法及其應用研究TheResearchon?1SparseRegularizationandAdaboostAlgorithmsforNeuralNetw
3、orkswithRandomWeights作者王學軍導師曹飛龍教授趙建偉教授申請學位理學碩士培養(yǎng)單位中國計量學院學科專業(yè)應用數(shù)學研究方向神經(jīng)網(wǎng)絡、模式識別二〇一四年六月萬方數(shù)據(jù)獨創(chuàng)性聲明本人聲明所呈交的學位論文是本人在導師指導下進行的研究工作和取得的研究成果,除了文中特別加以標注和致謝之處外,論文中不包含其他人已經(jīng)發(fā)表或撰寫過的研究成果,也不包含為獲得中國計量學院或其他教育機構(gòu)的學位或證書而使用過的材料。與我一同工作的同志對本研究所做的任何貢獻均已在論文中作了明確的說明并表示了謝意。學位論文作者簽名:簽字日期:年月日學位論文版權(quán)使用授權(quán)書本學位論文作者完全了解中國計量學院有關(guān)保留
4、、使用學位論文的規(guī)定。特授權(quán)中國計量學院可以將學位論文的全部或部分內(nèi)容編入有關(guān)數(shù)據(jù)庫進行檢索,并采用影印、縮印或掃描等復制手段保存、匯編以供查閱和借閱。同意學校向國家有關(guān)部門或機構(gòu)送交論文的復印件和磁盤。(保密的學位論文在解密后適用本授權(quán)說明)學位論文作者簽名:導師簽名:簽字日期:年月日簽字日期:年月日萬方數(shù)據(jù)致謝在中國計量學院的三年研究生生活馬上就要結(jié)束了,在本文即將完成之際,我要衷心感謝導師曹飛龍教授和趙建偉教授對本人的精心指導,兩位導師嚴肅的科學態(tài)度,以及精益求精的工作作風深深地感染和激勵著我.他們的言傳身教將使我終生受益,記著每一次討論班曹老師和趙老師都會提出新穎的觀點,
5、啟發(fā)我們思考,讓我們從中完善和擴充思路.在生活上,兩位導師也給以無微不至的關(guān)懷,在此謹向曹老師和趙老師致以誠摯的謝意和崇高的敬意.感謝李有梅、周正華、張永全、銀俊成等各位老師對我學習上的指導和幫助.感謝談元鵬、李明、王琳娜、夏晟、戴騰輝各位師兄師姐在學術(shù)和生活上給予的幫助.感謝張永立、符艷清、蔡苗苗、陸晶等同學陪伴我度過了愉快又有意義的三年研究生生活,感謝11級數(shù)學1班所有的同學,與你們在一起的日子充滿歡聲笑語,還要感謝陪我一起打籃球的兄弟們,讓我在科研的同時感受到運動帶來的快樂!最后,衷心感謝父母對我的養(yǎng)育之恩,感謝他們對我的理解與支持,誰言寸草心,報得三春暉!王學軍2014年
6、6月萬方數(shù)據(jù)關(guān)于隨機權(quán)網(wǎng)絡的?1稀疏正則化與Adaboost算法及其應用研究摘要:人工神經(jīng)網(wǎng)絡(ArtificialNeuralNetworks,ANNs)是理論化的人腦神經(jīng)網(wǎng)絡的數(shù)學模型,其已有相當廣泛的應用.相對于傳統(tǒng)的人工神經(jīng)網(wǎng)絡算法,隨機權(quán)神經(jīng)網(wǎng)絡(NeuralNetworkswithRandomWeights,NNRW)算法不但訓練速度快,而且逼近性能較好,因此,它越來越受到人們的關(guān)注,并已被廣泛應用于各領(lǐng)域之中.本論文首先分析了三種不同的稀疏重構(gòu)算法在音頻信號重構(gòu)中的優(yōu)缺點,這三種算法分別是正交匹配追蹤算法、迭代收縮閾值法、增廣拉格朗日乘子法.這一部分使我們深入理解稀
7、疏重構(gòu)算法.然后,針對隨機權(quán)神經(jīng)網(wǎng)絡算法,結(jié)合稀疏重構(gòu)算法及集成學習的思想,提出了兩種有效的算法——稀疏正則化算法和自適應的隨機權(quán)神經(jīng)網(wǎng)絡算法.隨機權(quán)神經(jīng)網(wǎng)絡雖然是一種有效的前饋神經(jīng)網(wǎng)絡(FNNs),尤其是內(nèi)權(quán)和偏置值的隨機選取極大地提高了網(wǎng)絡的學習速率,并克服了其他學習算法的一些不足.但是,其在計算外權(quán)的過程中也存在著缺陷,比如穩(wěn)定性較差,計算內(nèi)存消耗過大.我們就此缺陷提出了一個新的算法——稀疏正則化算法.我們結(jié)合梯度投影算法給出了一種隨機權(quán)網(wǎng)絡外權(quán)的迭代解,并提出了相應的參數(shù)