深度學(xué)習(xí)算法研究及其在圖像分類上的應(yīng)用

《深度學(xué)習(xí)算法研究及其在圖像分類上的應(yīng)用》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。

1、單位代碼：１０２９３密級；公開碩女＃隹化ＡＷ，＇－，Ｉ－論文題目：深度學(xué)習(xí)算法研究及其在圖像分類上的應(yīng)用．、＇．’■ｒ＇二，．．ｒ、’．？．二，’；；＇式．Ｖ為，’＞■．．一１０１３０４１２２４詩學(xué)號＾‘、至曜．姓名，３，．：＇程春玲＂導(dǎo)師．，．，Ｉ＇．。計(jì)算機(jī)應(yīng)用技術(shù)，學(xué)科專業(yè)分布式計(jì)算技術(shù)與應(yīng)屆＿硏究方向＿＼又；工學(xué)碩主＂氣申請學(xué)位類別讀．．古＂二零一六年四月巧論文提交日期／賽

2、＾１．．呼遽！■‘；；＇．＇：織南京郵電大學(xué)學(xué)位論文原創(chuàng)性聲明本人盧Ｗ所Ｍ交的學(xué)位論文１：＞Ｖ：巧個人化巧師巧計(jì)下進(jìn)行的研究作巧化得的研化成果。＇：盡巧所知，除／文小特別加Ｕ標(biāo)注和致謝的地方外，論文中不佔(zhàn)；化他人經(jīng)發(fā)灰或撰Ｊ過的硏究成災(zāi)，也不包含為獲得賄成郵電人義或其它巧育機(jī)構(gòu)的巧化誠證書郵使州過的材料。－Ｗ獻(xiàn)均己化論義與我化的問山對本研宛所做的任何中作／明備的說明并龍?。x總。一。本人學(xué)化論文及巧及和災(zāi)資料打有不丈，底總承祖切相關(guān)的法律貴化、研化小＇年．簽名；：因期

3、、南京郵電大學(xué)學(xué)位論文使用授權(quán)聲明本人校權(quán)聞如郵化乂巧可保留并向?qū)已a(bǔ)關(guān)部ｎ或機(jī)構(gòu)送交論義的貸印件和化丫義檔；允許論文被巧閱和償閱；可Ｗ將學(xué)伉論文的全部或部分內(nèi)蔣編入村關(guān)數(shù)據(jù)庫進(jìn)行檢索；＇可＾心采用影印、縮印或婦描等紀(jì)制手段保存、匯編本學(xué)位論文。本文化了文檔的內(nèi)容和紙質(zhì)－－論文的內(nèi)容相致。論義的公化（包巧刊登）授權(quán)南京郵電大學(xué)研充化院辦理。涉密學(xué)位論義在解密后適Ｗ本授權(quán)書。硏究生簽軒：至磅導(dǎo)師簽名：「］期：TheResearchonDeepLearningalgorithmandits

4、applicationinImageClassificationThesisSubmittedtoNanjingUniversityofPostsandTelecommunicationsfortheDegreeofMasterofMasterofEngineeringByShuWangSupervisor:Prof.ChunlingChengApril2016摘要近年來，深度學(xué)習(xí)（DeepLearning，DL）的研究日益受到人們的廣泛關(guān)注。與傳統(tǒng)的淺層網(wǎng)絡(luò)模型相比，深度學(xué)習(xí)模型的多層網(wǎng)絡(luò)結(jié)構(gòu)能夠更加有效地表達(dá)復(fù)雜函

5、數(shù)，從而學(xué)習(xí)到表征能力更強(qiáng)的特征，將深度學(xué)習(xí)應(yīng)用到圖像的分類中，可以有效地提高分類的精度。然而，深度學(xué)習(xí)在實(shí)際應(yīng)用中仍然面臨著嚴(yán)峻的挑戰(zhàn)：深度學(xué)習(xí)的重要基礎(chǔ)單元模型——受限玻爾茲曼機(jī)（RestrictedBoltzmannMachine，RBM）在訓(xùn)練過程中，存在計(jì)算復(fù)雜度高、模型對訓(xùn)練數(shù)據(jù)的似然度不夠高等問題，導(dǎo)致深度學(xué)習(xí)模型訓(xùn)練時間較長。本文以深度學(xué)習(xí)算法為研究內(nèi)容，以基于深層網(wǎng)絡(luò)模型的圖像分類方法為研究目標(biāo)，主要作了以下幾方面的工作：（1）介紹本文的課題背景和研究意義，闡述深度學(xué)習(xí)的發(fā)展歷程、深度學(xué)習(xí)的基本結(jié)構(gòu)單

6、元以及深度學(xué)習(xí)常用的深度模型等相關(guān)技術(shù)，調(diào)研并分析國內(nèi)外關(guān)于深度學(xué)習(xí)應(yīng)用的研究發(fā)展現(xiàn)狀，對RBM現(xiàn)存的問題進(jìn)行分析。（2）針對受限玻爾茲曼機(jī)訓(xùn)練時傳統(tǒng)學(xué)習(xí)率的收斂速度慢的問題，提出一種基于Kaiser窗的受限玻爾茲曼機(jī)自適應(yīng)學(xué)習(xí)率調(diào)整算法，利用Kaiser窗可以自由選擇主瓣寬度和旁瓣高度之間比重的特性以及訓(xùn)練過程中誤差增量的變化給出學(xué)習(xí)率自適應(yīng)變化公式，并設(shè)置誤差控制因子和慣性因子，從而更有效地自適應(yīng)調(diào)整學(xué)習(xí)率。仿真結(jié)果表明，基于Kaiser窗的受限玻爾茲曼機(jī)學(xué)習(xí)率調(diào)整算法，可以顯著提高受限玻爾茲曼機(jī)的收斂速度和學(xué)習(xí)能

7、力。（3）針對受限玻爾茲曼機(jī)訓(xùn)練時歸一化參數(shù)的高計(jì)算復(fù)雜度問題，提出一種基于交替迭代算法的改進(jìn)受限玻爾茲曼機(jī)，利用交替迭代算法將模型分布參數(shù)和歸一化參數(shù)交替進(jìn)行計(jì)算，通過反復(fù)迭代直至收斂來求得受限玻爾茲曼機(jī)的模型分布參數(shù)，同時設(shè)置相應(yīng)的閾值來保證收斂速度。仿真結(jié)果表明，相較于并行回火、持續(xù)對比散度等算法訓(xùn)練得到的RBM模型，基于交替迭代算法的改進(jìn)受限玻爾茲曼機(jī)對訓(xùn)練數(shù)據(jù)具有更高的似然度。（4）針對淺層模型無法有效地表達(dá)圖像多層語義特征的問題，將深度學(xué)習(xí)算法應(yīng)用于圖像分類中，提出一種基于多層RBM網(wǎng)絡(luò)的圖像分類方法。同時

8、，在多層RBM網(wǎng)絡(luò)中引入數(shù)據(jù)加入噪聲的過程和特征池化過程，避免算法對訓(xùn)練數(shù)據(jù)的過擬合，提高算法的泛化能力和魯棒性。仿真結(jié)果表明，相較于深度信念網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)以及稀疏編碼等圖像分類方法，基于多層RBM網(wǎng)絡(luò)的圖像分類方法提高了圖像分類的精確度的同時，增加了模型泛化性和魯棒性。關(guān)鍵詞:深度學(xué)習(xí)，受限玻爾茲曼機(jī)，自適應(yīng)學(xué)習(xí)率，交替迭代