資源描述:
《面向高維數(shù)據(jù)降維與分類的深度模型構(gòu)建方法研究》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、面向高維數(shù)據(jù)降維與分類的深度模型構(gòu)建方法研究重慶大學(xué)碩士學(xué)位論文(學(xué)術(shù)學(xué)位)學(xué)生姓名:劉建環(huán)指導(dǎo)教師:張可副教授專業(yè):控制科學(xué)與工程學(xué)科門類:工學(xué)重慶大學(xué)自動(dòng)化學(xué)院二O一六年四月ResearchonConstructingDeepStructureModelforDimensionReductionandClassificationofHigh-dimensionalDataAThesisSubmittedtoChongqingUniversityinPartialFulfillmentoftheRequirem
2、entfortheMaster’sDegreeofEngineeringByLiuJianhuanSupervisedbyAssociateProf.ZhangKeSpecialty:ControlScienceandEngineeringCollegeofAutomationofChongqingUniversity,Chongqing,ChinaApril,2016重慶大學(xué)碩士學(xué)位論文中文摘要摘要不同行業(yè)結(jié)合的綜合性的信息物理系統(tǒng)具有數(shù)據(jù)量大且數(shù)據(jù)維度高等特征,尤其是維度較高的數(shù)據(jù)不僅難以被人們直觀理解,而且
3、也難以被現(xiàn)有的機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘算法進(jìn)行有效地處理,因此數(shù)據(jù)降維是處理高維數(shù)據(jù)的一個(gè)重要手段,也是特征提取的重要工具。在數(shù)據(jù)降維處理方面,國內(nèi)外眾多學(xué)者已經(jīng)有了大量的研究工作,但是在線性和非線性降維領(lǐng)域仍然存在著許多挑戰(zhàn)性的問題。在大量閱讀文獻(xiàn)的基礎(chǔ)上,本文分析了在線性降維和非線性降維中所存在的問題:線性降維算法一般都是在假設(shè)數(shù)據(jù)服從高斯分布的基礎(chǔ)上進(jìn)行處理,流形學(xué)習(xí)等非線性降維算法則因?yàn)椴荒芙o出數(shù)據(jù)降維的顯式映射關(guān)系而使得應(yīng)用受限。但是,在深度學(xué)習(xí)中,受限玻爾茲曼機(jī)由于具有類神經(jīng)網(wǎng)絡(luò)的記憶聯(lián)想功能和獨(dú)有的理論上
4、可以擬合任意分布的能力使得基于其構(gòu)建的深度結(jié)構(gòu)模型可以很好的解決上述問題。本文圍繞數(shù)據(jù)降維問題展開研究,重點(diǎn)對(duì)線性降維算法和流形學(xué)習(xí)非線性降維算法進(jìn)行研究,針對(duì)存在的問題構(gòu)建了基于受限玻爾茲曼機(jī)的深度高維數(shù)據(jù)降維模型同時(shí)對(duì)其進(jìn)行了結(jié)構(gòu)上的優(yōu)化。本文的主要工作包括以下幾個(gè)方面:①對(duì)傳統(tǒng)的線性降維算法和基于流形學(xué)習(xí)的非線性降維算法進(jìn)行了分析與研究,并比較了它們之間的優(yōu)缺點(diǎn)。②對(duì)深度學(xué)習(xí)的基礎(chǔ)構(gòu)造模塊受限玻爾茨曼機(jī)進(jìn)行介紹與分析,其在理論上可以對(duì)任意分布的數(shù)據(jù)進(jìn)行擬合,而且可以將映射關(guān)系保存在可見層與隱含層之間的連接權(quán)
5、值中,因此可以很好解決上述存在的問題。③基于受限玻爾茲曼機(jī)構(gòu)建深度高維數(shù)據(jù)降維模型并對(duì)其從結(jié)構(gòu)上進(jìn)行優(yōu)化,同時(shí)從理論上和實(shí)驗(yàn)中都對(duì)有效性進(jìn)行了驗(yàn)證,使得深度模型在不失精度的前提下盡可能的緊湊與簡(jiǎn)單,提高了計(jì)算速度和運(yùn)行效率。④將深度高維數(shù)據(jù)降維模型及其優(yōu)化后的模型應(yīng)用于手寫數(shù)字識(shí)別中,實(shí)驗(yàn)結(jié)果顯示模型都具有非常高的識(shí)別精確度,尤其是基于隱含層節(jié)點(diǎn)單元可自適應(yīng)調(diào)整的RBM構(gòu)建的深度模型在高識(shí)別精度的同時(shí)還能盡可能的使用較少的隱含層節(jié)點(diǎn)單元,大大的提高了運(yùn)算速度和節(jié)省了存儲(chǔ)空間。關(guān)鍵詞高維數(shù)據(jù),數(shù)據(jù)降維,深度學(xué)習(xí),R
6、BM,手寫數(shù)字分類I重慶大學(xué)碩士學(xué)位論文英文摘要ABSTRACTComprehensiveinformationsystemscombinedbydifferentindustriesarecoming.Newlargeandcomplexsystemshavecharacteristicswithlargevolumesandhighdimension.Itisdifficulttounderstandforpeopleandalsodifficulttooperateformachinelearningand
7、dataminingalgorithm.Therefore,dimensionreductionisanimportanttooltohighdimensionaldataandfeatureextraction.Indimensionreductionprocessing,althoughmanyresearchershavebeendonealotofresearches,therearestillmanychallengingproblemsinthelinearandnonlineardimensionr
8、eduction.Onthebasisofmanyreferences,thispaperanalyzesproblemsoflineardimensionreductionandnonlineardimensionreduction.Lineardimensionreductionalgorithmisalwaysusedontheassumptionthatdatai