基于深度學(xué)習(xí)的聚類關(guān)鍵技術(shù)研究

《基于深度學(xué)習(xí)的聚類關(guān)鍵技術(shù)研究》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。

1、國內(nèi)圖書分類號：ＴＰ３０１．６密級；公開１１４國際圖書分類號：６８．西南交通大學(xué)研究生學(xué)位論文基于深度學(xué)習(xí)的聚類關(guān)鍵技術(shù)研究年級２０。級姓名楊琪申請學(xué)位級別工學(xué)碩±專業(yè)計算機(jī)科學(xué)與技術(shù)指導(dǎo)老師王紅軍二零一六年五月ＣｌａｓｓｉｆｉｅｄＩｎｄｅｘ：ＴＰ３０１．６Ｕ．Ｄ．Ｃ：６８１．１４ＳｏｕｔｈｗｅｓｔＪｉａｏｔｏｎｇＵｎｉｖｅｒｓｉｔｙＭａｓｔｅｒＤｅｒｅｅＴｈｅｓｉｓｇＲＥＳＥＡＲＣＨＯＮＫＥＹＴＥＣＨＮＯＬＯＧ圧ＳＯＦＣＬＵＳＴＥ

2、ＲＩＮＧＢ乂ＳＥＤＯＮＤＥＥＰＬＥＡＲＮＩＮＧＧｒａｄｅ：２０１３Ｃａｎｄｉｄａｔｅ：ＹａｎｇＱｉＡｃａｄｅｍｉｃＤｅｇｒｅｅＡｐｐｌｉｅｄｆｏｒ：ＭａｓｔｅｒＤｅｇｒｅｅＳｅｃｉａｌｉｔ：Ｃｏｍ山ｅｒＳｃｉｅｎｃｅｐｙｐＳｕｅｒｖｉｓｏｒ；ＷａｎＨｏｎｕｎｐｇｇｊＭａ．２２０１６ｙ，西南交通大學(xué)學(xué)位論文版權(quán)使用授權(quán)書本學(xué)位論文作者完全了解學(xué)校有關(guān)保留，、使用學(xué)位論文的規(guī)定同意學(xué)校保留并向國家有關(guān)部口或機(jī)構(gòu)送交論文的復(fù)印件和電子版，允許論文被查閱和借閱。本人授

3、權(quán)西南交通大學(xué)可（ｉＵ各本論文的全部或部分內(nèi)容編入有關(guān)數(shù)據(jù)庫進(jìn)行檢索，可采用影印、縮印或掃描等復(fù)印手段保存和匯編本學(xué)位論文。本學(xué)位論文屬于１．保密□，在年解密后適用本授權(quán)書：２．不保密ｃ／，使用本授權(quán)書。＂＂（請在上方框內(nèi)打Ｖ）學(xué)位論文作者簽名：指導(dǎo)老師簽名：＾＾＾曰期：曰期：的備仿？西南交通大學(xué)碩±學(xué)位論文主要工作（貢獻(xiàn)）聲明本人在學(xué)位論文中所做的主要工作或貢獻(xiàn)如下：１本文提出了基于深度學(xué)習(xí)的聚類算法模型，將深度學(xué)習(xí)和聚類技術(shù)結(jié)合起來。（）首先用深層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)對原始數(shù)據(jù)進(jìn)行特征學(xué)習(xí)，然

4、后對學(xué)習(xí)到的特征表示進(jìn)行預(yù)聚類，最后在微調(diào)模塊中進(jìn)行特征的優(yōu)化和聚類的優(yōu)化。這種模型能夠一學(xué)習(xí)到大規(guī)模數(shù)據(jù)中隱含的深層特征，并根據(jù)聚類要求進(jìn)行進(jìn)步優(yōu)化，在保持原始數(shù)據(jù)的結(jié)構(gòu)的同時發(fā)掘數(shù)據(jù)簇結(jié)構(gòu)。在微調(diào)部分作者新設(shè)計了目標(biāo)函一數(shù)，使得微調(diào)完全成為個優(yōu)化的問題。一２本文提出了種新的聚類算法（ＤＢＮＯＣ）。在之前提出的模型的基礎(chǔ)上，選?。崳姡ǎ┝耍牐模拢魏停疲茫退惴▽崿F(xiàn)該模型，。該算法既有ＤＢＮ的特征學(xué)習(xí)優(yōu)勢又具有ＦＣＭ的牧斂快的特性，具有適合大規(guī)模數(shù)據(jù)學(xué)習(xí)的優(yōu)勢。由于在微調(diào)部分的目標(biāo)函數(shù)對參數(shù)偏導(dǎo)數(shù)很難計算，

5、于是采用了ＢＰ反向傳播法進(jìn)行偏導(dǎo)數(shù)的求解。本人鄭重聲明：所呈交的學(xué)位論文，是在導(dǎo)師指導(dǎo)下獨立進(jìn)行研究工作所得的成果。除文中己經(jīng)注明引用的內(nèi)容外，本論文不包含任何其他個人或集體己經(jīng)發(fā)表或撰寫過的研究成果。對本文的研究做出貢獻(xiàn)的個人和集體，均己在文中作了明確說明。本人完全了解違反上述聲明所引起的一切法律責(zé)任將由本人承擔(dān)。學(xué)位論文作者簽名；芬祇曰期．：？）叫西南交通大學(xué)碩±研究生學(xué)位論文第Ｉ頁摘要２００６一自從年レッ來深度學(xué)習(xí)己經(jīng)成為人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的大熱點。并且在一無監(jiān)督特征學(xué)習(xí)領(lǐng)

6、域展現(xiàn)出了巨大的潛力。深度學(xué)習(xí)是系列深度學(xué)習(xí)算法的統(tǒng)稱，其利用深度結(jié)構(gòu)來學(xué)習(xí)數(shù)據(jù)中存在的深層模式和隱含特征。一一聚類技術(shù)是機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的大研究熱點，種無監(jiān)督學(xué)習(xí)方法是。，自主地學(xué)習(xí)原始數(shù)據(jù)中的隱含簇結(jié)構(gòu)聚類是在不需要先驗知識的情況下。一本論文提出種基于深度學(xué)習(xí)的聚類模型，并利用深度信念網(wǎng)（ＤＢＮ）和Ｆｕｚｚｙ一Ｃ－ｍｅａｎｓＦＣＭ實現(xiàn)種聚類算法（）。該模型分成兩個部分：預(yù)訓(xùn)練部分和微調(diào)部分。預(yù)訓(xùn)練部分由深層結(jié)構(gòu)和預(yù)聚類層組成。首先預(yù)訓(xùn)練部分為：使用多層限制性玻爾茲曼機(jī)進(jìn)行網(wǎng)絡(luò)預(yù)訓(xùn)練，Ｗ此得到深

7、層結(jié)構(gòu)預(yù)訓(xùn)練的深層特征表示，然后通過預(yù)聚類層一使用種簡單的聚類算法對預(yù)訓(xùn)練得到的深層特征表示進(jìn)行預(yù)聚類，并得到初步的聚、類中屯和類標(biāo)簽。接下來是微調(diào)部分，微調(diào)部分為：使用展開后的微調(diào)網(wǎng)絡(luò)對預(yù)訓(xùn)練部分已經(jīng)學(xué)習(xí)到的網(wǎng)絡(luò)參數(shù)進(jìn)行微調(diào)，同時進(jìn)行聚類優(yōu)化學(xué)習(xí)。微調(diào)部分的結(jié)構(gòu)是將預(yù)訓(xùn)練深層結(jié)構(gòu)展開并加上聚類層。微調(diào)部分采用交叉迭代的方法對目標(biāo)公式進(jìn)行優(yōu)化，使得聚類結(jié)果和特征學(xué)習(xí)能夠同時達(dá)到最優(yōu)的效果。該模型充分利用了深度學(xué)習(xí)和聚類技術(shù)的無監(jiān)督學(xué)習(xí)的共性，將深度學(xué)習(xí)的優(yōu)勢和聚類相結(jié)合，使得聚類效果更好和對高維數(shù)據(jù)聚類時

8、更加便捷，。在該模型的基礎(chǔ)上本文又采用深度信念網(wǎng)和ＦＣＭ一ＤＢＮＯＣ一算法實現(xiàn)種聚類算法（）。該算法既有深度信念網(wǎng)的優(yōu)點，同時又是種軟聚類方法。該算法在微調(diào)優(yōu)化的過程中主要采用了ＢＰ反向傳播的方法。最后，通過在高維度數(shù)據(jù)