資源描述:
《支持向量機(jī)分類(lèi)算法的研究》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、學(xué)校代碼10699分類(lèi)號(hào)TP391.4密級(jí)學(xué)號(hào)2013201270題目支持向量機(jī)分類(lèi)算法的研究作者范旭慧學(xué)科、專業(yè)通信與信息系統(tǒng)指導(dǎo)教師張捷申請(qǐng)學(xué)位日期2016年3月西北工業(yè)大學(xué)碩士學(xué)位論文(學(xué)位研究生)題目:支持向量機(jī)分類(lèi)算法的研究作者:范旭慧學(xué)科專業(yè):通信與信息系統(tǒng)指導(dǎo)教師:張捷2016年3月1Title:TheResearchonAlgorithmofSupportVectorMachineforClassificationByFanXuhuiUndertheSupervisionofProfe
2、ssorZhangJieADissertationSubmittedtoNorthwesternPolytechnicalUniversityInpartialfulfillmentoftherequirementForthedegreeofMasterofCommunicationandInformationSystemXi’anP.R.ChinaMarch20162摘要摘要支持向量機(jī)(supportvectormachine,簡(jiǎn)稱SVM),是一種利用最優(yōu)化方法解決機(jī)器學(xué)習(xí)的新工具。SVM由于具有較
3、強(qiáng)的泛化能力和對(duì)高維數(shù)據(jù)操作方便而得到了日益廣泛的研究和應(yīng)用。基于監(jiān)督學(xué)習(xí)的支持向量機(jī),雖然可以有效地解決各種實(shí)際問(wèn)題,但是為了獲取足夠的訓(xùn)練樣本需要有經(jīng)驗(yàn)的專家對(duì)大量無(wú)標(biāo)記樣本進(jìn)行標(biāo)記,這樣會(huì)耗費(fèi)大量的人力物力。同時(shí),現(xiàn)實(shí)生活中存在著大量的無(wú)標(biāo)記樣本,如果不能充分利用這些資源,也是對(duì)現(xiàn)有資源的浪費(fèi)。因此,根據(jù)需要研究人員提出了基于半監(jiān)督學(xué)習(xí)的支持向量機(jī),然而,半監(jiān)督支持向量機(jī)是機(jī)器學(xué)習(xí)領(lǐng)域中相對(duì)比較新的理論,需要在監(jiān)督支持向量機(jī)的基礎(chǔ)上進(jìn)一步地研究和改進(jìn)。因此本文的研究工作主要包含以下兩點(diǎn):第一、研
4、究了監(jiān)督支持向量機(jī)的分類(lèi)模型,針對(duì)傳統(tǒng)的監(jiān)督支持向量分類(lèi)機(jī)的分類(lèi)精確度不高和效率低下等問(wèn)題,提出了兩種新的分類(lèi)模型,一種是貝塞爾光滑支持向量分類(lèi)機(jī),一種是基于圓切線的光滑支持向量分類(lèi)機(jī)。并利用數(shù)學(xué)理論證明了這兩個(gè)新模型的光滑性和收斂性,分析了其對(duì)正號(hào)函數(shù)的逼進(jìn)性能,同時(shí)根據(jù)各自模型的特點(diǎn),分別采用Armijo-Newton方法和BFGS方法進(jìn)行求解,理論分析和數(shù)值實(shí)驗(yàn)結(jié)果都證明這兩種新的光滑支持向量分類(lèi)機(jī)在分類(lèi)性能上優(yōu)于以往提出來(lái)的光滑模型。第二、主要針對(duì)半監(jiān)督支持向量分類(lèi)優(yōu)化模型中的非凸問(wèn)題展開(kāi)研究
5、,通過(guò)對(duì)經(jīng)典模型的研究,提出了一種新的半監(jiān)督支持向量分類(lèi)機(jī)----分段光滑的半監(jiān)督支持向量分類(lèi)機(jī)。在該模型中,基于分段逼近的思想提出了一個(gè)分段函數(shù),并以此逼近非凸的目標(biāo)函數(shù)。給出的分段函數(shù)可以根據(jù)不同的精度要求選擇不同的逼近參數(shù),同時(shí)基于模型的特點(diǎn)采用了低密度分離算法LDS(LowDensitySeparation)進(jìn)行求解,并分析了其對(duì)對(duì)稱鉸鏈損失函數(shù)的逼進(jìn)精度。理論分析和數(shù)值實(shí)驗(yàn)結(jié)果都證明分段光滑的半監(jiān)督支持向量機(jī)的分類(lèi)性能和效率優(yōu)于以往提出的光滑模型。關(guān)鍵詞:向量機(jī)、半監(jiān)督、圓切線、分段光滑、B
6、FGS算法、LDS、分類(lèi)器3AbstractAbstractSVM(supportvectormachine,SVM),isanoveltooltosolvemachinelearningbymeansofoptimizationmethod.Becauseofitsstrongergeneralizationabilityandeasyopera-tionofhigh-dimensionaldata,SVMhasbeenwidelyresearchedandapplied.althoughfull-
7、supervisedsupportvectormachineforclassificationcaneffectivelysolvevariouspracti-calproblems,butitneedsexperiencedexpertstotagthelargeunlabeledsamplesinordertogetenoughtrainingsamples,whichwillcostalotoflaborpowerandmaterialresources.Atthesametime,theree
8、xistalotofunmarkedsamplesinreallife.Iftheseresourcescannotbemadefulluseof,thenitcanalsoleadtowaste.Therefore,theresearchersalsopresentedsup-portvectormachineonthebasisofsemi-supervisedlearningaccordingtotheactualneeds.3However,th