支持向量機(jī)分類算法的研究

《支持向量機(jī)分類算法的研究》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。

1、學(xué)校代碼10699分類號TP391．4密級學(xué)號2013201270題目支持向量機(jī)分類算法的研究作者范旭慧學(xué)科、專業(yè)通信與信息系統(tǒng)指導(dǎo)教師張捷申請學(xué)位日期2016年3月西北工業(yè)大學(xué)碩士學(xué)位論文（學(xué)位研究生）題目：支持向量機(jī)分類算法的研究作者：范旭慧學(xué)科專業(yè)：通信與信息系統(tǒng)指導(dǎo)教師：張捷2016年3月1Title:TheResearchonAlgorithmofSupportVectorMachineforClassificationByFanXuhuiUndertheSupervisionofProfe

2、ssorZhangJieADissertationSubmittedtoNorthwesternPolytechnicalUniversityInpartialfulfillmentoftherequirementForthedegreeofMasterofCommunicationandInformationSystemXi’anP.R.ChinaMarch20162摘要摘要支持向量機(jī)(supportvectormachine，簡稱SVM)，是一種利用最優(yōu)化方法解決機(jī)器學(xué)習(xí)的新工具。SVM由于具有較

3、強(qiáng)的泛化能力和對高維數(shù)據(jù)操作方便而得到了日益廣泛的研究和應(yīng)用?；诒O(jiān)督學(xué)習(xí)的支持向量機(jī),雖然可以有效地解決各種實際問題,但是為了獲取足夠的訓(xùn)練樣本需要有經(jīng)驗的專家對大量無標(biāo)記樣本進(jìn)行標(biāo)記,這樣會耗費大量的人力物力。同時，現(xiàn)實生活中存在著大量的無標(biāo)記樣本，如果不能充分利用這些資源，也是對現(xiàn)有資源的浪費。因此,根據(jù)需要研究人員提出了基于半監(jiān)督學(xué)習(xí)的支持向量機(jī)，然而,半監(jiān)督支持向量機(jī)是機(jī)器學(xué)習(xí)領(lǐng)域中相對比較新的理論,需要在監(jiān)督支持向量機(jī)的基礎(chǔ)上進(jìn)一步地研究和改進(jìn)。因此本文的研究工作主要包含以下兩點：第一、研

4、究了監(jiān)督支持向量機(jī)的分類模型，針對傳統(tǒng)的監(jiān)督支持向量分類機(jī)的分類精確度不高和效率低下等問題，提出了兩種新的分類模型，一種是貝塞爾光滑支持向量分類機(jī)，一種是基于圓切線的光滑支持向量分類機(jī)。并利用數(shù)學(xué)理論證明了這兩個新模型的光滑性和收斂性，分析了其對正號函數(shù)的逼進(jìn)性能，同時根據(jù)各自模型的特點，分別采用Armijo-Newton方法和BFGS方法進(jìn)行求解，理論分析和數(shù)值實驗結(jié)果都證明這兩種新的光滑支持向量分類機(jī)在分類性能上優(yōu)于以往提出來的光滑模型。第二、主要針對半監(jiān)督支持向量分類優(yōu)化模型中的非凸問題展開研究

5、，通過對經(jīng)典模型的研究，提出了一種新的半監(jiān)督支持向量分類機(jī)----分段光滑的半監(jiān)督支持向量分類機(jī)。在該模型中，基于分段逼近的思想提出了一個分段函數(shù)，并以此逼近非凸的目標(biāo)函數(shù)。給出的分段函數(shù)可以根據(jù)不同的精度要求選擇不同的逼近參數(shù)，同時基于模型的特點采用了低密度分離算法LDS(LowDensitySeparation)進(jìn)行求解，并分析了其對對稱鉸鏈損失函數(shù)的逼進(jìn)精度。理論分析和數(shù)值實驗結(jié)果都證明分段光滑的半監(jiān)督支持向量機(jī)的分類性能和效率優(yōu)于以往提出的光滑模型。關(guān)鍵詞：向量機(jī)、半監(jiān)督、圓切線、分段光滑、B

6、FGS算法、LDS、分類器3AbstractAbstractSVM(supportvectormachine,SVM),isanoveltooltosolvemachinelearningbymeansofoptimizationmethod.Becauseofitsstrongergeneralizationabilityandeasyopera-tionofhigh-dimensionaldata,SVMhasbeenwidelyresearchedandapplied.althoughfull-

7、supervisedsupportvectormachineforclassificationcaneffectivelysolvevariouspracti-calproblems,butitneedsexperiencedexpertstotagthelargeunlabeledsamplesinordertogetenoughtrainingsamples,whichwillcostalotoflaborpowerandmaterialresources.Atthesametime,theree

8、xistalotofunmarkedsamplesinreallife.Iftheseresourcescannotbemadefulluseof,thenitcanalsoleadtowaste.Therefore,theresearchersalsopresentedsup-portvectormachineonthebasisofsemi-supervisedlearningaccordingtotheactualneeds.3However,th