資源描述:
《基于svm算法的分類器設(shè)計(jì)論文》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、基于SVM算法的分類器設(shè)計(jì)搖光摘要:本篇論文介紹了SVM分類器的設(shè)計(jì)原理,基本思想,對于線性可分和線性不可分有具體的實(shí)驗(yàn)步驟和設(shè)計(jì)的原理基礎(chǔ),以及該分類器在現(xiàn)實(shí)中應(yīng)用。對SVM算法的線性和非線性分類進(jìn)行實(shí)驗(yàn)研究,其具體算法代碼川Matlab代碼來實(shí)現(xiàn)。實(shí)驗(yàn)結(jié)果表明,SVM將平如內(nèi)具冇線性可分的點(diǎn),在平謝內(nèi)找到一個(gè)可以劃分的分界線,對平而內(nèi)的點(diǎn)進(jìn)行劃分,這些點(diǎn)分別位于分隔線的兩側(cè)。若平面內(nèi)的點(diǎn)是線性不可分,則SVM會(huì)將平而內(nèi)的點(diǎn)映射到到更萵維度,在離維空間中找到劃分所需要的分界線,然后再應(yīng)用線性可分的情況的方法進(jìn)行分類。關(guān)鍵詞:句S:機(jī);線性吋分;線性不可分;
2、最大間隔引言在現(xiàn)實(shí)中,我們會(huì)遇到一些分類的問題,比如,將平面上的點(diǎn)分為兩類。如果,這個(gè)問題,對于在線性可分的情況下,我們可以直接用SVM算法對平而上的點(diǎn)進(jìn)行劃分,然而,并非所有的點(diǎn)都是線性可分的,那么,當(dāng)我們遇到這樣的問題時(shí),我們又該怎么辦呢?這就盂要對特征空間進(jìn)行降維,通過某種映射,我們可以將平臺(tái)上的點(diǎn)映射到其他的空間,例如,球而或者其他立體區(qū)域。這樣,我們可以很容易的在某他另外一個(gè)空間找到我們所需要得到“分界線”來將這些待分類的點(diǎn)進(jìn)行劃分。這基本上就是SVM分類器的設(shè)計(jì)原理和基本思想。若待分類的點(diǎn)是線性不可分,SVM通常將將待分類的點(diǎn)映射到某些高維空間,
3、在髙維空問找到能將這些點(diǎn)劃分的“超平面”,然后對待分類的點(diǎn)進(jìn)行劃分。1實(shí)驗(yàn)方案1.1實(shí)驗(yàn)?zāi)康囊訫atlab為實(shí)驗(yàn)的開發(fā)平臺(tái),使用Libsvm工具箱設(shè)計(jì)出一個(gè)SVM分類器,并用公共數(shù)據(jù)庫中現(xiàn)存的數(shù)據(jù)集為訓(xùn)練樣例和測試樣例,采用最優(yōu)的方法的參數(shù)訓(xùn)練出分類器,并且用設(shè)計(jì)出的SVM分類器進(jìn)行測試。1.2分類標(biāo)準(zhǔn)的起源:logistic回歸在對待分類點(diǎn)進(jìn)行劃分時(shí),我們會(huì)得到一個(gè)二維平面,平而內(nèi)有不同的點(diǎn),如圖1.1.1所示,這些點(diǎn)有紅色的,也有綠色的,還有一條藍(lán)色的線。這條線可以看成是一個(gè)“分界線”也就是所謂的“超平面”。如何用這條藍(lán)色的線將紅色的點(diǎn)和綠色的點(diǎn)進(jìn)行劃分
4、出來?平而內(nèi)待分類的點(diǎn)用x表示,所要?jiǎng)澐值念悇e用y表示,?(這里y可以取1或者-1,分別代表兩個(gè)不同的類別),本次SVM分類器沒計(jì)的實(shí)FI標(biāo)是在平面內(nèi)找到一個(gè)“分界線”也就是所謂的“超平而”,將平而內(nèi)的點(diǎn)x進(jìn)行分類。而這個(gè)超平而的方程可以表示為(wT中的T代表轉(zhuǎn)置):wTx+b=0(這個(gè)1或-1的分類標(biāo)準(zhǔn)源于logistic冋歸)。Logistic冋歸得目的是從特征學(xué)習(xí)fli一個(gè)0/1的分類模型,而這個(gè)模型則是將特性的線性組合作為自變量,因自變垃的取值范圍是從負(fù)無窮到正無窮。因此,使用logistic函數(shù)(或稱作sigmoid函數(shù))將自變量映射到(0,1)上
5、,映射后的值被認(rèn)為是屬于y=l的概鑾。假設(shè)函數(shù):hex)='其中x是n維特征向量,函數(shù)g就是logistic6函數(shù)。而沁)1圖1.1g(z)函數(shù)圖像P(s=1Ix