資源描述：
《分類問題中特征選擇算法的研究》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、中國農(nóng)業(yè)大學(xué)博士論文摘要摘要特征選擇是數(shù)據(jù)挖掘中的一個(gè)重要研究方面，通過特征選擇可以刪除無關(guān)、冗余的信息，降低訓(xùn)練樣本的維數(shù)、降低算法的復(fù)雜度和噪音的干擾，提高模型的推廣能力，因而在分類問題中起著很重要的作用。本文對特征選擇的研究主要建立在粗糙集理論和支持向量機(jī)的基礎(chǔ)上．粗糙集理論是一種新的處理模糊、不確定性知識的數(shù)學(xué)工具．屬性約減是粗糙集理論研究的重要內(nèi)容，也就是在保持知識庫分類能力不變的條件下，刪除其中不相關(guān)或不重要的知識，達(dá)到降低維數(shù)的目的；另外屬性約減的含義較特征選擇的含義更加豐富。特征選擇效果的好壞可以通過分類精度來衡量，因而選擇一種較好的分類算法也是很重要的
2、，本文選取支持向量機(jī)作為分類算法，原因它是基于統(tǒng)計(jì)學(xué)習(xí)理論的一種新的機(jī)器學(xué)習(xí)算法，遵循的是結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則而不是經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則，具有較強(qiáng)的推廣能力．本文的主要研究成果如下：1、給出了屬性重要性的頻率定義，在它的基礎(chǔ)上建立了一種基于廣義差異矩陣的o_1屬性約減算法，將屬性約減問題轉(zhuǎn)化為一個(gè)0--1運(yùn)算問題，有效地提高了屬性約減的效率；同時(shí)對該算法能否能夠得到最小約減進(jìn)行了詳實(shí)地研究，并得到了一些重要的結(jié)論，最后將此算法推廣到不完備信息系統(tǒng)中．2、建立了基于0-1整數(shù)規(guī)劃的屬性約減算法和基于線性規(guī)劃的屬性約減算法，將屬性約減問題轉(zhuǎn)化為一個(gè)o-1整數(shù)規(guī)劃問題和線性規(guī)劃問
3、題；同時(shí)對最優(yōu)解與屬性約減之問的關(guān)系進(jìn)行了研究，得到了～些重要的結(jié)論．3，給出了一種針對多類決策系統(tǒng)的屬性約減算法，將多類問題的約減轉(zhuǎn)化成兩類問題的約減。有效地提高了約減的效率；同時(shí)對該算法得到的約減是否為最小約減進(jìn)行了討論，并得到了一些有關(guān)結(jié)論。4、對基于支持向量機(jī)的特征選擇算法進(jìn)行了研究，包括構(gòu)建了一種基于^一厶一norm支持向量機(jī)的特征選擇算法、Embedded式支持向量機(jī)特征選擇算法和Robust支持向量機(jī)特征選擇算法。這些模型的求解轉(zhuǎn)化成二階錐規(guī)劃。5、建立了一種基于粗糙集理論數(shù)據(jù)預(yù)處理的支持向量機(jī)分類模型，首先通過租糙集理論進(jìn)行數(shù)據(jù)預(yù)處理，再通過支持向量機(jī)進(jìn)
4、行分類，有效地提高了支持向量機(jī)的分類效率和精度；同時(shí)建立了一種基于有效樣本和重要特征的支持向量機(jī)分類模型，通過租糙集理論選擇有效的訓(xùn)練樣本和重要的特征，可以有效地降低訓(xùn)練集的規(guī)模和噪音的干擾，提高分類精度．關(guān)鍵詞：粗糙集理論，支持向量機(jī)，特征選擇，屬性約減，錐規(guī)劃中國農(nóng)業(yè)大學(xué)博士論文AbstractFeatureSelectionisallimportant11eseal℃hconceptindatamining．ByfeatureSelection,itCalleffectivelyeliminatebothirrelevantandredundantinformat
5、ion,andreducethetrainingsamplesdimensionandcomplexityofalgorithmandescapethenoisedisturbance．Intheresult,thegeneralizationperformanceandclassificationprecisionofmodelwouldhavebeeneffectivelyimproved．Sofeatureselectionalwaysplaysanimportantroleinclassificationproblem．ResearchonfeatureSele
6、ctioninthispaperisbasedonRoughSetTheoryandSupportVectorMachine．RoughSetTheoryisaneffectivetoolindealingwithvaguenessanduncertaintyinformation．At盱ibutereductionisaveryimportantconceptinRoughSetTheory,theprocessoffindingasmallersetofattributesthanoriginal哪withthesaxneclassificationperforma
7、nceasoriginalsetsiscalledattributereduction．Themeaningaboutattributereductionismoreabundantthanthataboutfeatureselection．Thefeatureselectionperformancecanbemeasuredbytheclassificationaccuracy,andthenitisalsoveryimportanttoselecttheclassificationalgorithmwithgreaterclassif
