基于改進粒子群算法的最優(yōu)特征子集研究.pdf

《基于改進粒子群算法的最優(yōu)特征子集研究.pdf》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、64傳感器與微系統(tǒng)(TransducerandMicrosystemTechnologies)2010年第29卷第9期基于改進粒子群算法的最優(yōu)特征子集研究侯大軍，朱偉興(江蘇大學電氣信息工程學院。江蘇鎮(zhèn)江212003)摘要：特征選擇是模式識別系統(tǒng)的難點。針對高維數(shù)據(jù)對象，先運用改進粒子群優(yōu)化(PSO)算法快速、有效地從特征樣本中提取一組最優(yōu)特征子集，然后采用最小二乘支持向量機(LSSVM)分類器對最優(yōu)特征子集進行分類，驗證特征選擇的好壞。經(jīng)大量實驗驗證，在保證分類正確率的前提下，該方法有效提高了特征選擇效率。關(guān)鍵詞：特征選擇；粒子群優(yōu)化算法；最小二乘支持向量機中圖分類號：TP39

2、1．41文獻標識碼：A文章編號：1000-9787(2010)09-0064-03OptimizationofasubsetoffeaturesbasedonmodifiedparticleswarmoptimizationHOUDa-jun，ZHUWei—xing(SchoolofElectricalandInformationEngineering，JiangsuUniversity，Zhenjiang212003，China)Abstract：Featureselectionisaverydifficultproblemsformoderecognitionsystem．F

3、orhishdimensiondata，themodifiedparticleswarmoptimization(PSO)algorithmwaseffectivelyandquicklyappliedtothefeatureextractionoftheoptimumsamples．Theoptimumsampleswererecognizedbythesupportvectormachineclassifier，whichischeckedhowtousethefeatureselection．Experimentalresultsonthedatabaseshowthism

4、ethodcallguaranteethecorrectrateofclassificationandimprovetheefficiencyoffeatureselection．Keywords：featureselection；particleswarmoptimization(PSO)algorithm；leastsquaressupportvectormachine0引言(PSO)算法提取出一組最優(yōu)特征，進而驗證了此方法的可特征選擇是模式識別中的關(guān)鍵環(huán)節(jié)，特征選擇質(zhì)量的行性。好壞直接影響到識別的成敗，因此，受到科研人員的普遍重1特征選擇建模與分類視。特征選擇中的搜索問題是

5、一個NP難題。窮盡式搜索在實際問題中，一般情況下在進行特征提取時會存在由于其計算量過大，不可能得到廣泛應(yīng)用。1978年，Kittler一些無關(guān)或不重要的特征，這些預(yù)先并不知道。無關(guān)或不重要的特征有可能引入噪聲，甚至對識別的正確率有負面J提出“分支定界算法”，它是一種自上而下方法，但具有回的影響。更進～步說，少量的特征可以減少系統(tǒng)的花費。溯功能，可使所有的特征組合都被考慮到，這樣計算量還是因此，很有必要通過特征壓縮來尋找一組最佳特征子集。很大。此后出現(xiàn)的順序前進法(SFS)，順序后退法(SBS)以圖1為特征選擇建?？蚣?。及改進的廣義順序前進法(GSFS)，廣義順序后退法(GS—Bs

6、)等，這些啟發(fā)式搜索策略實際上屬于貪心類算法，搜索計算量較小，在原始特征之間相關(guān)性較小的情況下，這類算法能夠取得較好的效果。但存在明顯的缺點：特征一旦被加入或剔除，易出現(xiàn)搜索結(jié)果陷于局部最優(yōu)的“筑巢”現(xiàn)圖1特征選擇建?？蚣芟蟆榭朔@些缺陷，出現(xiàn)了增1減r法(PTA)，先順序加Fig1Modelingoffeatureselection入1個特征再依次剔除r個特征，但這種l和r很難確定。1．1改進的離散二進制PSO算法KudoM等人提出了比啟發(fā)式搜索更有優(yōu)勢的隨機搜索1．1．1離散二進制PSO算法基本原理與改進算法策略，如遺傳算法]，但出現(xiàn)早收斂、在進化后期搜索效率基本PSO算法

7、是用于實值連續(xù)空間，然而，特征選低的問題。鑒于以上情況，本文采用改進粒子群優(yōu)化擇是組合優(yōu)化問題，因而采用離散形式的PSO算法】。收稿日期：2009-10-29第9期侯大軍，等：基于改進粒子群算法的最優(yōu)特征子集研究根據(jù)下面2個公式來更新粒子的速度和位置為一個種群，其中，第i個微粒表示為一個．，維的向量=(k+1)=刪()+clr1(k)(pBest()())十[，?，r，i=1，2，?，m。如果的第位為1，則此c2r2(k)(gst，(k)一(k))，(1)特征被選中；否則，沒有被