資源描述:
《基于蜜蜂算法的支持向量機(jī)特征選擇和參數(shù)優(yōu)化.pdf》由會員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、第l1期組合機(jī)床與自動化加工技術(shù)NO.112013年11月ModularMachineTool&AutomaticManufacturingTechniqueNOV.2013文章編號:lOOt一2265(2013)11—0041一o3基于蜜蜂算法的支持向量機(jī)特征選擇和參數(shù)優(yōu)化術(shù)陳淵,馬宏偉(西安科技大學(xué)a.理學(xué)院;b.機(jī)械工程學(xué)院,西安710054)摘要:針對支持向量機(jī)訓(xùn)練過程中特征選擇和參數(shù)優(yōu)化的問題,提出了一種基于蜜蜂算法的支持向量機(jī)特征選擇和參數(shù)優(yōu)化算法,并將其應(yīng)用于焊接缺陷的自動分類。該算法采用分類正確率作為適應(yīng)度,利用蜜蜂算法對支持向量機(jī)的模型參數(shù)進(jìn)行優(yōu)化,并同時
2、選擇最佳的特征子集。UCI標(biāo)準(zhǔn)數(shù)據(jù)集和焊接缺陷的分類實(shí)驗(yàn)結(jié)果表明,與常規(guī)支持向量機(jī)相比,蜜蜂算法優(yōu)化的支持向量機(jī)能夠克服局部最優(yōu)解,獲得了更高的分類正確率。因此,論文算法對于焊接缺陷的分類是有效可行的。關(guān)鍵詞:支持向量機(jī);蜜蜂算法;特征選擇;參數(shù)優(yōu)化中圖分類號:TH16;TG659文獻(xiàn)標(biāo)識碼:AFeatureSelectionandParameterOptimizationofSupportVectorMachineBasedontheBeesAlgorithmCHENYuan,MAHong.wei(a.CollegeofScience;b.CollegeofMechani
3、calEngineering,Xi’anUniversityofScienceandTechnolo—gy,Xi’an710054,China)Abstract:Aimingattheproblemoffeatureselectionandparameteroptimizationofsupportvectorma—chine(SVM)inthetrainingprocedure,anovelapproachbasedonthebeesalgorithm(BA)forfeatureselectionandparameteroptimizationofSVMispropose
4、dandappliedtoautomaticclassificationofweld—ingflaws.Inthismethod,theclassificationaccuracyratewastakenasthefitnessvalue,andBAwassimultaneouslyusedtooptimizetheSVMparameterswhilediscoveringtheoptimalsubsetoffeaturesTheexperimentalresultsforUCIstandarddatasetsandweldingflawdatasetshowthatcom
5、paredwithnormalSVM,theproposedapproachcanovercomethelocaloptimalsolutionproblem,andachieveshigherclas—sificationaccuracy.Therefore,theproposedapproachisvaluableforclassificationofweldingflaws.Keywords:supportvectormachine;thebeesalgorithm;featureselection;parameteroptimization過模擬自然界中蜜蜂的覓食行
6、為尋找問題的最優(yōu)0引言解。由于其原理簡單、并行性、魯棒性強(qiáng)且可避免陷支持向量機(jī)是在統(tǒng)計學(xué)習(xí)理論基礎(chǔ)上發(fā)展起來入局部最優(yōu),已經(jīng)成功應(yīng)用于函數(shù)優(yōu)化、模式識別等的一種新的機(jī)器學(xué)習(xí)方法,它基于結(jié)構(gòu)風(fēng)險最小化領(lǐng)域。因此,本文以采用RBF核函數(shù)的支持向量準(zhǔn)則,避免了局部最優(yōu)解,在解決小樣本、非線性及機(jī)為對象,提出基于蜜蜂算法的支持向量機(jī)特征選高維模式識別問題中表現(xiàn)出許多獨(dú)特的優(yōu)勢,因而擇和參數(shù)優(yōu)化算法,并利用UCI標(biāo)準(zhǔn)數(shù)據(jù)集和焊接在超聲檢測的缺陷分類方面得到了廣泛的應(yīng)用”。缺陷的分類實(shí)驗(yàn)驗(yàn)證其有效性。然而在實(shí)際應(yīng)用中,支持向量機(jī)模型參數(shù)(如懲罰因1支持向量機(jī)分類性能影響因素分析子C、核
7、函數(shù)參數(shù))對分類性能有著重要的影響。另一方面,特征選擇也是影響分類正確率的重要因素。支持向量機(jī)是一種適用于有限樣本情況下的模因此,如何通過優(yōu)化支持向量機(jī)參數(shù)和選擇特征子式分類方法,它根據(jù)有限的樣本信息在模型的復(fù)雜集以獲得最優(yōu)分類性能,是目前支持向量機(jī)分類問性和學(xué)習(xí)能力之間尋求最佳折中,以期獲得最好的題研究領(lǐng)域的一個熱點(diǎn)。泛化能力。它利用核函數(shù)通過非線性映射將輸入空蜜蜂算法(theBeesAlgorithm,BA)是Pham等間映射到一個高維特征空間,并在特征空間中構(gòu)造于2005年提出的一種新的群集智能搜索算法,它通