資源描述:
《基于半監(jiān)督學(xué)習(xí)的數(shù)據(jù)流分類算法》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)。
1、基于半監(jiān)督學(xué)習(xí)的數(shù)據(jù)流分類方法黃樹成1,2朱宇光2董逸生11(東南大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院,南京210096)2(常州工學(xué)院計(jì)算機(jī)科學(xué)與工程系,江蘇常州213006)(schuang6@sohu.com)摘要在數(shù)據(jù)流上建立有效的分類模型具有許多應(yīng)用。流數(shù)據(jù)的動(dòng)態(tài)性給業(yè)界提出了兩個(gè)關(guān)鍵問題:如何監(jiān)測(cè)數(shù)據(jù)流的變化;一旦發(fā)生顯著變化,如何高效地組織足夠的訓(xùn)練數(shù)據(jù),調(diào)整無效的模型。本文提出了一個(gè)基于半監(jiān)督學(xué)習(xí)的分類算法,較好地解決了這些問題。設(shè)計(jì)了一種識(shí)別顯著變化的可靠方法;提出了一個(gè)基于Na?veBayes的EM算法,利用較少的類標(biāo)數(shù)據(jù)來擴(kuò)大訓(xùn)練數(shù)
2、據(jù)集,從而極大地降低類標(biāo)數(shù)據(jù)的需求量。基于新的訓(xùn)練數(shù)據(jù)可以構(gòu)建一個(gè)有效的分類器。實(shí)驗(yàn)結(jié)果證明了算法的優(yōu)勢(shì)。關(guān)鍵詞數(shù)據(jù)流分類;顯著變化;類標(biāo)數(shù)據(jù);半監(jiān)督學(xué)習(xí);基于Na?veBayes的EM算法。中圖法分類號(hào)TP311.13Semi-supervisedLearningBasedApproachforClassifyingDataStreamsHuangShucheng1,2DonyYisheng11(SchoolofComputerScienceandEngineering,SoutheastUniversity,Nanjing,210096)
3、2(DepartmentofComputerScienceandEngineering,ChangzhouInstituteofTechnology,JiangsuChangzhou,213006)AbstractMiningondatastreamsandconstructingaclassificationmodelhasfoundmanyapplications.Thedynamicnatureofstreamingdataposestwokeyissuesfacingassociatedcommunities:oneishowtomo
4、nitorthepotentialchangesoccurringindatastreams,andtheotherishowtocollectsufficientlabeleddatatoadjusttheoutdatedmodelforadaptingtosignificantchanges.Inthispaper,asemi-supervisedlearningbasedalgorithmisproposedtoattacktheseproblems.Wedeviseareliablemethodformonitoranddifferi
5、ngsignificantchangesfromnoisychanges.Wheneverthesignificantchangespresent,anEMwithna?veBayesalgorithmisemployedtoaugmentcurrentlyinsufficientlabeleddataintoasufficienttrainingdataset.Sotheneedforlabeleddataissharplyreduced,andaneffectiveclassifiercanbegeneratedbasedonthenew
6、trainingdata.Experimentresultsconfirmtheadvantagesofthealgorithm.KeywordsDataStreamsClassification;SignificantChanges;LabeledData;Semi-supervisedLearning;EMwithNa?veBayesAlgorithm.1.引言數(shù)據(jù)流挖掘是一個(gè)研究熱點(diǎn)[1]。數(shù)據(jù)流的動(dòng)態(tài)性給數(shù)據(jù)流分類提出了極大的挑戰(zhàn),關(guān)鍵是如何監(jiān)測(cè)潛在的變化和組織新的訓(xùn)練數(shù)據(jù)響應(yīng)數(shù)據(jù)流發(fā)生的變化。許多數(shù)據(jù)流分類方法,比如[2,3,4],
7、假設(shè)類標(biāo)數(shù)據(jù)容易獲得且隨時(shí)可以挖掘。但在實(shí)際應(yīng)用中,數(shù)據(jù)的類標(biāo)很難及時(shí)得到。WeiF.等人在[5,6]中提出主動(dòng)挖掘的思想,但檢測(cè)變化的方法缺乏可靠性,而且模型的更新依賴于類標(biāo)數(shù)據(jù)的數(shù)量。我們提出了一種識(shí)別變化的方法和一種基于Na?veBayes的EM算法,可以降低更新分類模型對(duì)類標(biāo)數(shù)據(jù)的需求量。實(shí)驗(yàn)證明了算法的優(yōu)點(diǎn)。2.數(shù)據(jù)流變化的監(jiān)測(cè)和識(shí)別2.1顯著變化和噪聲變化假設(shè)一個(gè)由兩類:“+”和“-”數(shù)據(jù)組成的數(shù)據(jù)流,如圖1,按時(shí)間順序?qū)⑺殖扇舾蓴?shù)據(jù)塊,當(dāng)前正處于時(shí)刻,的分類模型為一個(gè)決策樹,如圖2所示。為了簡(jiǎn)單起見,圖中僅給出四個(gè)葉子節(jié)點(diǎn)。每
8、個(gè)葉子節(jié)點(diǎn)包含相應(yīng)的分類信息,比如表示第二個(gè)葉子節(jié)點(diǎn)將所有到達(dá)它的個(gè)對(duì)象以概率的準(zhǔn)確率分成“-”類,。對(duì)整個(gè)的平均分類錯(cuò)誤率可計(jì)算為:。對(duì)于數(shù)據(jù)塊來說,為性能最優(yōu)的