資源描述:
《基于決策樹的數(shù)據(jù)挖掘算法研究與應(yīng)用》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、基于決策樹的數(shù)據(jù)挖掘算法研究與應(yīng)用數(shù)據(jù)挖掘是指從數(shù)據(jù)庫中抽取隱含的、具有潛在使用價值信息的過程,是一種新型的數(shù)據(jù)分析技術(shù),已經(jīng)被廣泛應(yīng)用于金融、保險、政府、教育、運輸以及國防等領(lǐng)域。數(shù)據(jù)分類是數(shù)據(jù)挖掘中一個重要的內(nèi)容。分類存在很多方法,常見的分類模型有決策樹、神經(jīng)網(wǎng)絡(luò)、遺傳算法、粗糙集、統(tǒng)計模型等。其中決策樹算法是以實例為基礎(chǔ)的歸納學(xué)習(xí)算法,以其易于提取顯示規(guī)則、計算量相對較小、可以顯示重要決策屬性和較高的分類準(zhǔn)確率等優(yōu)點而得到廣泛的應(yīng)用。據(jù)統(tǒng)計,目前決策樹算法是利用最廣泛的數(shù)據(jù)挖掘算法之一。然而在實際的應(yīng)用過程中,
2、現(xiàn)存的決策樹算法也存在很多不足之處,如計算效率低下、多值偏向等。因此,進(jìn)一步改進(jìn)決策樹,提高決策樹的性能,使其更加適合數(shù)據(jù)挖掘技術(shù)的應(yīng)用要求具有重要的理論和現(xiàn)實意義。本文針對上述數(shù)據(jù)庫知識發(fā)現(xiàn)的不足,進(jìn)行深入的研究,探索數(shù)據(jù)挖掘中決策樹分類的優(yōu)化算法,以便更好地提高分類的準(zhǔn)確性,更好地應(yīng)用于實際工作中。本文主要的研究工作如下:第一,從宏觀上介紹了數(shù)據(jù)挖掘和分類技術(shù)的理論基礎(chǔ),并重點對幾種常見決策樹算法進(jìn)行了分析和比較,例如ID3、C4.5、CART算法。第二,詳細(xì)地分析了利用決策樹方法對數(shù)據(jù)進(jìn)行分類挖掘時常見的幾個問
3、題:屬性值空缺、連續(xù)屬性的處理、過度擬合數(shù)據(jù)等。這些問題都會導(dǎo)致決策樹的分類精度下降,因此在構(gòu)建決策樹時必須選擇合理的策略,提高決策樹的分類精度。第三,本文對決策樹算法進(jìn)行了優(yōu)化研究,對屬性值空缺、屬性選擇多值化、屬性選擇標(biāo)準(zhǔn)等問題提出了具體的解決辦法。本文還提出了加權(quán)簡化熵的概念,并對ID3算法進(jìn)行了改進(jìn),經(jīng)過比較,改進(jìn)算法在總體性能上優(yōu)于目前廣泛應(yīng)用的ID3算法。第四,利用新的決策樹算法在一個棉紡廠的設(shè)備管理系統(tǒng)中進(jìn)行數(shù)據(jù)挖掘,為廠家的決策支持提供了科學(xué)、準(zhǔn)確的根據(jù)。關(guān)鍵字:數(shù)據(jù)挖掘,決策樹,ID3算法,過度擬合
4、,加權(quán)簡化熵AbstractDataMiningmeanstheprocessofextractingcrypticandpotentialhelpfiilinformationfromamassofData.ItisonekindofbrandnewDataanalysistechnologyandpopularinthefieldofbankingfinance,insurance,government,education,transportationandnationaldefenseetc.Dataclass
5、ificationisoneofimportantcontentsinDataMining.TherearemanymethodsforDataclassification,suchasdecisiontreeinduction,associationrale,classificationtechnique,BayesianclassificationandBayesianbeliefnetworks,geneticalgorithms,neuralnetworks,roughsets,andsoon.TheDeci
6、sionTreeclassificationalgorithmbasesontheinstancesamongsttheseiswidelyusedwithitsadvantagesofconvenienceforgettingapparentrules,smallercalculationworkload,showingimportantdecisioncharacteristics,higherclassificationcorrectnessetc.DecisionTreealgorithmiscurrentl
7、yoneofthemostpopularinDataMiningalgorithmsaccordingtorelatedstatistics.Therearesomeissuesinthemostexistentdecisiontreealgorithms,whileappliedtotherealitytasks,namelymulti-valuebias,lowerefficientlyincomputationetc.Therefore,itpossessesimportanttheoreticandfactu
8、alsignificancetomakefurtherimprovementandraisetheperformancefordecisiontree,soastomakedecisiontreemoresuitablefortherequirementofthefactualapplicationThisarticledeeplymakesr