決策樹(shù)算法的研究及應(yīng)用

《決策樹(shù)算法的研究及應(yīng)用》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。

1、東華大學(xué)碩士學(xué)位論文決策樹(shù)算法的研究及應(yīng)用姓名：王斌申請(qǐng)學(xué)位級(jí)別：碩士專業(yè)：計(jì)算機(jī)軟件與理論指導(dǎo)教師：丁祥武20080101決策樹(shù)算法的研究與應(yīng)用決策樹(shù)算法的研究及應(yīng)用摘要數(shù)據(jù)挖掘是致力于數(shù)據(jù)分析和理解、揭示數(shù)據(jù)內(nèi)部隱藏知識(shí)的技術(shù)，它成為當(dāng)今信息技術(shù)應(yīng)用的重要目標(biāo)之一。分類是數(shù)據(jù)挖掘中的一個(gè)重要研究?jī)?nèi)容，而決策樹(shù)分類是一種非常有效的分類方法。迄今為止，人們提出了很多種不同的決策樹(shù)分類算法，各種算法在執(zhí)行速度、可擴(kuò)展性、輸出結(jié)果的可理解性，分類的準(zhǔn)確性等方面各有千秋。但它們?cè)诶碚摵蛯?shí)現(xiàn)方法上仍有不足之處。對(duì)決策樹(shù)算法的進(jìn)一步優(yōu)化研究不僅有助于算法理論的完善，也有助于算法的推廣和應(yīng)

2、用。ID3算法作為一種流行的決策樹(shù)算法，因?yàn)槠渌惴ê?jiǎn)單、易實(shí)現(xiàn)而被廣泛使用。但其生成的樹(shù)結(jié)構(gòu)往往過(guò)于龐大、復(fù)雜，也影響了算法效率。為了優(yōu)化樹(shù)的結(jié)構(gòu)，提高樹(shù)生成的效率，避免“過(guò)擬合”效應(yīng)，本文對(duì)ID3算法進(jìn)行了改進(jìn)。改進(jìn)算法充分考慮到每個(gè)決策屬性分類后的效果，即，在分類效果達(dá)到某個(gè)預(yù)定的閾值時(shí)則停止繼續(xù)分類，并引入了最大支持度的概念，采用了前剪枝策略。實(shí)驗(yàn)結(jié)果顯示，改進(jìn)算法能夠使生成的決策樹(shù)在保證精度的基礎(chǔ)上更加精簡(jiǎn)。文章重點(diǎn)介紹了針對(duì)決策樹(shù)ID3算法的改進(jìn)，并通過(guò)實(shí)驗(yàn)對(duì)算法的效果進(jìn)行了驗(yàn)證。接下來(lái)，以校園一卡通數(shù)據(jù)的數(shù)據(jù)挖掘?yàn)轫?xiàng)目背景，就備餐問(wèn)題對(duì)數(shù)據(jù)樣本進(jìn)行了挖掘。對(duì)餐飲數(shù)據(jù)

3、的挖掘分為兩個(gè)階段，第一階段利用SQL語(yǔ)句對(duì)一卡通數(shù)據(jù)進(jìn)行了預(yù)處理，利用SPSS工具對(duì)就餐時(shí)間進(jìn)行聚類，將聚類結(jié)果作為第二階段挖掘即分類的輸入之一，第二階段的分類算法使用了改進(jìn)ID3算法，取得了較好的效果。決策樹(shù)算法的研究與應(yīng)用關(guān)鍵字：數(shù)據(jù)挖掘，分類，決策樹(shù)，ID3算法，校園一卡通決策樹(shù)算法的研究與應(yīng)用RESEARCHONDECISl0NTREEANDITSAPPLICATIONABSTRAcTDataMining(DM)isatechniquethataimstoanalyzeandunderstandlargesourcedataandrevealknowledgehidd

4、eninthedata．Classificationisanimportanttechnologyindatamining，whileDecisiontreeclassificationisaveryeffectiveclassificationmethod．Sofar,peopleputforwardmanykindsofdecisiontreeclassificationalgorithms．Eachhasitsstrongpointonexecutingrate，expansibility,intelligibilityofoutputandaccuracyofclass

5、ification．However,thesealgorithmsstillhavesomeshortages．Furtheroptimizingdecisiontreealgorithmwillnotonlyhelptoperfectitstheory,butalsoitspopularizationandapplication．AsapopularalgorithmofDecisiontree，ID3iswidelyusedbecauseofitssimpleideaandfacilerealization．However,thestructureofthetreeprod

6、ucedbythisalgorithmisusuallytoolargeandcomplex，thustheperformanceofthealgorithmisrestricted．Inordertoenhancetheefficiencyofthetree-producingprocessandavoid“overfitting",weimprovedID3algorithm．Theimprovedalgorithmtakestheclassificationeffectofeachclassifyingattributeintoaccount，thatis，ifthecl

7、assificationeffectreachacertainlevel，theprocessofclassificationofthatbranchwillbeterminated，andproposesanimprovedalgorithmbyusingthemaximumclasssupportandadoptingpre—pruningstrategy．TheexperimentresultsshowthatV決策樹(shù)算法的研究與應(yīng)用theimprovedalgorithmcanmak