資源描述:
《文本聚類的研究》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在工程資料-天天文庫。
1、上海交通大學(xué)碩士學(xué)位論文文本聚類的研究姓名:林建敏申請學(xué)位級別:碩士專業(yè):計算機應(yīng)用指導(dǎo)教師:謝康林20031201文本聚類的研究隨著計算機網(wǎng)絡(luò)的不斷發(fā)展網(wǎng)絡(luò)數(shù)據(jù)的規(guī)模呈指數(shù)級增長用戶很難在眾多的數(shù)據(jù)中找到自己真正所需要的東西因為大部分數(shù)據(jù)都是以文本形式出現(xiàn)的因此通過文本挖掘快速準確地檢索信息和分類信息成為人們?nèi)找嫫惹械乃G笪谋就诰蚓哂袕V泛的前景和應(yīng)用價值本文主要對文本挖掘中的聚類進行了研究本文研究工作主要集中在以下幾點1)分析了文本預(yù)處理過程中特征項粒度的選擇問題以及不同特征選擇方法的性能結(jié)合所介紹的方法對真實語料庫進行了預(yù)處理2)闡述了常用的二種文本表示模型并提岀將潛在
2、語義索引(LSI)應(yīng)用到向量空間模型中以減少特征集空間同時研究了特征項的權(quán)重計算方法并利用信息爛和特征項長度等信息對經(jīng)典的tf*idf權(quán)重計算公式進行了改進3)簡單介紹了幾種常用的文本分類/聚類算法以及聚類有效性評價指數(shù)在KMeans算法的基礎(chǔ)上驗證了改進后的權(quán)重計算方法對在提高聚類有效性上的作用4)以模糊集合為理論基礎(chǔ)采用模糊C—均值聚類算法對文本進行聚類在實驗中發(fā)現(xiàn)了FCM算法的若干缺陷并對它們進行了改進討論了不同的參數(shù)組合對FCM聚類結(jié)果的影響最后提出將聚類模糊期望值(cFEV)概念應(yīng)用到FCM算法中有關(guān)聚類中心的計算上提高了FCM聚類的有效性關(guān)鍵詞文本挖掘,文本聚類
3、,模糊C—均值聚類,聚類模糊期望值(CFEV)RESEARCHONTEXTCLUSTERINGABSTRACTThedataontheWebgrowexponentlywithfastdevelopmentofInternet.Itnowbecomesverydifficultforpeopletofindwhattheyreallywant.Forthereasonthatmostofthesedataareintheformoftext,itisanurgentneedtoretrieveandclassifyinformationswiftlyandaccuratel
4、ythroughtextmining,whichhasanextensiveprospectandapplicationvalue?Thisthesisfocusesontheresearchoftextclustering,whichisabranchoftextmining.Ourresearchmainlyfocusesonthefollowingparts:1.Analyzetheselectionoftermgranularityintheprocessoftextpre-treatmentandtheperformanceofdifferenttermselec
5、tionmethods.Onthebasisoftheoriesintroduced,wehavefinishedthepre-treatmentofrealcorpus?2.TwocommontextmodelsarepresentedandLatentSemanticIndexhasbeenproposedtodecreasethetermnumber.Atthesametime,methodstocomputetheweightoftermhavebeendiscussedandanewmethodhasbeenproposedbyaddingInformationG
6、ainandtermlengthfactorstothetypicaltf*idfmethod?3.Makeabriefpresentationofsometypicalalgorithmsoftextclassificationandclustering;VerifythevalidityofmodifiedweightcomputingmethodinclusteringbyusingK-Meansalgorithm.4.BasedonthetheoryofFuzzySet,wehaveadoptedfuzzyc-means(FCM)algorithmincluster
7、ingexperiment.Differentcombinationsofparameterswillresultindistinctclusteringresults.AneffectivecentercomputingmethodbasedonClusteringFuzzyExpectedValueispresentedatthelastpartofthisthesis?Keywords:textmining,textclustering,fuzzyc-meansclustering,clusteringfuz