資源描述:
《Web頁面用戶評論信息抽取技術(shù)研究.pdf》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在工程資料-天天文庫。
1、ADissertationSubmittedtoZhejiangUniVersityfortheDegreeofMasterofEngineering’-,’-,⑧TITLE:一S地盤Q旦地魚墮墮叢iQ衛(wèi)星圣堡壘墮iQ墜熏魚堡h里Q!QgY量里盟魚壘衛(wèi)壘g曼墨Q蘭!曼Y重星盟Author:SuperVisor:Subject:College:YinJianweiSubmittedDate:Jan5m.2011浙江大學(xué)碩}:學(xué)位論文{嗍《llllIlllIIllllImllIIlm洲曠_Y1853223摘要Wreb頁面上用戶的商品評論信息已成為影
2、響電子商務(wù)消費者進行購買決策時的關(guān)鍵因素之一。近年來隨著電子商務(wù)的發(fā)展,關(guān)于商品的評論信息呈指數(shù)級增長,從而導(dǎo)致潛在用戶難以在這些大量信息中尋找到有參考的評論信息,大大減低了評論信息的應(yīng)用范圍。論文將通過對web頁面評論信息現(xiàn)有系統(tǒng)結(jié)構(gòu)和抽取算法的分析,結(jié)合信息抽取課題,研究如何在大規(guī)模、Ⅳeb頁面評論信息下確保抽取的高準(zhǔn)確性和高效性。論文在分析典型、wb頁面信息抽取系統(tǒng)和算法的基礎(chǔ)上,根據(jù)現(xiàn)有系統(tǒng)的優(yōu)缺點和抽取算法的不足,提出了基于樹權(quán)值的信息抽取算法,該算法通過對抓取到的、Ⅳeb頁面轉(zhuǎn)化為標(biāo)簽樹結(jié)構(gòu),將標(biāo)簽樹進行噪音去除等預(yù)處理后,自底而上
3、的為每個樹節(jié)點賦上權(quán)值,使得不同層次不同標(biāo)簽的節(jié)點具有不同的權(quán)值,然后根據(jù)相似樹和位置連續(xù)性來識別出數(shù)據(jù)記錄區(qū)域,包含數(shù)據(jù)記錄的標(biāo)簽樹集進行樹對準(zhǔn)操作后生成基準(zhǔn)樹作為抽取模板,最后根據(jù)抽取模板對數(shù)據(jù)記錄進行對準(zhǔn)和抽取。該算法具有很強的自適應(yīng)性,能根據(jù)不同評論信息的結(jié)構(gòu)產(chǎn)生不同的抽取模板,同時不需要過多的人為干預(yù),抽取結(jié)果顯示該算法在抽取上有較好的效果。基于這個算法,論文設(shè)計了一個將單個web頁面轉(zhuǎn)化為標(biāo)簽樹,從標(biāo)簽樹中識別出數(shù)據(jù)記錄區(qū)域,然后將數(shù)據(jù)記錄對準(zhǔn)后產(chǎn)生模板,最后將屬性標(biāo)注過的模板從一系列web頁面中抽取信息的系統(tǒng)。對實現(xiàn)這個算法的系統(tǒng)
4、與其他算法的系統(tǒng)進行了實驗對比,結(jié)果表明該系統(tǒng)在無需人為過多的干預(yù),具有高度自動化的同時,也具有較高的準(zhǔn)確性,同時在運行時間上遠遠優(yōu)于其他系統(tǒng)。關(guān)鍵詞:用戶評論信息,權(quán)值,標(biāo)簽樹,信息抽取W曲pagesofproduct’sreViewshaVebecomeakeyfIactorine—commerce’scons啪erdecidingt0purchaSeaproduct.WiththedeVelopmentofe·commerceinrecentyears,la唱elyincreaSingreViewsoftheprodudresulting
5、證ala瑪emlmberofpotentialusersisdi銜cuhtofinduse如linfomationinthereviews,soreViews伊eatlyreducedthescopeof印plication.PaperwillaIlalyzetlleexiStingsystemarchitecnlreandaJgorit№softhewebpageextraction,combinedwiminf.0mationextraction,studyhowt0keephigllaccuracyandemciencyofextract
6、ioninlarge-scalewebpagesofr.eviews.Paperwillanalyzethe夠picalinfonnationextractionsystemandthealgorithllfindmeadv鋤tagesanddisadvantagesofPxistingsystemsaIldextractionalgorit
7、lIIls,proposesawei曲t-baSedinfbmationeXtractionalgorithm.ThealgorithmchaIlgescrawledwebpageintoatagtree
8、蛐mc眥,dosomepreprocessingtometag仃.eesuchastherloiseremovalaIldsoon,部signedthe、wightforeachnodeofthetreef幻mbottomtoup,makingnodeswimdi仃erentlabelsindi俄relltleVelshasdi虢rent、Ⅳeights,menidenti匆dataregionsthrou曲thesimilartree鋤dthecontinualposition,thesetoftag—treeWhichcontainsdat
9、arecordaligIledandgeneratedabasetreeasatemplateofex仃action,finallyalldatare