資源描述:
《基于網頁結構的web數據抽取方法研究》由會員上傳分享,免費在線閱讀,更多相關內容在學術論文-天天文庫。
1、武漢科技大學碩士學位論文基于網頁結構的Web數據抽取方法研究姓名:朱漢超申請學位級別:碩士專業(yè):計算機應用技術指導教師:張曉龍20090420武漢科技大學碩士學位論文第1頁摘要隨著互聯(lián)網的飛速發(fā)展,目前Web上的數據泛濫,在海量的數據中人們無法快速準確地找到需要的數據,如何快速準確地得到這些數據是亟待解決的問題。Web數據抽取技術已成為當今研究的一個熱點。利用Web數據抽取技術,通過對特定網站或網頁中數據的結構進行分析,設定特定的抽取規(guī)則,可以將感興趣的信息從中抽取出來,并保存到數據庫或其他格式文
2、件中,以供SQL或XML查詢語言查詢,或者供其他應用程序使用。論文從研究Web數據抽取基礎開始,建立了Web數據抽取模型。首先采用Java語言設計了一個原型系統(tǒng),使用基于HTML的方法進行了抽取,由于不涉及HTML文檔的層次結構,該系統(tǒng)在抽取結果上不是很符合需求;然后通過分析HTML層次結構,利用基于XML的技術,使用XSLT文件映射的方法,可以產生針對特定網頁格式良好的抽取結果,但該方法的通用性不是很好,對網頁的結構的要求也比較嚴格;最后本文提出了一種針對特定內容的Web數據抽取方法,將半自動產
3、生的XSLT中間表示文件與DOM相結合實現(xiàn)對相似內容的XML文件進行映射抽取。該方法在一定程度上滿足了通用性,并以針對特定內容(新聞網)為例進行了分析,實驗結果表明該方法具有一定的可行性。關鍵詞:Web數據抽取;HTML層次結構;XSLT:DOMAbstractAstherapiddevelopmentofIntemet,thedataonthewebspreadwithoutrestriction,onecan’tfindtherequireddataquicklyandaccuratelyfr
4、ommasswebdata,howtoquicklyandaccuratelyobtainthesedataisaurgentproblemneedtoresolve.Webdataextractiontechnologyhasbecomeahotresearch.ThroughanalyzingthestructureofthedatawhichWasgotfromaparticularwebsiteorwebpage,settingparticularextractedrules,wecall
5、extractinterestinginformation,andsaveintodatabaseorotherformattedfilesforSQLorXMLquerylanguagetoquery,orprovidingforotherapplications.ThisthesisintroducestheWebdataextractionresearchandtheWebdataextractionmodel.AprototypesystemwasdesignedwithJavaandus
6、edtodoextractiondatabasedonHTML.SincenotreferringtothearrangementstructureofHTMLdocuments,thesystemcan’tmeettheextractionrequirement.ThroughanalyzingthearrangementstructureofHTML,amethodthatusingXSLTfilestomapcouldmakewell.formedresultforspecialwebpag
7、es.Butthecommonalityofthemethodisn’tSOgood,andrequiresthestructureofwebpagesstrictly.Finally,thisthesisproposesamethodofWebdataextractionforspecialcontent,usesparsingalgorithmcombinedwithDOMtoselectspecialnodesandmappingwithXSLTfiles.Toacertainextentt
8、hemethodmeetsthecommonality,andmakesanalyzingforspecialcontent(NewsWeb),theexperimentalresultsshowthatthemethodisfeasibleinacertaindegree.Key-words:WebDataExtraction,ArrangementStructureofHTML,XSLT,DOM武漢科技大學研究生學位論文創(chuàng)新性聲明本人鄭重聲明:所呈交的學位論文是本人在導師指導下