資源描述:
《基于dom樹deep+web實(shí)體抽取的研究和實(shí)現(xiàn)》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、藝.-己(,■i’,.,文!
2、
3、,移一‘{『.誓.一。.。一。%一。,,I■■_■●,■●●J■■,●■qlj-_-,’廣、,‘tjt}8,}AThesisfortheDegreeofMasterin.C———o—mputerTechnolo凹.ResearchandImplementationofDOM--TreebasedEntityExtractionforDeepWebbyLiDongSupervisor:ProfessorShenDerongNortheasternUniversityJtme2008M8刪3舢7㈣躬舢8胛1●胛Y,}t,’S
4、oS5●,,7,,‘,●,}‘—●’獨(dú)創(chuàng)性聲明‘一’。本人聲明,所呈交的學(xué)位論文是在導(dǎo)師的指導(dǎo)下完成的。論文中取得的研究成果除加以標(biāo)注和致謝的地方外,不包含其他人己經(jīng)發(fā)表或撰寫過的研究成果,也不包括本人為獲得其他學(xué)位而使用過的材料。與我一同工作的同志對(duì)本研究所做的任何貢獻(xiàn)均己在論文中作了明確的說明并表示謝:巴懇。學(xué)位論文作者簽名:李參日期:訓(xùn)g、“形,琶乎論文版權(quán)使用授權(quán)書本學(xué)位論文作者和指導(dǎo)教師完全了解東北大學(xué)有關(guān)保留、使用學(xué)位論文的規(guī)定:即學(xué)校有權(quán)保留并向國家有關(guān)部門或機(jī)構(gòu)送交論文的復(fù)印件和磁盤,允許論文被查閱和借閱。本人同意東北大學(xué)可以將學(xué)位論文
5、的全部或部分內(nèi)容編入有關(guān)數(shù)據(jù)庫進(jìn)行檢索、交流。作者和導(dǎo)師同意網(wǎng)上交流的時(shí)間為作者獲得學(xué)位后:半年口一年d一年半口兩年口學(xué)位論文作者簽名:薦≮簽字日期:M8、6、髟導(dǎo)師簽名:q膨享簽字日期:≯伸擴(kuò).∥,4一I一鎊k‘、\‘一‘lV●東北大學(xué)碩士學(xué)位論文摘要基于DOM樹的DeepWeb實(shí)體抽取的研究與實(shí)現(xiàn)摘要隨著Intemet的廣泛應(yīng)用,Web上的資源信息呈爆炸性增長(zhǎng)。其中,DeepWeb是指那些存儲(chǔ)在Web數(shù)據(jù)庫里、不能通過超鏈接訪問而需要通過動(dòng)態(tài)網(wǎng)頁技術(shù)訪問的資源集合。一些統(tǒng)計(jì)數(shù)據(jù)表明:DeepWeb蘊(yùn)含的信息量、對(duì)Deepweb的訪問量、增長(zhǎng)速度等都
6、遠(yuǎn)遠(yuǎn)高于SurfaceWeb。因此,隨著Web數(shù)據(jù)庫的不斷增長(zhǎng),通過對(duì)DeepWeb的訪問逐漸成為獲取信息的主要手段。DeepWeb返回的查詢結(jié)果主要是通過HTML頁面來展現(xiàn)的,其內(nèi)容多樣、形式各異,這就造成了結(jié)果數(shù)據(jù)的異構(gòu)性和缺乏結(jié)構(gòu)性,使得自動(dòng)從中獲取有價(jià)值的信息變成一件具有挑戰(zhàn)性的任務(wù)。因此,如何有效抽取DeepWeb中的數(shù)據(jù)資源成為一個(gè)值得研究的問題,其目標(biāo)是將查詢獲取的結(jié)果響應(yīng)頁面中所包含的實(shí)體信息正確而有效地抽取出來,并以結(jié)構(gòu)化的形式進(jìn)行表示。本文通過分析DeepWeb結(jié)果頁面的特點(diǎn),提出了一種基于DOM樹的DeepWeb實(shí)體抽取機(jī)制(D.
7、EEM,DOM—treebasedDeepWebEntityExtractionMechanism),能夠有效解決DeepWeb環(huán)境中的實(shí)體抽取問題。論文的主要內(nèi)容包括如下幾個(gè)方面:(1)結(jié)合手動(dòng)實(shí)體抽取和自動(dòng)實(shí)體抽取的應(yīng)用需求,提出了D—EEM的層次模型,自底向上將D.EEM劃分為信息采集層、實(shí)體抽取層和外部表示層,能夠有效解決DeepWeb實(shí)體抽取中區(qū)域定位、規(guī)則生成及語義標(biāo)注等問題。(2)提出了基于DOM樹的自動(dòng)實(shí)體抽取策略,利用DOM樹中的文本內(nèi)容和層次結(jié)構(gòu)來確定數(shù)據(jù)區(qū)域和實(shí)體區(qū)域,提高了實(shí)體抽取的準(zhǔn)確性;另外,提出了一種基于上下文距離和共現(xiàn)次
8、數(shù)的語義標(biāo)注方法,從而建立抽取結(jié)果與全局模式的映射關(guān)系,有效地將來自不同數(shù)據(jù)源的抽取結(jié)果進(jìn)行合成。(3)設(shè)計(jì)并實(shí)現(xiàn)了D.EEM的原型系統(tǒng),一方面為用戶提供了一個(gè)交互式的編輯環(huán)境,友好的幫助用戶完成抽取模板的手動(dòng)設(shè)置;另一方面實(shí)現(xiàn)了基于DOM樹的自動(dòng)實(shí)體抽取策略,經(jīng)過網(wǎng)頁預(yù)處理、數(shù)據(jù)區(qū)域定位、實(shí)體區(qū)域定位、抽取規(guī)則生成及語義標(biāo)注等過程,最終將網(wǎng)頁上的有用數(shù)據(jù)以結(jié)構(gòu)化的形式存儲(chǔ)。(4)通過實(shí)驗(yàn)驗(yàn)證了D.EEM中所采用的關(guān)鍵技術(shù)的可行性和有效性,同其它實(shí)體抽取策略相比,D.EEM在功能完善性、抽取準(zhǔn)確性及抽取效率等方面具有一定的優(yōu)勢(shì)。關(guān)鍵詞:實(shí)體抽??;DOM
9、樹;DeepWeb;數(shù)據(jù)區(qū)域定位;實(shí)體區(qū)域定位.II-‘●ResearchandImplementationofDOM-TreebasedEntityExtractionforDeepWebAbstractThewidespreadoftheInteracthascausedexponentialincreaseintheamountofsearchableinformationontheWeb.DeepWebusuallyreferstothepartwhoseinformationisstoredinWebdatabasesandcannotber
10、etrievedbyhyperlinkbutbysomedynamicpagestechniq