資源描述:
《貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)研究-論文.pdf》由會員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、第22卷第17期電子設(shè)計工程2014年9月VoI.22No.17ElectronicDesignEngineeringSep.2014貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)研究殷陶(上海交通大學(xué)計算機(jī)系,上海200240)摘要:針對貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法難以兼顧高準(zhǔn)確率和高效率的問題,提出了一種基于MarkovChainMonteCarlo(MCMC)~-法的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法的改進(jìn)。改進(jìn)包括:使用依賴關(guān)系分析,利用統(tǒng)計學(xué)的方法對采樣空間進(jìn)行大幅縮減,能夠在精確控制準(zhǔn)確度的情況下大幅提高時間效率;結(jié)合先驗知識,從理論角度將先驗知識融
2、入評分中得到完全服從后驗分布的結(jié)果;搜索最優(yōu)子結(jié)構(gòu),對于特定的一些結(jié)構(gòu)搜索最優(yōu)子結(jié)構(gòu)而不是采用貪心的方法,提高了貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)的準(zhǔn)確率。通過理論分析可以證明時間復(fù)雜度得到了大幅的降低。并且可以在犧牲可預(yù)知的準(zhǔn)確率的情況下,將指數(shù)時間復(fù)雜度降為線性時間。大量的數(shù)據(jù)實驗表明,經(jīng)改進(jìn)后的方法在時間和準(zhǔn)確性上都具有良好的表現(xiàn)。關(guān)鍵詞:貝葉斯網(wǎng)絡(luò)學(xué)習(xí);時間效率;獨立性檢測;最優(yōu)子結(jié)構(gòu);先驗知~.;MarkovChainMonteCarlo(MCMC)中圖分類號:TP3l1文獻(xiàn)標(biāo)識碼:A文章編號:1674—6236(2014
3、)17—005—04BayesiannetworkstructurelearningmethodstudyYINTao(DepartmentofComputerScienceandEngineering,ShanghaiJiaotongUniversity,Shanghai200240,China)Abstract:ForthedificultiesoflearningthestructureofBayesiannetworkbothhishaccuracyandhisheficiency,weproposedana
4、daptivemethodbasedonMarkovChainMonteCarlo(MCMC)method.ImprovementsincludeDependencyanalysis;usingstatisticalmethodstosubstantiallyreducethesamplingspace,wecancontroltheaccuracyandsubstantialincreasethetimeeficiency.Combinedwithprioriknowledge;fromthetheoretical
5、point,wecanaddprioriknowledgetothescorewhichexactlyobeytheposteriordistribution.Searchforoptimalsubstructure;searchforoptimalsubstructureofsomespecificstructurewillgetthehighaccuracyoflearningBayesiannetworkratherthangreedymethods.Bytheoreticalanalysiswecanprov
6、ethetimecomplexityissignificantlyreduced.Undertheexpenseoftheaccuracywhichcanpredict,wecanreducethetimecomplexityfromexponentiallineartime.Largeamountsofdataexperimentsshowthattheimprovedmethodhasgoodperformancebothintimeandaccuracy.Keywords:Bayesiannetworkstru
7、cturelearning;timeeficiency;independencetest;optimalsubstructure;prioriknowledge;MarkovChainMonteCarlo(MCMC)在已知數(shù)據(jù)中進(jìn)行貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)是一個重要的確性難以保證,特別是在高維的情況下很難讓人信服?;趩栴},在近些年中也得到了廣泛和深入的研究。貝葉斯網(wǎng)絡(luò)采樣的方法中最常使用的方法就是MCMC采樣,其優(yōu)點在于成功的應(yīng)用在多個領(lǐng)域,諸如:生物信息學(xué),計算機(jī)視覺,經(jīng)從理論上可以保證解的最優(yōu)性。但是往往在實際應(yīng)用中
8、計算濟(jì)學(xué)等。貝葉斯網(wǎng)絡(luò)是一個有向無環(huán)圖(directedacyclic復(fù)雜度是不可行的,除非只有很少的結(jié)點。本文提出一種改graph,DAG),其結(jié)構(gòu)表明了數(shù)據(jù)間的條件獨立性和因果關(guān)進(jìn)的方法,在基于MCMC采樣方法上使用一些帶有啟發(fā)式系。貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)數(shù)隨著結(jié)點個數(shù)的增長呈超指數(shù)增長。信息,在具有嚴(yán)格理論支持的置信度控制下大幅縮減樣本空因此,無