資源描述:
《貝葉斯網(wǎng)絡(luò)簡(jiǎn)介.ppt》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。
1、貝葉斯網(wǎng)絡(luò)簡(jiǎn)介IntroductiontoBayesianNetworks基本思路貝葉斯網(wǎng)絡(luò)是為了處理人工智能研究中的不確定性(uncertainty)問(wèn)題而發(fā)展起來(lái)的.貝葉斯網(wǎng)絡(luò)是將概率統(tǒng)計(jì)應(yīng)用于復(fù)雜領(lǐng)域進(jìn)行不確定性推理和數(shù)據(jù)分析的工具。BN是一種系統(tǒng)地描述隨即變量之間關(guān)系的工具。建立BN的目的主要是進(jìn)行概率推理(probabilisticinference)。用概率論處理不確定性的主要優(yōu)點(diǎn)是保證推理結(jié)果的正確性。幾個(gè)重要原理鏈規(guī)則(chainrule)貝葉斯定理(Bayes’theorem)利用變量間條件獨(dú)立性為什
2、么要用貝葉斯網(wǎng)絡(luò)進(jìn)行概率推理?理論上,進(jìn)行概率推理所需要的只是一個(gè)聯(lián)合概率分布。但是聯(lián)合概率分布的復(fù)雜度相對(duì)于變量個(gè)數(shù)成指數(shù)增長(zhǎng),所以當(dāng)變量眾多時(shí)不可行。貝葉斯網(wǎng)絡(luò)的提出就是要解決這個(gè)問(wèn)題。它把復(fù)雜的聯(lián)合概率分布分解成一系列相對(duì)簡(jiǎn)單的模塊,從而大大降低知識(shí)獲取和概率推理的復(fù)雜度,使得可以把概率論應(yīng)用于大型問(wèn)題。統(tǒng)計(jì)學(xué)、系統(tǒng)工程、信息論以及模式識(shí)別等學(xué)科中貝葉斯網(wǎng)絡(luò)特里的多元概率模型:樸素貝葉斯模型,隱類模型,混合模型,隱馬爾科夫模型,卡爾曼濾波器等。動(dòng)態(tài)貝葉斯網(wǎng)絡(luò)主要用于對(duì)多維離散時(shí)間序列的監(jiān)控和預(yù)測(cè)。多層隱類模型,能夠
3、揭示觀測(cè)變量背后的隱結(jié)構(gòu)。一個(gè)貝葉斯網(wǎng)絡(luò)定義包括一個(gè)有向無(wú)環(huán)圖(DAG)和一個(gè)條件概率表集合。DAG中每一個(gè)節(jié)點(diǎn)表示一個(gè)隨機(jī)變量,可以是可直接觀測(cè)變量或隱藏變量,而有向邊表示隨機(jī)變量間的條件依賴;條件概率表中的每一個(gè)元素對(duì)應(yīng)DAG中唯一的節(jié)點(diǎn),存儲(chǔ)此節(jié)點(diǎn)對(duì)于其所有直接前驅(qū)節(jié)點(diǎn)的聯(lián)合條件概率。貝葉斯網(wǎng)絡(luò)有一條極為重要的性質(zhì),就是我們斷言每一個(gè)節(jié)點(diǎn)在其直接前驅(qū)節(jié)點(diǎn)的值制定后,這個(gè)節(jié)點(diǎn)條件獨(dú)立于其所有非直接前驅(qū)前輩節(jié)點(diǎn)。基本概念這個(gè)性質(zhì)很類似Markov過(guò)程。其實(shí),貝葉斯網(wǎng)絡(luò)可以看做是Markov鏈的非線性擴(kuò)展。這條特性的重要
4、意義在于明確了貝葉斯網(wǎng)絡(luò)可以方便計(jì)算聯(lián)合概率分布。一般情況先,多變量非獨(dú)立聯(lián)合條件概率分布有如下求取公式:而在貝葉斯網(wǎng)絡(luò)中,由于存在前述性質(zhì),任意隨機(jī)變量組合的聯(lián)合條件概率分布被化簡(jiǎn)成其中Parents表示xi的直接前驅(qū)節(jié)點(diǎn)的聯(lián)合,概率值可以從相應(yīng)條件概率表中查到。例子P(C,S,R,W)=P(C)P(S
5、C)P(R
6、S,C)P(W
7、S,R,C)chainrule=P(C)P(S
8、C)P(R
9、C)P(W
10、S,R,C)since=P(C)P(S
11、C)P(R
12、C)P(W
13、S,R)since貝葉斯網(wǎng)絡(luò)的構(gòu)造及訓(xùn)練1、確定隨機(jī)變
14、量間的拓?fù)潢P(guān)系,形成DAG。這一步通常需要領(lǐng)域?qū)<彝瓿?,而想要建立一個(gè)好的拓?fù)浣Y(jié)構(gòu),通常需要不斷迭代和改進(jìn)才可以。2、訓(xùn)練貝葉斯網(wǎng)絡(luò)。這一步也就是要完成條件概率表的構(gòu)造,如果每個(gè)隨機(jī)變量的值都是可以直接觀察的,方法類似于樸素貝葉斯分類。但是通常貝葉斯網(wǎng)絡(luò)的中存在隱藏變量節(jié)點(diǎn),那么訓(xùn)練方法就是比較復(fù)雜。貝葉斯網(wǎng)絡(luò)進(jìn)行推理的步驟1、對(duì)所有可觀察隨機(jī)變量節(jié)點(diǎn)用觀察值實(shí)例化;對(duì)不可觀察節(jié)點(diǎn)實(shí)例化為隨機(jī)值。2、對(duì)DAG進(jìn)行遍歷,對(duì)每一個(gè)不可觀察節(jié)點(diǎn)y,計(jì)算其中wi表示除y以外的其它所有節(jié)點(diǎn),a為正規(guī)化因子,sj表示y的第j個(gè)子節(jié)點(diǎn)
15、。3、使用第三步計(jì)算出的各個(gè)y作為未知節(jié)點(diǎn)的新值進(jìn)行實(shí)例化,重復(fù)第二步,直到結(jié)果充分收斂。4、將收斂結(jié)果作為推斷值。貝葉斯網(wǎng)絡(luò)應(yīng)用醫(yī)療診斷,工業(yè),金融分析,計(jì)算機(jī)(微軟Windows,Office),模式識(shí)別:分類,語(yǔ)義理解軍事(目標(biāo)識(shí)別,多目標(biāo)跟蹤,戰(zhàn)爭(zhēng)身份識(shí)別等),生態(tài)學(xué),生物信息學(xué)(貝葉斯網(wǎng)絡(luò)在基因連鎖分析中應(yīng)用),編碼學(xué),分類聚類,時(shí)序數(shù)據(jù)和動(dòng)態(tài)模型