智能決策理論與方法-貝葉斯網(wǎng)絡(luò)

《智能決策理論與方法-貝葉斯網(wǎng)絡(luò)》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、數(shù)據(jù)處理與智能決策解迎剛物聯(lián)網(wǎng)系yinggangxie@163.comTel:136911179392智慧知識(shí)信息數(shù)據(jù)智能決策數(shù)據(jù)處理物聯(lián)網(wǎng)感知為什么要進(jìn)行數(shù)據(jù)預(yù)處理、如何對(duì)數(shù)據(jù)進(jìn)行預(yù)處理數(shù)據(jù)準(zhǔn)備：數(shù)據(jù)處理的要求和方法物聯(lián)網(wǎng)技術(shù)物聯(lián)網(wǎng)技術(shù)推動(dòng)了智能決策的發(fā)展專家系統(tǒng)數(shù)據(jù)挖掘機(jī)器學(xué)習(xí)數(shù)據(jù)分析數(shù)據(jù)模型可視化算法：統(tǒng)計(jì)方法（聚類分析）、貝葉斯判別、粗糙集、決策樹、人工神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)、時(shí)間序列分析等等數(shù)據(jù)處理與智能決策——貝葉斯網(wǎng)絡(luò)（概率推理）2021/9/9數(shù)據(jù)處理與智能決策4內(nèi)容提要1概述2貝葉斯概率基礎(chǔ)3貝葉斯問題的求解4簡單貝葉斯學(xué)習(xí)模型5貝葉斯

2、網(wǎng)絡(luò)的建造6貝葉斯?jié)撛谡Z義模型7半監(jiān)督文本挖掘算法2021/9/9數(shù)據(jù)處理與智能決策51概述貝葉斯網(wǎng)絡(luò)是用來表示變量間連接概率的圖形模式，它提供了一種自然的表示因果信息的方法，用來發(fā)現(xiàn)數(shù)據(jù)間的潛在關(guān)系。在這個(gè)網(wǎng)絡(luò)中，用節(jié)點(diǎn)表示變量，有向邊表示變量間的依賴關(guān)系。貝葉斯方法以其獨(dú)特的不確定性知識(shí)表達(dá)形式、豐富的概率表達(dá)能力、綜合先驗(yàn)知識(shí)的增量學(xué)習(xí)特性等成為當(dāng)前數(shù)據(jù)挖掘眾多方法中最為引人注目的焦點(diǎn)之一。2021/9/9數(shù)據(jù)處理與智能決策61概述1.1貝葉斯網(wǎng)絡(luò)的發(fā)展歷史貝葉斯（ReverendThomasBayes,1702-1761）學(xué)派奠基性的工作是貝葉

3、斯的論文“關(guān)于幾率性問題求解的評(píng)論”?；蛟S是他自己感覺到它的學(xué)說還有不完善的地方，這一論文在他生前并沒有發(fā)表，而是在他死后，由他的朋友發(fā)表的。著名的數(shù)學(xué)家拉普拉斯（LaplaceP.S.）用貝葉斯的方法導(dǎo)出了重要的“相繼律”，貝葉斯的方法和理論逐漸被人理解和重視起來。但由于當(dāng)時(shí)貝葉斯方法在理論和實(shí)際應(yīng)用中還存在很多不完善的地方，因而在十九世紀(jì)并未被普遍接受。2021/9/9數(shù)據(jù)處理與智能決策71概述1.1貝葉斯網(wǎng)絡(luò)的發(fā)展歷史二十世紀(jì)初，意大利的菲納特（B.deFinetti）以及英國的杰弗萊（JeffreysH.）都對(duì)貝葉斯學(xué)派的理論作出重要的貢獻(xiàn)。第

4、二次世界大戰(zhàn)后，瓦爾德（WaldA.）提出了統(tǒng)計(jì)的決策理論，在這一理論中，貝葉斯解占有重要的地位；信息論的發(fā)展也對(duì)貝葉斯學(xué)派做出了新的貢獻(xiàn)。1958年英國最悠久的統(tǒng)計(jì)雜志Biometrika全文重新刊登了貝葉斯的論文，20世紀(jì)50年代，以羅賓斯（RobbinsH.）為代表，提出了經(jīng)驗(yàn)貝葉斯方法和經(jīng)典方法相結(jié)合，引起統(tǒng)計(jì)界的廣泛注意，這一方法很快就顯示出它的優(yōu)點(diǎn)，成為很活躍的一個(gè)方向。2021/9/9數(shù)據(jù)處理與智能決策81概述1.1貝葉斯網(wǎng)絡(luò)的發(fā)展歷史隨著人工智能的發(fā)展，尤其是機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘等興起，為貝葉斯理論的發(fā)展和應(yīng)用提供了更為廣闊的空間。貝葉斯

5、理論的內(nèi)涵也比以前有了很大的變化。80年代貝葉斯網(wǎng)絡(luò)用于專家系統(tǒng)的知識(shí)表示，90年代進(jìn)一步研究可學(xué)習(xí)的貝葉斯網(wǎng)絡(luò)，用于數(shù)據(jù)采掘和機(jī)器學(xué)習(xí)。近年來，貝葉斯學(xué)習(xí)理論方面的文章更是層出不窮，內(nèi)容涵蓋了人工智能的大部分領(lǐng)域，包括因果推理、不確定性知識(shí)表達(dá)、模式識(shí)別和聚類分析等。并且出現(xiàn)了專門研究貝葉斯理論的組織和學(xué)術(shù)刊物InternationalSocietyBayesianAnalysis。2021/9/9數(shù)據(jù)處理與智能決策91概述1.2貝葉斯方法的基本觀點(diǎn)貝葉斯分析方法的特點(diǎn)是用概率去表示所有形式的不確定性，學(xué)習(xí)或其它形式的推理都用概率規(guī)則來實(shí)現(xiàn)。貝葉斯學(xué)

6、習(xí)的結(jié)果表示為隨機(jī)變量的概率分布，它可以解釋為我們對(duì)不同可能性的信任程度。貝葉斯學(xué)派的起點(diǎn)是貝葉斯的兩項(xiàng)工作：貝葉斯定理和貝葉斯假設(shè)。貝葉斯定理將事件的先驗(yàn)概率與后驗(yàn)概率聯(lián)系起來。2021/9/9數(shù)據(jù)處理與智能決策101概述1.2貝葉斯方法的基本觀點(diǎn)假定隨機(jī)向量x，θ的聯(lián)合分布密度是p(x,θ)，它們的邊際密度分別為p(x)、p(θ)。一般情況下設(shè)x是觀測(cè)向量，θ是未知參數(shù)向量，通過觀測(cè)向量獲得未知參數(shù)向量的估計(jì)，貝葉斯定理記作：π(θ)是θ的先驗(yàn)分布(1)2021/9/9數(shù)據(jù)處理與智能決策111概述1.2貝葉斯方法的基本觀點(diǎn)貝葉斯方法對(duì)未知參數(shù)向量估

7、計(jì)的一般過程為：⑴將未知參數(shù)看成隨機(jī)向量，這是貝葉斯方法與傳統(tǒng)的參數(shù)估計(jì)方法的最大區(qū)別。⑵根據(jù)以往對(duì)參數(shù)θ的知識(shí)，確定先驗(yàn)分布π(θ)，它是貝葉斯方法容易引起爭議的一步，因此而受到經(jīng)典統(tǒng)計(jì)界的攻擊。⑶計(jì)算后驗(yàn)分布密度，做出對(duì)未知參數(shù)的推斷。在第⑵步，如果沒有任何以往的知識(shí)來幫助確定π(θ)，貝葉斯提出可以采用均勻分布作為其分布，即參數(shù)在它的變化范圍內(nèi)，取到各個(gè)值的機(jī)會(huì)是相同的，稱這個(gè)假定為貝葉斯假設(shè)。2021/9/9數(shù)據(jù)處理與智能決策121概述1.3貝葉斯網(wǎng)絡(luò)的應(yīng)用領(lǐng)域輔助智能決策數(shù)據(jù)融合模式識(shí)別醫(yī)療診斷文本理解數(shù)據(jù)挖掘1.貝葉斯方法用于分類及回歸分析

8、2.用于因果推理和不確定知識(shí)表達(dá)3.用于聚類模式發(fā)現(xiàn)2021/9/9數(shù)據(jù)處理與智能決策132貝