貝葉斯講義貝葉斯決策.ppt

《貝葉斯講義貝葉斯決策.ppt》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、1第五章貝葉斯決策第一節(jié)貝葉斯決策問題第二節(jié)后驗(yàn)風(fēng)險決策第三節(jié)常用損失函數(shù)下的貝葉斯估計(jì)第四節(jié)抽樣信息期望值第五節(jié)最佳樣本量的確定第六節(jié)二行動線性決策問題的EVPI2第一節(jié)貝葉斯決策問題一、決策問題分類(1)僅使用先驗(yàn)信息的決策問題稱為無數(shù)據(jù)(或無樣本信息)的決策問題;(2)僅使用抽樣信息的決策問題稱為統(tǒng)計(jì)決策問題;(3)先驗(yàn)信息和抽樣信息都使用的決策問題稱為貝葉斯決策問題.3二、貝葉斯決策問題先驗(yàn)信息和抽樣信息都用的決策問題稱為貝葉斯決策問題。若以下條件已知，則我們認(rèn)為一個貝葉斯決策問題給定了。(4)定義在上的二元函數(shù)稱為損失函數(shù)4三、貝葉斯決策的優(yōu)缺點(diǎn)1.優(yōu)點(diǎn)主要表現(xiàn)在:(1)貝葉斯決

2、策充分利用各種信息,使決策結(jié)果更加科學(xué)化;(2)能對調(diào)查結(jié)果的可能性加以數(shù)量化的評價;(3)貝葉斯決策巧妙地將調(diào)查結(jié)果和先驗(yàn)知識有機(jī)地結(jié)合起來;(4)貝葉斯決策過程可以不斷地使用,使決策結(jié)果逐步完善.2.缺點(diǎn):(1)貝葉斯決策所需要的數(shù)據(jù)多，分析計(jì)算也比較復(fù)雜,如果解決的問題比較復(fù)雜時,這個矛盾就更加突出;(2)在決策的過程中，有些數(shù)據(jù)必須要使用主觀概率,有些人不是很相信,這也妨礙了貝葉斯決策方法的推廣和使用.O5第二節(jié)后驗(yàn)風(fēng)險決策1.后驗(yàn)風(fēng)險函數(shù)我們把損失函數(shù)對后驗(yàn)分布的期望稱為后驗(yàn)風(fēng)險,記,即后驗(yàn)風(fēng)險就是用后驗(yàn)分布計(jì)算的平均損失.1162.決策函數(shù)定義5.1在給定的貝葉斯決策問題中,從

3、樣本空間到行動集A上的一個映照稱為該決策問題的一個決策函數(shù),表示所有從樣本空間χ到A上的決策函數(shù)組成的類,稱為決策函數(shù)類.在貝葉斯決策中我們面臨的是決策函數(shù)類D,要在D中選擇決策函數(shù),使其風(fēng)險最小.例題分析73.后驗(yàn)風(fēng)險準(zhǔn)則定義在給定的貝葉斯決策問題中是其決策函數(shù)類,則稱為決策函數(shù)的后驗(yàn)風(fēng)險.假如在決策函數(shù)類中存在這樣的決策函數(shù),它在D中有最小的風(fēng)險,即則稱為后驗(yàn)風(fēng)險準(zhǔn)則下的最優(yōu)決策函數(shù),或稱貝葉斯決策,或貝葉斯解,或貝葉斯估計(jì)。注:(1)定義中的條件:給定的貝葉斯決策問題(2)定義中的先驗(yàn)分布允許是廣義的.8例1設(shè)是來自正態(tài)分布N(θ,1)的一個樣本。又設(shè)參數(shù)θ的先驗(yàn)分布為共軛先驗(yàn)分布N

4、(0,τ2),其中τ2已知.而損失函數(shù)為0-1損失函數(shù)試求參數(shù)θ的貝葉斯估計(jì)。解:分三步求解:(1)求參數(shù)θ的后驗(yàn)分布(2)對于任意一個決策函數(shù)計(jì)算后驗(yàn)風(fēng)險函數(shù):(3)求出使得上述風(fēng)險函數(shù)達(dá)到最小時的決策函數(shù):9例2在市場占有率θ的估計(jì)問題中，已知損失函數(shù)為：藥廠廠長對市場占有率θ無任何先驗(yàn)信息，另外在市場調(diào)查中，在n個購買止痛劑的顧客中有x人買了新藥，試在后驗(yàn)風(fēng)險準(zhǔn)則下對θ作出貝葉斯估計(jì)。解:(1)求參數(shù)θ的后驗(yàn)分布:結(jié)果為Be(x+1,n-x+1)(2),計(jì)算風(fēng)險函數(shù)(3)求最優(yōu)行動使上述風(fēng)險函數(shù)達(dá)到最小.令:則得:(4)數(shù)值計(jì)算:10例3如何判斷一個樣本是來自密度函數(shù)為p0

5、(x)的總體還是來自密度函數(shù)為p1(x)的總體。解:兩個假設(shè):問題:接受H0還是H1?(1)把假設(shè)檢驗(yàn)問題轉(zhuǎn)化為貝葉斯決策問題:①參數(shù)空間Θ={0,1}②行動空間A={0,1}③先驗(yàn)分布:P(θ=0)=π0,P(θ=1)=π1④損失函數(shù):決策正確無損失,決策錯誤的損失為1.則(2)求后驗(yàn)分布:(3)計(jì)算每個行動下的后驗(yàn)風(fēng)險:R(a=0

6、x)=P(θ=1

7、x)R(a=1

8、x)=P(θ=0

9、x)(4)找出最佳行動,即確定拒絕域.111.平方損失函數(shù)下的貝葉斯估計(jì)定理5.1在平方損失函數(shù)下,的貝葉斯估計(jì)為后驗(yàn)均值,即[Pr]在平方損失函數(shù)下,任何一個決策函數(shù)的后驗(yàn)風(fēng)險為第三節(jié)常用損失函數(shù)下的貝葉

10、斯估計(jì)12定理5.2在加權(quán)平方損失函數(shù)下,θ的貝葉斯估計(jì)為:其中λ(θ)為參數(shù)空間Θ上的正值函數(shù).定理5.3在參數(shù)向量的場合下,對多元二次損失函數(shù),Q為正定陣,θ的貝葉斯估計(jì)為后驗(yàn)均值向量:13例4設(shè)是來自泊松分布的一個樣本.若θ的先驗(yàn)分布用其共軛先驗(yàn)分布G(α,λ),即其中參數(shù)α與λ已知.求平方損失函數(shù)下θ的貝葉斯估計(jì).解:解題過程分為以下三步:(1)根據(jù)題意求出θ的后驗(yàn)分布(2)寫出后驗(yàn)均值(3)結(jié)論:由定理5.1知θ的貝葉斯估計(jì)為:14例5設(shè)是來自均勻分布U(0,θ)的一個樣本.又設(shè)θ的先驗(yàn)分布為Pareto分布.在損失函數(shù)分別為絕對值損失函數(shù)和平方損失函數(shù)下求θ的貝葉

11、斯估計(jì).解題步驟:第一步:求θ的后驗(yàn)分布:第二步:在絕對值損失函數(shù)下θ的貝葉斯估計(jì):恰為后驗(yàn)分布的中位數(shù).第三步:平方損失函數(shù)下θ的貝葉斯估計(jì):Pareto分布的分布函數(shù):密度函數(shù)為:期望:方差:中位數(shù):μ15例6貝葉斯決策在可靠性統(tǒng)計(jì)中的應(yīng)用問題的描述:假設(shè)某產(chǎn)品的壽命T服從指數(shù)分布,其分布函數(shù)為:把指定時間t0后該產(chǎn)品才失效的概率稱為產(chǎn)品在t0時刻的可靠度。在平方損失函數(shù)下怎樣估計(jì)可靠度R(t0)？162.線性損失函