資源描述：
《貝葉斯統(tǒng)計 ch2貝葉斯推斷》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、12第二章貝葉斯推斷§2.1條件方法§2.2估計§2.3區(qū)間估計(可信區(qū)間)§2.4假設(shè)檢驗§2.5預(yù)測§2.6似然原理3§2.1條件方法1.后驗分布的特點：未知參數(shù)的后驗分布是集三種信息（總體、樣本和后驗）于一身，它包含了所有可供利用的信息。故有關(guān)的參數(shù)估計和假設(shè)檢驗等統(tǒng)計推斷都按一定方式從后驗分布提取信息，其提取方法與經(jīng)典統(tǒng)計推斷相比要簡單明確得多。2.條件方法的基本思想：基于后驗分布的統(tǒng)計推斷實際上只考慮已出現(xiàn)的數(shù)據(jù)（樣本觀察值）而認為未出現(xiàn)的數(shù)據(jù)與推斷無關(guān)，這一重要的觀點被稱為“條件觀點”，基于這種觀點提出的統(tǒng)計方法被稱為條件方法。43.條件方法與頻率方法的區(qū)別：(以對估計的無
2、偏性認識為例)例如經(jīng)典統(tǒng)計學認為參數(shù)的無偏估計應(yīng)滿足：其中平均是對樣本空間中所有可能出現(xiàn)的樣本而求的，可實際中樣本空間中絕大多數(shù)樣本尚為出現(xiàn)過，而多數(shù)從未出現(xiàn)的樣本也要參與平均是實際工作者難以理解的。故在貝葉斯推斷中不用無偏性，而條件方法是容易被實際工作者理解和接受的。例2.1（教材P36）5§2.2估計1.貝葉斯估計定義2.1使后驗密度達到最大的值稱為最大后驗估計；后驗分布的中位數(shù)稱為后驗中位數(shù)估計；后驗分布的期望值稱為的后驗期望值估計，這三個估計都稱為貝葉斯估計，記為。6解題的基本步驟：2．分析后驗分布的特征：對稱分布78例2.3為估計不合格率，今從一批產(chǎn)品中隨機抽取n件，其中不合
3、格品數(shù)X服從，一般選取為的先驗分布，設(shè)已知，求的Bayes估計。解：由共軛先驗分布可知，的后驗分布為：則得：特例：選用貝葉斯假設(shè)作為先驗分布，即則：9第一、在二項分布時，的最大后驗估計就是經(jīng)典統(tǒng)計中的極大似然估計，即的極大似然估計就是取特定的先驗分布下的貝葉斯估計。第二、的后驗期望值估計要比最大后驗估計更合適一些。注意:10試驗號樣本量n不合格數(shù)x13000.200210000.08333310.8004101010.917表2.1不合格率的二種貝葉斯估計的比較11例2.4設(shè)x是來自如下指數(shù)分布的一個觀察值。又取柯西分布作為θ的先驗分布，即：求θ的最大后驗估計。解：由前面方法可求出θ的
4、后驗密度：為了尋找θ的最大后驗估計，對后驗密度求導數(shù)，得：由于π(θ
5、x)的非減性，考慮到θ的取值不能超過x，故θ的最大后驗估計應(yīng)為=x122.貝葉斯估計的誤差設(shè)是的一個貝葉斯估計，在樣本給定后，是一個數(shù)，在綜合各種信息后，是按取值，所以評價一個貝葉斯估計的誤差的最好而又簡單的方式是用θ對的后驗均方差或平方根來度量，定義如下：定義2.2設(shè)參數(shù)θ的后驗分布為,貝葉斯估計為，則的后驗期望稱為的后驗均方差，而其平方根稱為后驗標準誤。13注意：(1)表示用條件分布求期望；(2)當時，則稱為后驗方差，其平方根稱為后驗標準差；(3)后驗均方差與后驗方差的關(guān)系:這表明，當時，可使后驗均方差達到最小，
6、實際中常取后驗均值作為的貝葉斯估計值；(4)與經(jīng)典統(tǒng)計的兩點比較：①后驗方差應(yīng)用的方便程度不一樣；②計算的復(fù)雜程度不一樣。（閱讀教材p40最后一段）14例2.5設(shè)一批產(chǎn)品的不合格率為,檢查是一個一個進行,直到發(fā)現(xiàn)第一個不合格品為止,若X為發(fā)現(xiàn)第一個不合格品時已檢查的產(chǎn)品數(shù),則X服從幾何分布,其分布列為：設(shè)的先驗分布為，如今只獲得一個樣本觀察值x=3，求的最大后驗估計，后驗期望估計，并計算它的誤差。解：(1)先求聯(lián)合分布。因為已知θ的先驗分布和在θ給定下，X=3的條件概率，則聯(lián)合分布為：X=3的無條件概率為(利用全概率公式)15再求θ的后驗分布列為：或最后得的最大后驗估計:的后驗均方差為
7、(2)(3)因為,所以:16例2.6在例2.3中，在選用共軛分布下，不合格品率θ的后驗分布為貝塔分布，它的后驗方差為：其中n為樣本量，x為樣本中不合格品數(shù)，α與β為先驗分布中的兩個超參數(shù)。若取α=β=1，則其后驗方差為：這時θ的后驗期望估計和最大后驗估計分別為：17顯然，的后驗均方差就是上述Var(θ/x)，的后驗均方差為：對若干對(n,x)的值算得的后驗方差和后驗均方差列入表2.2中。表2.2和的后驗均方差nxVarMSE301/50.026670.1600.066670.261001/120.005880.0800.012820.111012/120.010680.101/100.
8、015120.122012/220.003590.061/200.005270.0718§2.3區(qū)間估計(可信區(qū)間)一、可信區(qū)間19這里的可信水平和可信區(qū)間與經(jīng)典統(tǒng)計中的置信水平與置信區(qū)間雖是同類的概念，但兩者還是有本質(zhì)的差別，主要表現(xiàn)在下面二點:1.在條件方法下,對給定的樣本x和可信水平1-α，通過后驗分布可求得具體的可信區(qū)間，譬如，θ的可信水平為0.9的可信區(qū)間是[1.5，2.6]，這時我們可以寫出2.在經(jīng)典統(tǒng)計中尋求置信區(qū)間有時是困難的，
