專題：貝葉斯統(tǒng)計簡介

《專題：貝葉斯統(tǒng)計簡介》由會員上傳分享，免費在線閱讀，更多相關內(nèi)容在行業(yè)資料-天天文庫。

1、統(tǒng)計學專題（一）貝葉斯統(tǒng)計學簡介重慶工商大學數(shù)統(tǒng)學院李勇（023）62002579liongcq@163.com先做人，后做事只有一門學科是必須要教給孩子的，這門學科就是做人的天職?！覍幵赴延羞@種知識的老師稱為導師而不稱為教師，因為問題不在于要他拿什么東西去教孩子，而是要他指導孩子怎樣做人?！猍法國]盧梭一、貝葉斯統(tǒng)計學的歷史二、統(tǒng)計推斷與決策利用的基本信息三、條件觀點與似然原理四、貝葉斯公式、先驗分布和后驗分布五、先驗分布的確定一、貝葉斯統(tǒng)計學的歷史約三百年以前，人們開始去嚴肅的考慮面對不確定性時如何進行推理。JamesBernoulli是第一個構造該問題的人，

2、他意識到在可應用于機會游戲的演繹邏輯和每日生活中的歸納邏輯之間的區(qū)別。對于他來說，這個未回答的問題在于前者的機理如何能幫助處理后者的推斷問題。英國學者托馬斯.貝葉斯(ThomasBayes,1702-1761)生前所作的一篇論文——《論有關機遇問題的求解》，對Bernoulli的問題提供了回答。在文章中他提出了著名的貝葉斯公式和一種歸納推理的方法。然而，當時他的理論成果并沒有得到足夠的重視，后來在他理論的基礎上逐漸形成了貝葉斯學派。時至今日，貝葉斯學派已經(jīng)與經(jīng)典學派共同成為統(tǒng)計學的兩大主流學派。貝葉斯學派的基本觀點任一未知參數(shù)都可以看作是隨機變量，可用一個概率分布去描述

3、，這是經(jīng)典學派和貝葉斯學派爭論的焦點所在。貝葉斯學派認為：可以把任一未知參數(shù)看作隨機變量，并且通過利用主觀的判斷和直覺，提供先驗信息（即先驗分布）；經(jīng)典學派只承認利用樣本信息，不承認利用主觀的判斷和直覺，即不承認利用先驗信息。關于未知參數(shù)是否可以看作隨機變量在經(jīng)典學派和貝葉斯學派間爭論了很長時間，如今經(jīng)典學派已經(jīng)不反對這一觀點?，F(xiàn)在爭論的焦點是：如何利用各種先驗信息合理的確定先驗分布。貝葉斯學派發(fā)展幾個階段ThomasBayes:1736年ThomasBayes提出了重要的貝葉斯定理，其遺著《論有關機遇問題的求解》被他的朋友RichardPrice整理于1763年發(fā)表。

4、貝葉斯理論的價值才被世人認識，貝葉斯理論開始奠基。Laplace:目前以他姓名命名的定理的現(xiàn)代形式實際上歸功于Laplace。Laplace本人不僅重新發(fā)現(xiàn)了貝葉斯定理，且闡述的遠比貝葉斯更為清晰，還用它來解決天體力學，醫(yī)學統(tǒng)計，甚至法律問題。他全心全意的贊成用于推斷問題的貝葉斯公式。遺憾的是，Laplace取得的成功和他對概率論的發(fā)展做出的巨大貢獻，卻并不為當時有勢力的歐洲數(shù)學家所認可。之后雖還有一些零星的研究，由于理論的不完善和應用中出現(xiàn)了一些問題，貝葉斯學派的一些理論長期不被人們所接受?，F(xiàn)代發(fā)展：進入到上世紀50年代，貝葉斯理論得到了充分發(fā)展，60、70年代以來，

5、其發(fā)展達到鼎盛時期。許多專家學者投身于貝葉斯理論的研究和應用推廣中來，力圖從不同的角度對貝葉斯理論進行進一步的探討和研究，形成了具有多分支的理論系統(tǒng)。目前被承認的現(xiàn)代貝葉斯統(tǒng)計工具應當歸功于Jeffry、Wald、Savage、Raiffa&Schlaifer、Lindly及DeFinett。他們都曾做過大量有意義的工作，為建立統(tǒng)一的理論體系和方法論奠定了基礎。A.Wald統(tǒng)計決策理論是著名統(tǒng)計學家A.Wald(1902-1950)在上世紀四十年代建立起來的，他在其文章《統(tǒng)計決策函數(shù)》中系統(tǒng)、詳細的闡述了統(tǒng)計決策理論，統(tǒng)計決策理論與經(jīng)典統(tǒng)計學的差別在于是否涉及后果，經(jīng)典

6、統(tǒng)計學著重于推斷，而不考慮用在何處和效益如何，而統(tǒng)計決策理論引入損失函數(shù)，用來度量效益大小，評價統(tǒng)計推斷結果的優(yōu)劣。二、統(tǒng)計推斷與決策利用的基本信息1、總體信息2、樣本信息3、先驗信息4、損失函數(shù)1、總體信息指總體分布或總體所屬分布族所蘊涵的信息。如：“總體是正態(tài)分布”蘊涵：它的密度函數(shù)是一條鐘形曲線；它的一切階矩都存在；可以計算一些事件的概率；可以導出χ2分布、t分布和F分布；還有成熟的點估計、區(qū)間估計和假設檢驗方法等等。2、樣本信息樣本信息：指從總體抽取的樣本所提供的信息?；诳傮w和樣本信息進行的統(tǒng)計推斷，稱為經(jīng)典（頻率派）統(tǒng)計學?；居^點：1）把未知參數(shù)θ看作是一

7、個固定的，未知的常數(shù)（向量），是估計和檢驗等問題的目標。2）利用的樣本信息涉及到試驗所有可能出現(xiàn)的數(shù)據(jù)，即把樣本數(shù)據(jù)看成是來自具有一定概率分布的總體，所研究的對象是指這個總體，而不局限于已獲得的樣本數(shù)據(jù)本身。3）其概率論基礎是頻率概率：表示在大量重復試驗下的相對頻率。遵守概率三條公理（非負性、正規(guī)性、可加性）。3、先驗信息指在抽樣之前有關統(tǒng)計問題的非樣本信息。主要來自過去的經(jīng)驗和歷史資料。關于先驗信息的重要性，英國統(tǒng)計學家L.J.Savage1961年提出一個令人信服的例子。例（英L.J.Savage，1961）以下有三個試驗：（1）一位