矩估計和極大似然估計

《矩估計和極大似然估計》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、二、極大似然估計法一、矩法估計第七章參數(shù)估計三、估計量的評選標(biāo)準(zhǔn)四、置信區(qū)間參數(shù)估計參數(shù)估計問題是利用從總體抽樣得到的信息估計湖中魚數(shù)……估計平均降雨量來估計總體的某些參數(shù)或者參數(shù)的某些函數(shù)。統(tǒng)計推斷：參數(shù)估計和假設(shè)檢驗。參數(shù)估計要解決問題:總體分布函數(shù)的形式為已知,需要確定未知參數(shù)。但其中參數(shù)θ未知時，這類問題稱為參數(shù)估計問題。只有當(dāng)參數(shù)θ確定后，才能通過率密度函數(shù)計算概率。對于未知參數(shù)，如何應(yīng)用樣本所提供的信息去對其一個或多個未知參數(shù)進(jìn)行估計。參數(shù)估計是對已知分布類型的總體，參數(shù)估計點估計區(qū)間估計矩估計極大似然估計參數(shù)估計可作如下劃分利用樣本對其未知參數(shù)作出估計1.矩估計

2、2.極大似然估計3.最小二乘法4.貝葉斯方法……這里我們主要介紹前面兩種方法.尋求估計量的方法點估計問題：構(gòu)造一個適當(dāng)?shù)慕y(tǒng)計量用它的觀察值來估計未知參數(shù)θ.稱為θ的估計量，為θ的估計值.參數(shù)估計：點估計:估計θ的具體數(shù)值;區(qū)間估計:估計θ的所在范圍.第七章第一節(jié)矩法估計二、常用分布參數(shù)的矩法估計一、矩法估計一.矩估計法故用樣本矩來估計總體矩基本原理：總體矩是反映總體分布的最簡單的數(shù)字特征，當(dāng)總體含有待估計參數(shù)時，總體矩是待估計參數(shù)的函數(shù)。樣本取自總體，樣本矩在一定程度上可以逼近總體矩，由英國統(tǒng)計學(xué)家K.皮爾遜最早提出的。其中是待估參數(shù).為來自的樣本,存在,設(shè)總體的k階矩則樣本

3、的k階矩(由大數(shù)定理)令從中解得k個方程組即為矩估計量。矩估計量的觀察值稱為矩估計值。設(shè)總體X的分布函數(shù)為矩估計步驟：連續(xù)型離散型所以參數(shù)p的矩估計量為例：總體X的分布列為：是來自總體X的樣本，解：由于總體X的分布為二項分布，設(shè)某炸藥廠一天中發(fā)生著火現(xiàn)象的次數(shù)X例1服從下面我們通過幾個例子說明利用矩估計法求未知參數(shù)的過程。二、常用分布常數(shù)的矩法估計例2解注:總體均值方差的矩估計量與總體分布無關(guān)。做矩估計時,也可用中心矩建立關(guān)于未知參數(shù)的方程組，因而矩估計不唯一。λ未知，求參數(shù)λ的矩估計。例3解：解不合格品率p的矩法估計分析設(shè)總體X為抽的不合格產(chǎn)品數(shù)，相當(dāng)于抽取了一組樣本X1，

4、X2，…，Xn,且因p=EX,故p的矩估計量為設(shè)某車間生產(chǎn)一批產(chǎn)品，為估計該批產(chǎn)品不合格品(即出現(xiàn)不合格產(chǎn)品的頻率).例4率，抽取了n件產(chǎn)品進(jìn)行檢查.例5解θ是未知參數(shù)，X1，X2，…,Xn，是X的一組樣本，解設(shè)總體X的概率密度為解得例6求θ的矩估計量.其中θ＞0，μ與θ是未知參數(shù)，X1，X2，…,Xn，是X的一組樣本，求μ與θ的矩估計量.解例7.設(shè)總體X的概率密度為令令注意到DX=E(X2)－(EX)2=θ2=θ2+(θ+μ)2第七章第二節(jié)極大似然估計極大似然估計極大似然法的基本思想先看一個簡單例子：一只野兔從前方竄過.是誰打中的呢？某位同學(xué)與一位獵人一起外出打獵.如果要你

5、推測，你會如何想呢?只聽一聲槍響，野兔應(yīng)聲倒下.基本思想:若事件Ai發(fā)生了,則認(rèn)為事件Ai在這n個可能結(jié)果中出現(xiàn)的概率最大。極大似然估計就是在一次抽樣中,若得到觀測值則選取若一試驗有n個可能結(jié)果現(xiàn)做一試驗,作為θ的估計值。使得當(dāng)時,樣本出現(xiàn)的概率最大。極大似然估計法:設(shè)是的一個樣本值事件發(fā)生的概率為為的函數(shù)，形式已知(如離散型)X的分布列為的聯(lián)合分布列為：為樣本的似然函數(shù)。定義7.1即取使得：與有關(guān),記為稱為參數(shù)θ的極大似然估計值。稱為參數(shù)θ的極大似然估計量。達(dá)到最大的參數(shù)作為θ的估計值?，F(xiàn)從中挑選使概率樣本的似然函數(shù)若總體X屬連續(xù)型,其概率密度的形式已知，θ為待估參數(shù)；則的

6、聯(lián)合密度：一般，關(guān)于θ可微，故θ可由下式求得：因此的極大似然估計θ也可從下式解得：在同一點處取極值。故似然函數(shù)為例1設(shè)是來自總體X的一個樣本，試求參數(shù)p的極大似然估計值.解：設(shè)是一個樣本值。X的分布列為：而令它與矩估計量是相同的。解得p的極大似然估計值p的極大似然估計量令解得設(shè)總體X的分布列為：解：似然函數(shù)為似然估計值。例2是來自總體X的樣本，求p的極大令即所以參數(shù)的極大似然估計量為解例3設(shè)X1,X2,…,Xn是取自總體X的一個樣本,，求參數(shù)λ的極大似然估計值。似然函數(shù)為:例4設(shè)未知，是一個樣本值求的極大似然估計量.解設(shè)的概率密度為：似然函數(shù)為等價于因為對于滿足的任意有即時,

7、取最大值在似然函數(shù)為故的極大似然估計值為:故的極大似然估計量為:即時,取最大值在似然函數(shù)為今取得一組樣本Xk數(shù)據(jù)如下，問如何估計θ？162950681001301402702803404104505206201902108001100某電子管的使用壽命X（單位：小時)服從指數(shù)分布例5指數(shù)分布的點估計分析可用兩種方法：矩法估計和極大似然估計.1）矩法估計2）極大似然估計構(gòu)造似然函數(shù)當(dāng)xi>0,（i=1,2,…,n)時，似然函數(shù)為取對數(shù)建立似然方程5.得極大似然估計量：求解得極大似然估計值似然函數(shù)為：例6設(shè)