對(duì)數(shù)極大似然估計(jì)

《對(duì)數(shù)極大似然估計(jì)》由會(huì)員上傳分享，免費(fèi)在線(xiàn)閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、第八章對(duì)數(shù)極大似然估計(jì)極大似然估計(jì)法(maximumlikelihood,ML)，是不同于最小二乘法的另一種參數(shù)估計(jì)方法，是從極大似然原理發(fā)展起來(lái)的其他估計(jì)方法的基礎(chǔ)。雖然其應(yīng)用沒(méi)有最小二乘法普遍，但在計(jì)量經(jīng)濟(jì)學(xué)理論上占據(jù)很重要的地位，因?yàn)闃O大似然原理比最小二乘原理更本質(zhì)地揭示了通過(guò)樣本估計(jì)總體參數(shù)的內(nèi)在機(jī)理，計(jì)量經(jīng)濟(jì)學(xué)理論的發(fā)展更多的是以極大似然估計(jì)原理為基礎(chǔ)的，對(duì)于一些特殊的計(jì)量經(jīng)濟(jì)學(xué)模型，只有極大似然方法才是很成功的估計(jì)方法。1EViews包含了一些常用方法，如最小二乘法、非線(xiàn)性最小二乘法

2、、加權(quán)最小二乘法、TSLS、GMM等方法，這些方法可以解決可能遇到的大多數(shù)估計(jì)問(wèn)題。但是，我們?cè)谘芯恐幸部赡軙?huì)碰到一些不在上述之列的特殊的模型，這些模型可能是現(xiàn)存方法的一個(gè)擴(kuò)展，也可能是一類(lèi)全新的問(wèn)題。為了能解決這些特殊的問(wèn)題，EViews提供了對(duì)數(shù)極大似然估計(jì)對(duì)象這一工具來(lái)估計(jì)各種不同類(lèi)型的模型。對(duì)數(shù)極大似然估計(jì)對(duì)象提供了一個(gè)一般的，開(kāi)放的工具，可以通過(guò)這個(gè)工具極大化相關(guān)參數(shù)的似然函數(shù)對(duì)一大類(lèi)模型進(jìn)行估計(jì)。2使用對(duì)數(shù)極大似然估計(jì)對(duì)象估計(jì)時(shí)，我們用EViews的序列生成器，將樣本中各個(gè)觀測(cè)值的對(duì)

3、數(shù)似然貢獻(xiàn)描述為一個(gè)未知參數(shù)的函數(shù)?？梢越o出似然函數(shù)中一個(gè)或多個(gè)參數(shù)的解析微分，也可以讓EViews自動(dòng)計(jì)算數(shù)值微分。EViews將尋找使得指定的似然函數(shù)最大化的參數(shù)值，并給出這些參數(shù)估計(jì)的估計(jì)標(biāo)準(zhǔn)差。在本章，我們將詳細(xì)論述對(duì)數(shù)極大似然估計(jì)對(duì)象，說(shuō)明其一般特征。并給出了一些可以使用該方法的具體的例子。3§8.1對(duì)數(shù)極大似然估計(jì)的基本原理§8.1.1極大似然估計(jì)的基本原理設(shè)總體的概率密度函數(shù)為P，其類(lèi)型是已知的，但含有未知參數(shù)（向量）?。我們的目的就是依據(jù)從該總體抽得的隨機(jī)樣本y1,y2,…,yT

4、，尋求對(duì)?的估計(jì)。觀測(cè)值y1,y2,…,yT的聯(lián)合密度函數(shù)被給定為（8.1.1）其中：y=(y1,y2,…,yT)?。將這一聯(lián)合密度函數(shù)視為參數(shù)?的函數(shù)，稱(chēng)為樣本的似然函數(shù)（likelihoodfunction）。4極大似然原理就是尋求參數(shù)的估計(jì)值，使得所給樣本值的概率密度（即似然函數(shù)）的值在這個(gè)參數(shù)值之下，達(dá)到最大。在當(dāng)前的情形下，就是尋求?的估計(jì)值，使得似然函數(shù)L(y;?)相對(duì)于給定的觀測(cè)值y1,y2,…,yT而言達(dá)到最大值，就被稱(chēng)為極大似然估計(jì)量。5在L(y;?)關(guān)于?i（i=1,2,…,

5、n，n是未知參數(shù)的個(gè)數(shù)）的偏導(dǎo)數(shù)存在時(shí)，要使L(y;?)取最大值，?必須滿(mǎn)足,i=1,2,…,n（8.1.2）由上式可解得n?1向量?的極大似然估計(jì)值。6因?yàn)長(zhǎng)(y;?)與ln[L(y;?))]在同一點(diǎn)處取極值，所以也可以由,i=1,2,…,n（8.1.3）求得，因?yàn)閷?duì)數(shù)可將乘積變成求和，所以，式(8.1.3)往往比直接使用式(8.1.2)來(lái)得方便。式(8.1.3)也被稱(chēng)為對(duì)數(shù)似然函數(shù)。7考慮多元線(xiàn)性回歸模型的一般形式,t=1,2,…,T(8.1.4)其中k是解釋變量個(gè)數(shù)，T是觀測(cè)值個(gè)數(shù)，隨機(jī)擾

6、動(dòng)項(xiàng)～，那么yt服從如下的正態(tài)分布：～其中(8.1.5)8y的隨機(jī)抽取的T個(gè)樣本觀測(cè)值的聯(lián)合概率函數(shù)為（8.1.6）這就是變量y的似然函數(shù)，未知參數(shù)向量?={?1,?2,…?k,?2}。對(duì)似然函數(shù)求極大值和對(duì)數(shù)似然函數(shù)求極大值是等價(jià)的，式(8.1.6)的對(duì)數(shù)似然函數(shù)形式為：（8.1.7）9注意，可以將對(duì)數(shù)似然函數(shù)寫(xiě)成t時(shí)刻所有觀測(cè)值的對(duì)數(shù)似然貢獻(xiàn)和的形式，（8.1.8）對(duì)數(shù)似然的單個(gè)貢獻(xiàn)（用小寫(xiě)字母表示）由下面的式子給出：（8.1.9）10式（8.1.7）也可用標(biāo)準(zhǔn)正態(tài)分布的密度函數(shù)?表示（8.

7、1.10）式中標(biāo)準(zhǔn)正態(tài)分布的對(duì)數(shù)似然函數(shù)?為（8.1.11）這里對(duì)數(shù)似然函數(shù)每個(gè)觀測(cè)值的貢獻(xiàn)式(8.1.9)又可以由下面的式子給出：（8.1.12）11§8.1.2EViews極大似然對(duì)象概述用對(duì)數(shù)極大似然估計(jì)來(lái)估計(jì)一個(gè)模型，主要的工作是建立用來(lái)求解似然函數(shù)的說(shuō)明文本。用EViews指定對(duì)數(shù)極大似然函數(shù)的說(shuō)明是很容易的，因?yàn)樗迫缓瘮?shù)的說(shuō)明只是一系列對(duì)序列的賦值語(yǔ)句，這些賦值語(yǔ)句在極大化的過(guò)程中被反復(fù)的計(jì)算。我們所要做的只是寫(xiě)下一組語(yǔ)句，在計(jì)算時(shí)，這些語(yǔ)句將描述一個(gè)包含每個(gè)觀測(cè)值對(duì)似然函數(shù)貢獻(xiàn)的序

8、列。12注意到，我們能將對(duì)數(shù)似然函數(shù)寫(xiě)成所有觀測(cè)值t的對(duì)數(shù)似然貢獻(xiàn)和的形式，這里單個(gè)貢獻(xiàn)由下面的式子給出：13以只含一個(gè)解釋變量的一元線(xiàn)性回歸方程為例,t=1,2,…,T假定知道模型參數(shù)的真實(shí)值，并且想用EViews產(chǎn)生一個(gè)包含每個(gè)觀測(cè)值的貢獻(xiàn)的序列。14未知參數(shù)向量?={?0,?1,?2},可以將參數(shù)初值賦給系數(shù)向量的c(1)到c(3)元素，然后把下面的賦值語(yǔ)句作為EViews的命令或程序來(lái)執(zhí)行。Seriesres=y-c(1)-c(2)*xSeriesvar=c(3)SerieslogL1=