§32 多元線(xiàn)性回歸模型的參數(shù)估計(jì).ppt

《§32 多元線(xiàn)性回歸模型的參數(shù)估計(jì).ppt》由會(huì)員上傳分享，免費(fèi)在線(xiàn)閱讀，更多相關(guān)內(nèi)容在應(yīng)用文檔-天天文庫(kù)。

1、§3.2多元線(xiàn)性回歸模型的估計(jì)估計(jì)方法：OLS、ML或者M(jìn)M一、普通最小二乘估計(jì)*二、最大或然估計(jì)*三、矩估計(jì)四、參數(shù)估計(jì)量的性質(zhì)五、樣本容量問(wèn)題六、估計(jì)實(shí)例一、普通最小二乘估計(jì)對(duì)于隨機(jī)抽取的n組觀測(cè)值如果樣本函數(shù)的參數(shù)估計(jì)值已經(jīng)得到，則有：i=1,2…n根據(jù)最小二乘原理，參數(shù)估計(jì)值應(yīng)該是下列方程組的解其中于是得到關(guān)于待估參數(shù)估計(jì)值的正規(guī)方程組：正規(guī)方程組的矩陣形式即由于X’X滿(mǎn)秩，故有將上述過(guò)程用矩陣表示如下：即求解方程組：得到：于是：例3.2.1：家庭收入-消費(fèi)支出，可求得于是?正規(guī)方程組的另一種寫(xiě)法對(duì)于正規(guī)方程組于是或(*)或（**）是多元線(xiàn)性回歸

2、模型正規(guī)方程組的另一種寫(xiě)法(*)(**)?樣本回歸函數(shù)的離差形式i=1,2…n其矩陣形式為其中：在離差形式下，參數(shù)的最小二乘估計(jì)結(jié)果為?隨機(jī)誤差項(xiàng)?的方差?的無(wú)偏估計(jì)可以證明，隨機(jī)誤差項(xiàng)?的方差的無(wú)偏估計(jì)量為*二、最大似然估計(jì)對(duì)于多元線(xiàn)性回歸模型易知Y的隨機(jī)抽取的n組樣本觀測(cè)值的聯(lián)合概率即為變量Y的似然函數(shù)對(duì)數(shù)或然函數(shù)為對(duì)對(duì)數(shù)或然函數(shù)求極大值，也就是對(duì)求極小值。因此，參數(shù)的最大或然估計(jì)為結(jié)果與參數(shù)的普通最小二乘估計(jì)相同*三、矩估計(jì)（MomentMethod,MM）OLS估計(jì)是通過(guò)得到一個(gè)關(guān)于參數(shù)估計(jì)值的正規(guī)方程組并對(duì)它進(jìn)行求解而完成的。該正規(guī)方程組可以從

3、另外一種思路來(lái)導(dǎo):求期望:稱(chēng)為原總體回歸方程的一組矩條件，表明了原總體回歸方程所具有的內(nèi)在特征。由此得到正規(guī)方程組解此正規(guī)方程組即得參數(shù)的MM估計(jì)量。易知MM估計(jì)量與OLS、ML估計(jì)量等價(jià)。矩方法是工具變量方法(InstrumentalVariables,IV)和廣義矩估計(jì)方法(GeneralizedMomentMethod,GMM)的基礎(chǔ)在矩方法中關(guān)鍵是利用了E(X’?)=0如果某個(gè)解釋變量與隨機(jī)項(xiàng)相關(guān)，只要能找到1個(gè)工具變量，仍然可以構(gòu)成一組矩條件。這就是IV。如果存在＞k+1個(gè)變量與隨機(jī)項(xiàng)不相關(guān)，可以構(gòu)成一組包含＞k+1方程的矩條件。這就是GMM。

4、四、參數(shù)估計(jì)量的性質(zhì)在滿(mǎn)足基本假設(shè)的情況下，其結(jié)構(gòu)參數(shù)?的普通最小二乘估計(jì)、最大或然估計(jì)及矩估計(jì)仍具有：線(xiàn)性性、無(wú)偏性、有效性。同時(shí)，隨著樣本容量增加，參數(shù)估計(jì)量具有：漸近無(wú)偏性、漸近有效性、一致性。1、線(xiàn)性性其中,C=(X’X)-1X’為一僅與固定的X有關(guān)的行向量2、無(wú)偏性這里利用了假設(shè):E(X’?)=03、有效性（最小方差性）其中利用了和五、樣本容量問(wèn)題所謂“最小樣本容量”，即從最小二乘原理和最大或然原理出發(fā)，欲得到參數(shù)估計(jì)量，不管其質(zhì)量如何，所要求的樣本容量的下限。⒈最小樣本容量樣本最小容量必須不少于模型中解釋變量的數(shù)目（包括常數(shù)項(xiàng)）,即n?k+1

5、因?yàn)?，無(wú)多重共線(xiàn)性要求：秩(X)=k+12、滿(mǎn)足基本要求的樣本容量從統(tǒng)計(jì)檢驗(yàn)的角度：n?30時(shí)，Z檢驗(yàn)才能應(yīng)用；n-k?8時(shí),t分布較為穩(wěn)定一般經(jīng)驗(yàn)認(rèn)為:當(dāng)n?30或者至少n?3(k+1)時(shí)，才能說(shuō)滿(mǎn)足模型估計(jì)的基本要求。模型的良好性質(zhì)只有在大樣本下才能得到理論上的證明六、多元線(xiàn)性回歸模型的參數(shù)估計(jì)實(shí)例例3.2.2在例2.5.1中，已建立了中國(guó)居民人均消費(fèi)一元線(xiàn)性模型。這里我們?cè)倏紤]建立多元線(xiàn)性模型。解釋變量：人均GDP：GDPP前期消費(fèi)：CONSP(-1)估計(jì)區(qū)間：1979~2000年Eviews軟件估計(jì)結(jié)果23六、多元線(xiàn)性回歸模型的參數(shù)估計(jì)實(shí)例例子：

6、基于一些數(shù)據(jù)估計(jì)中國(guó)宏觀生產(chǎn)函數(shù)Se：0.78800.09020.0220t值：-11.313677.353434.1171p值：0.00000.00000.0000P值非常小，這表明各個(gè)解釋變量對(duì)被解釋變量有顯著的解釋作用?；貞洠篜值是檢驗(yàn)結(jié)論犯第一類(lèi)“棄真”錯(cuò)誤的概率。P值非常小的含義是什么呢？