資源描述：
《多元線性回歸模型多元線性回歸模型ppt課件.ppt》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、第三章經(jīng)典單方程計量經(jīng)濟學(xué)模型：多元線性回歸模型多元線性回歸模型多元線性回歸模型的參數(shù)估計多元線性回歸模型的統(tǒng)計檢驗多元線性回歸模型的預(yù)測回歸模型的其他形式回歸模型的參數(shù)約束§3.1多元線性回歸模型一、多元線性回歸模型二、多元線性回歸模型的基本假定一、多元線性回歸模型多元線性回歸模型:表現(xiàn)在線性回歸模型中的解釋變量有多個。一般表現(xiàn)形式：i=1,2…,n其中:k為解釋變量的數(shù)目，?j稱為回歸參數(shù)（regressioncoefficient）。也被稱為總體回歸函數(shù)的隨機表達形式。它的非隨機表達式為:表示：各變量X值固定時Y的平均響應(yīng)。習(xí)慣上：把常數(shù)項看成為一虛變量的系數(shù)，該虛變量的樣本觀測值始
2、終取1。于是：模型中解釋變量的數(shù)目為（k+1）總體回歸模型n個隨機方程的矩陣表達式為:其中?j也被稱為偏回歸系數(shù)，表示在其他解釋變量保持不變的情況下，Xj每變化1個單位時，Y的均值E(Y)的變化;或者說?j給出了Xj的單位變化對Y均值的“直接”或“凈”（不含其他變量）影響。用來估計總體回歸函數(shù)的樣本回歸函數(shù)為：其隨機表示式:ei稱為殘差或剩余項(residuals)，可看成是總體回歸函數(shù)中隨機擾動項?i的近似替代。樣本回歸函數(shù)的矩陣表達:或其中：二、多元線性回歸模型的基本假定假設(shè)1，解釋變量是非隨機的或固定的，且各X之間互不相關(guān)（無多重共線性）。假設(shè)2，隨機誤差項具有零均值、同方差及不序列
3、相關(guān)性。假設(shè)3，解釋變量與隨機項不相關(guān)假設(shè)4，隨機項滿足正態(tài)分布上述假設(shè)的矩陣符號表示式：假設(shè)1，n?(k+1)矩陣X是非隨機的，且X的秩?=k+1，即X滿秩。假設(shè)2，假設(shè)4，向量?有一多維正態(tài)分布，即同一元回歸一樣，多元回歸還具有如下兩個重要假設(shè)：假設(shè)5，樣本容量趨于無窮時，各解釋變量的方差趨于有界常數(shù)，即n?∞時，假設(shè)3，E(X’?)=0，即其中：Q為一非奇異固定矩陣，矩陣x是由各解釋變量的離差為元素組成的n?k階矩陣假設(shè)6，回歸模型的設(shè)定是正確的。或§3.2多元線性回歸模型的估計一、普通最小二乘估計*二、最大或然估計*三、矩估計四、參數(shù)估計量的性質(zhì)五、樣本容量問題六、估計實例說明估計
4、方法：3大類方法：OLS、ML或者MM在經(jīng)典模型中多應(yīng)用OLS在非經(jīng)典模型中多應(yīng)用ML或者MM在本節(jié)中，ML與MM為選學(xué)內(nèi)容一、普通最小二乘估計對于隨機抽取的n組觀測值如果樣本函數(shù)的參數(shù)估計值已經(jīng)得到，則有：i=1,2…n根據(jù)最小二乘原理，參數(shù)估計值應(yīng)該是右列方程組的解其中于是得到關(guān)于待估參數(shù)估計值的正規(guī)方程組：解該（k+1）個方程組成的線性代數(shù)方程組，即可得到(k+1)個待估參數(shù)的估計值$,,,,,bjj=012L。k□正規(guī)方程組的矩陣形式即由于X’X滿秩，故有將上述過程用矩陣表示如下：即求解方程組：得到：于是：例3.2.1：在例2.1.1的家庭收入-消費支出例中，可求得：于是：?正規(guī)方
5、程組的另一種寫法對于正規(guī)方程組于是或(*)或（**）是多元線性回歸模型正規(guī)方程組的另一種寫法。(*)(**)?樣本回歸函數(shù)的離差形式i=1,2…n其矩陣形式為：其中：在離差形式下，參數(shù)的最小二乘估計結(jié)果為?隨機誤差項?的方差?的無偏估計可以證明，隨機誤差項?的方差的無偏估計量為：*二、最大或然估計對于多元線性回歸模型易知Y的隨機抽取的n組樣本觀測值的聯(lián)合概率對數(shù)或然函數(shù)為對對數(shù)或然函數(shù)求極大值，也就是對求極小值。即為變量Y的或然函數(shù)因此，參數(shù)的最大或然估計為結(jié)果與參數(shù)的普通最小二乘估計相同*三、矩估計（MomentMethod,MM）OLS估計是通過得到一個關(guān)于參數(shù)估計值的正規(guī)方程組并對它
6、進行求解而完成的。該正規(guī)方程組可以從另外一種思路來導(dǎo):求期望:稱為原總體回歸方程的一組矩條件，表明了原總體回歸方程所具有的內(nèi)在特征。由此得到正規(guī)方程組解此正規(guī)方程組即得參數(shù)的MM估計量。易知MM估計量與OLS、ML估計量等價。矩方法是工具變量方法(InstrumentalVariables,IV)和廣義矩估計方法(GeneralizedMomentMethod,GMM)的基礎(chǔ)在矩方法中利用了關(guān)鍵是E(X’?)=0如果某個解釋變量與隨機項相關(guān)，只要能找到1個工具變量，仍然可以構(gòu)成一組矩條件。這就是IV。如果存在＞k+1個變量與隨機項不相關(guān)，可以構(gòu)成一組包含＞k+1方程的矩條件。這就是GMM。
7、四、參數(shù)估計量的性質(zhì)在滿足基本假設(shè)的情況下，其結(jié)構(gòu)參數(shù)?的普通最小二乘估計、最大或然估計及矩估計仍具有：線性性、無偏性、有效性。同時，隨著樣本容量增加，參數(shù)估計量具有：漸近無偏性、漸近有效性、一致性。1、線性性其中,C=(X’X)-1X’為一僅與固定的X有關(guān)的行向量2、無偏性3、有效性（最小方差性）這里利用了假設(shè):E(X’?)=0其中利用了和五、樣本容量問題所謂“最小樣本容量”，即從最小二乘原理和最大或然原理出發(fā)，欲得到
