資源描述:
《多元線性回歸模型及參數(shù)估計》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、§2.3多元線性回歸模型的參數(shù)估計EstimationofMultipleLinearRegressionModel一、多元線性回歸模型二、多元線性回歸模型的參數(shù)估計三、OLS參數(shù)估計量的統(tǒng)計性質(zhì)四、樣本容量問題五、多元線性回歸模型實例一、多元線性回歸模型1、多元線性回歸模型的形式由于:在實際經(jīng)濟問題中,一個變量往往受到多個原因變量的影響;“從一般到簡單”的建模思路。所以,線性回歸模型中的解釋變量往往有多個,至少開始是這樣。這樣的模型被稱為多元線性回歸模型。多元線性回歸模型參數(shù)估計的原理與一元和二元線性回歸模型相同,只是計算更為復雜。多元線性回歸模型的一般形式為:習慣上,把常數(shù)項μi看成
2、為一個虛變量的系數(shù),在參數(shù)估計過程中該虛變量的樣本觀測值始終取1。這樣:模型中解釋變量的數(shù)目為(k+1)。i=1,2,…,n多元線性回歸模型的矩陣表達式為:其中2、多元線性回歸模型的基本假定多元線性回歸模型在滿足下列基本假設(shè)的情況下,可以采用普通最小二乘法(OLS)估計參數(shù)。關(guān)于多元線性回歸模型的基本假定二、多元線性回歸模型的參數(shù)估計1、普通最小二乘估計普通最小二乘估計(i=1,2,…,n)根據(jù)最小二乘原理,參數(shù)估計值應(yīng)該是下列方程組的解:其中于是得到關(guān)于待估參數(shù)估計值的正規(guī)方程組:上述估計過程的矩陣表示:其中從而,被解釋變量的觀測值與估計值之差的平方和為:隨機誤差項的均值為0,方差的估
3、計量為:于是,得到正規(guī)方程組:參數(shù)的最小二乘估計值為:2、最大或然估計Y的隨機抽取的n組樣本觀測值的聯(lián)合概率對數(shù)或然函數(shù)為參數(shù)的最大或然估計結(jié)果與參數(shù)的普通最小二乘估計相同三、OLS參數(shù)估計量的統(tǒng)計性質(zhì)1.線性2.無偏性這里利用了解釋變量與隨機誤差項不相關(guān)的假設(shè),即3.有效性其中利用了根據(jù)高斯—馬爾可夫定理,上述方差在所有無偏估計量的方差中是最小的,所以普通最小二乘參數(shù)估計量具有有效性。參數(shù)估計量的方差-協(xié)方差矩陣4.隨機誤差項方差估計量的性質(zhì)由于被解釋變量的估計值與觀測值之間的殘差殘差的平方和為:所以有其中符號“tr”表示矩陣的跡,其定義為矩陣主對角線元素的和。于是所以,隨機誤差項方差
4、的無偏估計量為四、樣本容量問題1、最小樣本容量2、滿足基本要求的樣本容量計量經(jīng)濟學模型,說到底是從表現(xiàn)已經(jīng)發(fā)生的經(jīng)濟活動的樣本數(shù)據(jù)中尋找經(jīng)濟活動中內(nèi)含的規(guī)律性,所以,它對樣本數(shù)據(jù)具有很強的依賴性。⒈最小樣本容量最小樣本容量:是指從最小二乘原理出發(fā),欲得到參數(shù)估計量,不管其質(zhì)量如何,所要求的樣本容量的下限。樣本容量必須不少于模型中解釋變量的數(shù)目(包括常數(shù)項),這就是最小樣本容量:2、滿足基本要求的樣本容量雖然當n≥k+1時,可以得到參數(shù)估計量,但除了參數(shù)估計量質(zhì)量不好以外,一些建立模型所必須的后續(xù)工作也無法進行。一般經(jīng)驗認為當n330或者至少nk3+31()時,才能說滿足模型估計的基本要求
5、。五、多元線性回歸模型實例中國消費函數(shù)模型根據(jù)消費模型的一般形式,選擇消費總額為被解釋變量,國內(nèi)生產(chǎn)總值和前一年的消費總額為解釋變量,變量之間關(guān)系為簡單線性關(guān)系,選取1981年至1996年統(tǒng)計數(shù)據(jù)為樣本觀測值。中國消費數(shù)據(jù)表單位:億元模型估計結(jié)果擬合效果