多重線性回歸課件.ppt

《多重線性回歸課件.ppt》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、多重線性回歸分析醫(yī)學(xué)統(tǒng)計(jì)學(xué)教研室柳偉偉2一、方法簡介1.2概念用回歸方程定量地刻畫一個(gè)因變量與多個(gè)自變量之間的線性依存關(guān)系，稱為多重線性回歸分析（multiplelinearregressionanalysis）。自變量是相互獨(dú)立的連續(xù)型變量或分類變量。一、方法簡介1.3數(shù)據(jù)結(jié)構(gòu)表1進(jìn)行多重線性回歸分析資料的數(shù)據(jù)結(jié)構(gòu)3編號(hào)X1X2…XkY1X11X12…X1kY12X21X22…X2kY2：：：：：nXn1Xn2…XnkYn4二、基本原理2.1原理簡介多重線性回歸模型：Y=b0+b1X1+b2X2+…+bkXk+e其中，bj(j=0,1,2…,k)為未知參數(shù)，e為隨機(jī)誤差項(xiàng)。5二、基本

2、原理2.1原理簡介多重線性回歸模型中包含多個(gè)自變量，它們同時(shí)對(duì)因變量Y發(fā)生作用。若要考察一個(gè)自變量對(duì)Y的影響，就必須假設(shè)其他自變量保持不變。6二、基本原理2.1原理簡介因此，多重線性回歸模型中的回歸系數(shù)為偏回歸系數(shù)。它反映的是當(dāng)模型中的其他自變量不變時(shí)，其中一個(gè)自變量對(duì)因變量Y的均值的影響。7二、基本原理2.2前提條件多重線性回歸分析要求資料滿足線性(Linear)、獨(dú)立性(Independence)、正態(tài)性(Normality)和方差齊性(Equalvariance)。除此之外，還要求多個(gè)自變量之間相關(guān)性不要太強(qiáng)。8二、基本原理2.2前提條件線性——指自變量與因變量之間的關(guān)系是線性的

3、獨(dú)立性——指各觀測值之間是相互獨(dú)立的正態(tài)性——指自變量取不同值時(shí)，因變量服從正態(tài)分布方差齊性——指自變量取不同值時(shí)，因變量的方差相等9三、分析步驟1.基本任務(wù)求出模型中參數(shù)的估計(jì)值，對(duì)模型和參數(shù)進(jìn)行假設(shè)檢驗(yàn)；對(duì)自變量進(jìn)行共線性診斷，對(duì)觀測值進(jìn)行異常點(diǎn)診斷；結(jié)合統(tǒng)計(jì)學(xué)知識(shí)和專業(yè)知識(shí)，對(duì)回歸方程進(jìn)行合理的解釋，并加以應(yīng)用。10三、分析步驟2.具體步驟2.1回歸參數(shù)估計(jì)多重線性回歸分析的參數(shù)估計(jì)，常采用最小二乘法(OLS)進(jìn)行。該方法使殘差平方和達(dá)到最小，從而得出模型參數(shù)估計(jì)值表示Y的估計(jì)值11三、分析步驟2.具體步驟2.2模型檢驗(yàn)根據(jù)方差分析的思想，將總的離均差平方和SS總分解為回歸平方和

4、SS回和殘差平方和SS殘兩部分。SS總的自由度為n-1，SS回的自由度為k，SS殘的自由度為n-k-1。12三、分析步驟2.具體步驟2.2模型檢驗(yàn)13三、分析步驟2.具體步驟2.2模型檢驗(yàn)?zāi)Ｐ偷娘@著性檢驗(yàn)步驟為：第一步，建立檢驗(yàn)假設(shè)。H0：b1=b2=…=bk=0H1:b1,b2,…,bk不同時(shí)為014三、分析步驟2.具體步驟2.2模型檢驗(yàn)第二步，計(jì)算統(tǒng)計(jì)量F的值。15三、分析步驟2.具體步驟2.2模型檢驗(yàn)第三步，確定P值，下統(tǒng)計(jì)學(xué)結(jié)論。根據(jù)檢驗(yàn)統(tǒng)計(jì)量F的值和自由度，確定其對(duì)應(yīng)的P值。若P>a，則接受H0，認(rèn)為回歸模型的系數(shù)全部為0；若P

5、全為0。16三、分析步驟2.具體步驟2.3參數(shù)檢驗(yàn)回歸方程有統(tǒng)計(jì)學(xué)意義，可以說明整體上自變量對(duì)Y有影響，但并不意味著每個(gè)自變量對(duì)因變量的影響都有統(tǒng)計(jì)學(xué)意義。17三、分析步驟2.具體步驟2.3參數(shù)檢驗(yàn)考察各個(gè)自變量對(duì)因變量的影響，即檢驗(yàn)其系數(shù)是否為0。若某自變量對(duì)因變量的影響無統(tǒng)計(jì)學(xué)意義，可將其從模型中刪除，重新建立回歸方程。18三、分析步驟2.具體步驟2.3參數(shù)檢驗(yàn)對(duì)自變量Xi的系數(shù)是否為0進(jìn)行假設(shè)檢驗(yàn)，步驟為：第一步，建立檢驗(yàn)假設(shè)。H0：bi=0H1:bi≠019三、分析步驟2.具體步驟2.3參數(shù)檢驗(yàn)第二步，計(jì)算檢驗(yàn)統(tǒng)計(jì)量。20三、分析步驟2.具體步驟2.3參數(shù)檢驗(yàn)第三步，確定P值。

6、根據(jù)自由度和臨界水平，查t分布表，可得雙側(cè)界值為ta/2(n-k-1)。21三、分析步驟2.具體步驟2.3參數(shù)檢驗(yàn)若t>ta/2(n-k-1)或t<-ta/2(n-k-1)，則P

7、能地不漏掉重要的自變量；二要盡可能地減少自變量的個(gè)數(shù)，保持模型的精簡。24三、分析步驟2.具體步驟2.4變量篩選常用的變量篩選方法有以下8種：前進(jìn)法后退法逐步回歸法最大R2增量法最小R2增量法R2選擇法修正R2選擇法Mallow’sCp選擇法25三、分析步驟2.4.1前進(jìn)法(FORWARD)回歸方程中變量從無到有依次選擇一個(gè)自變量進(jìn)入回歸方程，并計(jì)算該變量對(duì)應(yīng)的F統(tǒng)計(jì)量及P值。當(dāng)P小于納入標(biāo)準(zhǔn)(規(guī)定的選變量進(jìn)入方程的臨界水平)，則該變量入選，否