資源描述：
《實(shí)用多元統(tǒng)計(jì)分析 第3講》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、回歸和相關(guān)分析基本概念回歸分析和相關(guān)分析均研究變量之間的線性統(tǒng)計(jì)關(guān)系回歸一個(gè)或一組變量可被觀測者控制得到準(zhǔn)確的量測值另一個(gè)或一組變量是隨機(jī)變化觀測值中含有隨機(jī)誤差相關(guān)成對(duì)或成組變量的觀測值來自于一個(gè)總體的二維或多維變量變量是隨機(jī)變化觀測值中含有隨機(jī)誤差一一元線性回歸和相關(guān)分析例子美國某大學(xué)連續(xù)5年12500記錄了畢業(yè)生的平均起薪11500年平均起薪10500197499500210122310805850041137612345512025問題這5年的平均起薪的趨勢是否可用一條斜線來表示怎樣擬和
2、這條斜線怎樣評(píng)價(jià)斜線對(duì)點(diǎn)擬和的好壞是否能對(duì)平均起薪隨年代增長作一些推論1一元線性回歸模式自變量以距平形式的一元線性回歸模式設(shè)N對(duì)觀測值(x1,y1),…,(xn,yn)來自于因變量Y和自變量Xxi是在觀測者的控制下取值沒有隨機(jī)誤差每個(gè)xi可能都不同也可能有相同的xiyi取值只能是觀測不能控制Y對(duì)X的線性回歸模式為y=α+β(xi?x)+e,i=1,...,N1iiN1其中x=∑xi,Ni=12ei為隨機(jī)誤差部分e是一隨機(jī)變量N0Cov(er,es)=0,rs,和為回歸系數(shù)需要我們估計(jì)由e的性質(zhì)和
3、方程1得到y(tǒng)i的三個(gè)矩為Ε(y)=α+β(x?x)i=1,L,Nii2Var(y)=σiCov(y,y)=0r≠srs22用最小二乘法估計(jì)和即使誤差平方和為s(α,β)=∑ei=∑[yi?α?β(xi?x)]最小s(α,β)分別對(duì)和求導(dǎo)得到方程組??s(α,β)?=2∑[yi?α?β(xi?x)]=0?α??s(α,β)??=?2∑[yi?α?β(xi?x)](xi?x)=0?βN1因?yàn)椤?xi?x)=0α?=∑yi=yNi=1N∑(xi?x)(yi?y)?i=1∑yixi?[(∑yi)(∑xi
4、)]Nβ==N22∑(x?x)2∑xi?(∑xi)Nii=1一般線性回歸模式對(duì)于Χ=x時(shí)Y的預(yù)報(bào)值為y?=y+β?(x?x)iii將上述公式展開y?=y+β?x?β?xy?=(y?β?x)+β?xiiii令β=y?β?x得一般線性回歸模式y(tǒng)=β+βx+e0i0ii令z=y?y?z稱擬和模式的殘差iiii∑∑zi=∑(yi?y?i)=[yi?y?β?(xi?x)]=∑∑(yi?y)?β?(xi?x)=0殘差之和為0估計(jì)參數(shù)的性質(zhì)11βE(α?)=E(∑yi)=∑[α+β(xi?x)]=α+∑(xi
5、?x)=α無偏估計(jì)NNN∑(yi?y)(xi?x)E(β?)=E[]2∑(xi?x)1=2E{∑[α+β(xi?x)+ei?y](xi?x)}∑(xi?x)1=2∑[α+β(xi?x)?E(y)](xi?x)=β無偏估計(jì)∑(xi?x)2σVar(α?)=Var(y)=,N21σVar(β?)=22Var[∑(yi?y)(xi?x)]=2[∑(xi?x)]∑(xi?x)122Cov(α?,β?)=2[σ∑(xi?x)?σ∑(xi?x)]=0α?和β?不相關(guān)N∑(xi?x)]自變量的樣本量越大并離散
6、程度越高估計(jì)參數(shù)的方差越小222令總離差平方和為SSY=∑(yi?y),回歸平方和為SSR=β∑(xi?x)22殘差平方和SSE=∑(yi?y?)=∑[yi?α??β?(xi?x)]22[∑(yi?y)(xi?x)]=∑(yi?y)?2∑(xi?x)222=∑(yi?y)?β?∑(xi?x)=SSY?SSR222E(SSY)=β∑(xi?x)+(N?1)σ222E(SSR)=α+β∑(xi?x)2222222E(SSE)=β∑(xi?x)+(N?1)σ?α?β∑(xi?x)=σ(N?2)2σ?=
7、SSE/(N?2)2誤差的標(biāo)準(zhǔn)差s=SSE/(N?2)=σ估計(jì)參數(shù)的檢驗(yàn)22根據(jù)yN(α+β(x?x),σα?N(α,σ/N)ii222222β?N(β,σ/∑(xi?x)SSE/σ=(N?2)σ?/σ是ΧN?2分布α?β?和SSE是獨(dú)立分布(α??α)對(duì)于來說t=Nσ?1假設(shè)H:α=αagainstH:α>α0010如果t>t,拒絕H接受Hr;N?201t是在r水平上N?2個(gè)自由度時(shí)t分布值r;N?22假設(shè)H:ααagainstH:α≠α0010如果t≤t,接受H否則即t>t,拒絕H接受Hr2
8、;N?20r2;N?201σ?σ?(3)α的1001r)%置信區(qū)間y?t≤α≤y+tr2;N?2r2;N?2NN2β??β0(β??β0)∑(xi?x)對(duì)于來說t==(Var(β)?)σ?(1)假設(shè)H:β=βagainstH:β>β0010如果t>t,拒絕H接受Hr;N?2012假設(shè)H:ββagainstH:β≠β0010如果t≤t,接受H否則即t>t,拒絕H接受Hr2;N?20r2;N?201(3)β的1001r)%置信區(qū)間β??tσ?≤β≤β?+tσ?r2;N?2r2;N?222∑(xi?x
