線性模型參數(shù)的多種估計(jì)方法的隨機(jī)模擬

《線性模型參數(shù)的多種估計(jì)方法的隨機(jī)模擬》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)。

1、線性模型參數(shù)的多種估計(jì)方法的隨機(jī)模擬問(wèn)題的陳述：人們常常使用線性模型對(duì)數(shù)據(jù)進(jìn)行回歸與預(yù)測(cè)，在假定了數(shù)據(jù)的自變量X與響應(yīng)變量Y具有線性關(guān)系Y=α+β·X+ε之后，我們可以對(duì)參數(shù)值進(jìn)行估計(jì)，從而達(dá)到對(duì)模型進(jìn)行估計(jì)的效果。這是本次模擬要處理的主要問(wèn)題，即各種估計(jì)方式的優(yōu)劣判別。目的的陳述：對(duì)于給定的數(shù)據(jù)X，Y（兩列數(shù)據(jù)），我們將對(duì)4種距離：d1(a,b)=

2、(y–a–b*x)/b2+1

3、；d2(a,b)=

4、(y–a–b*x)

5、；d3(a,b)=

6、(y–a–b*x)/b

7、；d4(a,b)=

8、y–a–b*x2/b

9、與3種計(jì)算方式f1a,b=sum

10、(d(a,b))、f2a,b=max?(d(a,b))、f3a,b=sum(d(a,b)^2)（每個(gè)元素平方）進(jìn)行優(yōu)劣比較。試驗(yàn)的設(shè)計(jì)：對(duì)一組給定的數(shù)據(jù)X，Y，我們將通過(guò)極小化目標(biāo)函數(shù)f1、f2、f3的方式來(lái)求得a與b。第零部分，比較通過(guò)隨機(jī)數(shù)產(chǎn)生的樣本點(diǎn)與固定樣本點(diǎn)對(duì)參數(shù)估計(jì)帶來(lái)的影響。第一部分，比較距離函數(shù)d1、d2、d3、d4對(duì)參數(shù)估計(jì)帶來(lái)的影響。方法如下：對(duì)每一個(gè)計(jì)算方式f1、f2、f3，與每一組數(shù)據(jù)，我們分別計(jì)算使用4種不同距離函數(shù)得到的參數(shù)值并且將其對(duì)比。第二部分，比較計(jì)算方式f1、f2、f3的優(yōu)劣。方法如下：對(duì)4種距離中的

11、每一種，我們都用3種計(jì)算方式來(lái)得到估計(jì)的參數(shù)值，并將其對(duì)比。關(guān)于參數(shù)估計(jì)的其他興趣：參數(shù)估計(jì)值的漸近性質(zhì)。對(duì)上文的任意一個(gè)單項(xiàng)的檢驗(yàn)，我們都遵從如下步驟：Step1：產(chǎn)生n個(gè)樣本點(diǎn)（固定樣本點(diǎn)等距離取定即可，隨機(jī)樣本點(diǎn)Xi~iidU(0,1)或Xi~iidN(2,1)），產(chǎn)生對(duì)應(yīng)于n個(gè)樣本點(diǎn)的隨機(jī)誤差?i~iidN(0,σ2)，σ2可以取1與0.1，或者?i~iidCauchy(0,1)。對(duì)應(yīng)的Yi=α+β·Xi+?i。從而，我們得到了“數(shù)據(jù)”，(X1,Y1),(X2,Y2)…(Xn,Yn)。Step2：利用上文產(chǎn)生的“數(shù)據(jù)”，我們分別

12、通過(guò)最小化對(duì)應(yīng)的f函數(shù)的方式來(lái)得到參數(shù)α與β的估計(jì)，a與b。Step3：重復(fù)Step1&Step2n_repeat次，得到若干組估計(jì)值a、bStep4：對(duì)得到的估計(jì)數(shù)據(jù)進(jìn)行分析。1、通過(guò)方差、偏倚直接描述估計(jì)值，2、通過(guò)假設(shè)檢驗(yàn)的方式比較不同的計(jì)算方式得來(lái)的結(jié)果。第零部分：探究X取固定樣本點(diǎn)與隨機(jī)樣本點(diǎn)的關(guān)系（代碼統(tǒng)一見(jiàn)1.txt，在代碼里，可供修改的參數(shù)處已經(jīng)做好批注）1、?i~iidN(0,σ2)，σ2=0.1，比較X~U0,1與X在0,1中等距取樣本點(diǎn)兩者在參數(shù)估計(jì)上的效果。計(jì)算方式采用d2與f3的結(jié)合。單次試驗(yàn)樣本數(shù)n=100，

13、試驗(yàn)重復(fù)數(shù)n_repeat=10000。結(jié)果展示：Part1：采用隨機(jī)樣本點(diǎn)得到的a、b的估計(jì)值的直方圖均值與方差：有關(guān)a的估計(jì)值：mean=0.9999975，var=0.0004027有關(guān)b的估計(jì)值：mean=2.000021，var=0.00120413采用固定樣本點(diǎn)得到的a、b的估計(jì)值的直方圖均值與方差：有關(guān)a的估計(jì)值：mean=1.000002，var=0.0004017有關(guān)b的估計(jì)值：mean=2.000052，var=0.0012546Part2：檢驗(yàn)兩種估計(jì)方式的均值和方差是否相同1）均值是否相同？由于這里兩種估計(jì)方式的

14、樣本數(shù)量都高達(dá)10000，遠(yuǎn)大于30，我們可以認(rèn)為這是大樣本的檢驗(yàn)，我們計(jì)算兩次估計(jì)得到的樣本的z值對(duì)a的估計(jì)值：z=meanx1-mean(x2)var(x1)10000+var(x2)10000=-0.01539，這個(gè)值的絕對(duì)值遠(yuǎn)遠(yuǎn)小于1.96（95%significance），于是我們便沒(méi)有充分的理由拒絕兩者均值相同的假設(shè)。對(duì)b的估計(jì)值：同上計(jì)算得到z=-0.06282，同樣，我們也沒(méi)有充分的理由拒絕兩者有相同的期望1）方差是否相同？計(jì)算F-ratio，F(xiàn)=max{var(x1)var(x2)，var(x2)var(x1)}，對(duì)自

15、由度為（9999,9999）的F分布，F(xiàn)0.05=1.033447，F(xiàn)0.01=1.047632對(duì)a的估計(jì)值：F=1.002618F=1.041891>F0.05，同樣我們有95%可信度來(lái)拒絕關(guān)于b的估計(jì)兩者具有相同的方差，不過(guò)，沒(méi)有99%的可信度。Part3：綜上所述，在d2，f3這一計(jì)算方式下，樣本點(diǎn)取值是[0,1]均勻隨機(jī)變量或是給定的等距節(jié)點(diǎn)對(duì)參數(shù)值的估計(jì)在均值層面沒(méi)有影響，但在β的估計(jì)上，兩者的離散程度不同。1、?i~iidN(0,σ2)，σ

16、2=1，比較X~N2,1與X在-1,3中等距取樣本點(diǎn)兩者在參數(shù)估計(jì)上的效果。計(jì)算方式采用d2與f3的結(jié)合。單次試驗(yàn)樣本數(shù)n=100，試驗(yàn)重復(fù)數(shù)n_repeat=10000。結(jié)果展示：Part1：采用隨機(jī)樣本