回歸方程及回歸系數的顯著性檢驗

《回歸方程及回歸系數的顯著性檢驗》由會員上傳分享，免費在線閱讀，更多相關內容在行業(yè)資料-天天文庫。

1、§3回歸方程及回歸系數的顯著性檢驗?。?、回歸方程的顯著性檢驗(1)回歸平方和與剩余平方和　　建立回歸方程以后,回歸效果如何呢？因變量與自變量是否確實存在線性關系呢？這是需要進行統(tǒng)計檢驗才能加以肯定或否定,為此,我們要進一步研究因變量取值的變化規(guī)律。的每次取值是有波動的,這種波動常稱為變差,每次觀測值的變差大小,常用該次觀側值與次觀測值的平均值的差(稱為離差)來表示,而全部次觀測值的總變差可由總的離差平方和　　　　,其中:　　稱為回歸平方和,是回歸值與均值之差的平方和,它反映了自變量的變化所引起的的波動,其自由度(為自變量的個數)?！　》Q為剩余平方和(或稱殘差

2、平方和),是實測值與回歸值之差的平方和,它是由試驗誤差及其它因素引起的,其自由度?？偟碾x差平方和的自由度為?！　∪绻^測值給定,則總的離差平方和是確定的,即是確定的,因此大則小,反之,小則大,所以與都可用來衡量回歸效果,且回歸平方和越大則線性回歸效果越顯著,或者說剩余平方和越小回歸效果越顯著,如果＝0,則回歸超平面過所有觀測點;如果大,則線性回歸效果不好。(2)復相關系數　　為檢驗總的回歸效果,人們也常引用無量綱指標　　　　,(3.1)或　　　　,(3.2)稱為復相關系數。因為回歸平方和實際上是反映回歸方程中全部自變量的“方差貢獻”,因此就是這種貢獻在總回歸

3、平方和中所占的比例,因此表示全部自變量與因變量的相關程度。顯然。復相關系數越接近１,回歸效果就越好,因此它可以作為檢驗總的回歸效果的一個指標。但應注意,與回歸方程中自變量的個數及觀測組數有關,當相對于并不很大時,常有較大的值,因此實際計算中應注意與的適當比例,一般認為應取至少為的５到10倍為宜。(3)檢驗　　要檢驗與是否存在線性關系,就是要檢驗假設　　　　,(3.3)當假設成立時,則與無線性關系,否則認為線性關系顯著。檢驗假設應用統(tǒng)計量　　　　,(3.4)這是兩個方差之比,它服從自由度為及的分布,即　　　　,(3.5)用此統(tǒng)計量可檢驗回歸的總體效果。如果假設

4、成立,則當給定檢驗水平α下,統(tǒng)計量應有　　　　≤,(3.6)對于給定的置信度α,由分布表可查得的值,如果根據統(tǒng)計量算得的值為,則拒絕假設,即不能認為全部為O,即個自變量的總體回歸效果是顯著的,否則認為回歸效果不顯著。　　利用檢驗對回歸方程進行顯著性檢驗的方法稱為方差分析。上面對回歸效果的討論可歸結于一個方差分析表中,如表3.1。表3.1方差分析表來源平方和自由度方差方差比回歸　剩余總計　　　　根據與的定義,可以導出與的以下關系:　　　　,　　　　?！　±眠@兩個關系式可以解決值多大時回歸效果才算是顯著的問題。因為對給定的檢驗水平α,由分布表可查出的臨界值,然

5、后由即可求出的臨界值:　　　　,(3.7)當時,則認為回歸效果顯著。例3.1利用方差分析對例2.1的回歸方程進行顯著性檢驗。　　方差分析結果見表3.2。表3.2總計　　取檢驗水平α＝0.05,查分布表得,而,所以例2.1的回歸方程回歸效果是顯著的?！。?、回歸系數的顯著性檢驗　　前面討論了回歸方程中全部自變量的總體回歸效果,但總體回歸效果顯著并不說明每個自變量對因變量都是重要的,即可能有某個自變量對并不起作用或者能被其它的的作用所代替,因此對這種自變量我們希望從回歸方程中剔除,這樣可以建立更簡單的回歸方程。顯然某個自變量如果對作用不顯著,則它的系數就應取值為0

6、,因此檢驗每個自變量是否顯著,就要檢驗假設:　　　　,,(3.8)(1)檢驗:　　在假設下,可應用檢驗:　　　　,,(3.9)其中為矩陣的對角線上第個元素。　　對給定的檢驗水平α,從分布表中可查出與α對應的臨界值,如果有,則拒絕假設,即認為與0有顯著差異,這說明對有重要作用不應剔除;如果有則接受假設,即認為成立,這說明對不起作用,應予剔除。(2)檢驗:　　檢驗假設,亦可用服從自由度分別為1與的分布的統(tǒng)計量　　　　,(3.10)其中為矩陣的主對角線上第個元素。對于給定的檢驗水平α,從分布表中可查得臨界,如果有,則拒絕假設,認為對有重要作用。如果,則接受假設,即

7、認為自變量對不起重要作用,可以剔除。一般一次檢驗只剔除一個自變量,且這個自變量是所有不顯著自變量中值最小者,然后再建立回歸方程,并繼續(xù)進行檢驗,直到建立的回歸方程及各個自變量均顯著為止。　　最后指出,上述對各自變量進行顯著性檢驗采用的兩種統(tǒng)計量與實際上是等價的,因為由(3.9)式及(3.10)式知,有　　　　(3.11)例3.2對例2.1的回歸方程各系數進行顯著性檢驗?！　〗浻嬎?　　　　,于是　　　　,其中＝0.002223,＝0.004577。由(3.7)式知　　　　,　　　　,查分布表得,,因為,,所以兩個自變量及都是顯著的。又由,說明體長比胸圍對體重

8、的影響更大?！　∪绻麘脵z驗,查分布表有,又由