協(xié)方差矩陣和相關(guān)矩陣

《協(xié)方差矩陣和相關(guān)矩陣》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、一、協(xié)方差矩陣變量說明：設(shè)為一組隨機(jī)變量，這些隨機(jī)變量構(gòu)成隨機(jī)向量，每個(gè)隨機(jī)變量有m個(gè)樣本，則有樣本矩陣????????????????????????????????其中對(duì)應(yīng)著每個(gè)隨機(jī)向量X的樣本向量，對(duì)應(yīng)著第i個(gè)隨機(jī)單變量的所有樣本值構(gòu)成的向量。單隨機(jī)變量間的協(xié)方差：隨機(jī)變量之間的協(xié)方差可以表示為??????????????根據(jù)已知的樣本值可以得到協(xié)方差的估計(jì)值如下：??????????????????可以進(jìn)一步地簡(jiǎn)化為：?????????????????????????????????????????協(xié)方差矩陣：???????

2、?????????????????（5）其中，從而得到了協(xié)方差矩陣表達(dá)式。如果所有樣本的均值為一個(gè)零向量，則式（5）可以表達(dá)成：???補(bǔ)充說明：1、協(xié)方差矩陣中的每一個(gè)元素是表示的隨機(jī)向量X的不同分量之間的協(xié)方差，而不是不同樣本之間的協(xié)方差，如元素Cij就是反映的隨機(jī)變量Xi,Xj的協(xié)方差。2、協(xié)方差是反映的變量之間的二階統(tǒng)計(jì)特性，如果隨機(jī)向量的不同分量之間的相關(guān)性很小，則所得的協(xié)方差矩陣幾乎是一個(gè)對(duì)角矩陣。對(duì)于一些特殊的應(yīng)用場(chǎng)合，為了使隨機(jī)向量的長(zhǎng)度較小，可以采用主成分分析的方法，使變換之后的變量的協(xié)方差矩陣完全是一個(gè)對(duì)角矩陣，之

3、后就可以舍棄一些能量較小的分量了（對(duì)角線上的元素反映的是方差，也就是交流能量）。3、必須注意的是，這里所得到的式（5）和式（6）給出的只是隨機(jī)向量協(xié)方差矩陣真實(shí)值的一個(gè)估計(jì)（即由所測(cè)的樣本的值來表示的，隨著樣本取值的不同會(huì)發(fā)生變化），故而所得的協(xié)方差矩陣是依賴于采樣樣本的，并且樣本的數(shù)目越多，樣本在總體中的覆蓋面越廣，則所得的協(xié)方差矩陣越可靠。4、如同協(xié)方差和相關(guān)系數(shù)的關(guān)系一樣，我們有時(shí)為了能夠更直觀地知道隨機(jī)向量的不同分量之間的相關(guān)性究竟有多大，還會(huì)引入相關(guān)系數(shù)矩陣。5、協(xié)方差作為描述X和Y相關(guān)程度的量，在同一物理量綱之下有一定的

4、作用，但同樣的兩個(gè)量采用不同的量綱使它們的協(xié)方差在數(shù)值上表現(xiàn)出很大的差異。由此引入相關(guān)系數(shù)。二、相關(guān)矩陣（相關(guān)系數(shù)矩陣）相關(guān)系數(shù)：??????著名統(tǒng)計(jì)學(xué)家卡爾·皮爾遜設(shè)計(jì)了統(tǒng)計(jì)指標(biāo)——相關(guān)系數(shù)。相關(guān)系數(shù)是用以反映變量之間相關(guān)關(guān)系密切程度的統(tǒng)計(jì)指標(biāo)。相關(guān)系數(shù)是按積差方法計(jì)算，同樣以兩變量與各自平均值的離差為基礎(chǔ)，通過兩個(gè)離差相乘來反映兩變量之間相關(guān)程度；著重研究線性的單相關(guān)系數(shù)。??????依據(jù)相關(guān)現(xiàn)象之間的不同特征，其統(tǒng)計(jì)指標(biāo)的名稱有所不同。如將反映兩變量間線性相關(guān)關(guān)系的統(tǒng)計(jì)指標(biāo)稱為相關(guān)系數(shù)（相關(guān)系數(shù)的平方稱為判定系數(shù)）；將反映兩變

5、量間曲線相關(guān)關(guān)系的統(tǒng)計(jì)指標(biāo)稱為非線性相關(guān)系數(shù)、非線性判定系數(shù)；將反映多元線性相關(guān)關(guān)系的統(tǒng)計(jì)指標(biāo)稱為復(fù)相關(guān)系數(shù)、復(fù)判定系數(shù)等。??????相關(guān)系數(shù)用r表示，它的基本公式（formula）為：　　?????????????????　　相關(guān)系數(shù)的值介于–1與+1之間，即–1≤r≤+1。其性質(zhì)如下：·當(dāng)r>0時(shí)，表示兩變量正相關(guān)，r<0時(shí)，兩變量為負(fù)相關(guān)?！ぎ?dāng)

6、r

7、=1時(shí)，表示兩變量為完全線性相關(guān)，即為函數(shù)關(guān)系?！ぎ?dāng)r=0時(shí)，表示兩變量間無線性相關(guān)關(guān)系?！ぎ?dāng)0<

8、r

9、<1時(shí)，表示兩變量存在一定程度的線性相關(guān)。且

10、r

11、越接近1，兩變量間線性關(guān)

12、系越密切；

13、r

14、越接近于0，表示兩變量的線性相關(guān)越弱?！ひ话憧砂慈?jí)劃分：

15、r

16、<0.4為低度線性相關(guān)；0.4≤

17、r

18、<0.7為顯著性相關(guān)；0.7≤

19、r

20、<1為高度線性相關(guān)。??????相關(guān)矩陣也叫相關(guān)系數(shù)矩陣，是由矩陣各列間的相關(guān)系數(shù)構(gòu)成的。也就是說，相關(guān)矩陣第i行第j列的元素是原矩陣第i列和第j列的相關(guān)系數(shù)。3、協(xié)方差矩陣和相關(guān)矩陣的關(guān)系???由二者的定義公式可知，經(jīng)標(biāo)準(zhǔn)化的樣本數(shù)據(jù)的協(xié)方差矩陣就是原始樣本數(shù)據(jù)的相關(guān)矩陣。這里所說的標(biāo)準(zhǔn)化指正態(tài)化，即將原始數(shù)據(jù)處理成均值為0，方差為1的標(biāo)準(zhǔn)數(shù)據(jù)。???即：????????????

21、????????????????????????X'=(X-EX)/DX