協(xié)方差矩陣基礎(chǔ)

《協(xié)方差矩陣基礎(chǔ)》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在工程資料-天天文庫。

1、、統(tǒng)計學(xué)的基本概念統(tǒng)計學(xué)里最基木的概念就是樣本的均值、方差、標準差。甘先，我們給定一個含冇n個樣本的集合，下面給出這些概念的公式描述：均值：n標準差:S2=工二（Xi-乂）2n-l方差:均值描述的是樣本集合的中間點，它告訴我們的信息是有限的，而標準差給我們描述的是樣本集合的各個樣本點到均值的距離之平均。以這兩個集合為例,[0,8,12,20]和[8,9,11,12],兩個集合的均值都是10,但顯然兩個集合的差別是很人的，計算兩者的標準差，前者是8.3后者是1.8,顯然后者較為集中，故其標準差小一些，標準羌描述的就是這種“散布度”。之所以除以n-1而不是n,是因為這樣能使我們以較

2、小的樣本集更好地逼近總體的標準差,即統(tǒng)計上所謂的“無偏估計”。而方差則僅僅是標準差的平方。八為什么需要協(xié)方差標準差和方差一般是川來描述一維數(shù)據(jù)的，但現(xiàn)實?；钪形覀兂３龅胶卸嗑S數(shù)據(jù)的數(shù)據(jù)集,最簡單的是人家上學(xué)時免不了耍統(tǒng)計多個學(xué)科的考試成績。面對這樣的數(shù)據(jù)集，我們當然可以按照每一維獨立的計算其方羌，但是通常我們還想了解更多，比如，一個男孩子的猥瑣程度跟他受女孩了的歡迎程度是否存在一些聯(lián)系。協(xié)方爰就是這樣一種用來度量兩個隨機變量關(guān)系的統(tǒng)計量,我們可以仿照方差的定義：T=曲一滬）來度量各個維度偏離其均値的程度，協(xié)方差町以這樣來定義:協(xié)方差的結(jié)果有什么意義呢？如果結(jié)來為止值，則說

3、明兩者是止相關(guān)的（從協(xié)方差可以引出“相關(guān)系數(shù)”的定義），也就是說--個人越猥瑣越受女孩歡迎。如果結(jié)果為負值，就說明兩者是負相關(guān)，越猥瑣女孩子越討厭。如果為0,則兩者Z間沒有關(guān)系，猥瑣不猥瑣和女孩子喜不喜歡Z間沒有關(guān)聯(lián)，就是統(tǒng)計上說的“相互獨立”。從協(xié)方差的定義上我們也可以看出一些顯而易見的性質(zhì)，如：1.covOCX：=varCX^2.oo7（XY）=covrY.X）二、協(xié)方差矩陣前而提到的猥瑣和受歡迎的問題是典型的二維問題，而協(xié)方差也只能處理二維問題，那維數(shù)多了n!口然就需耍計算多個協(xié)方差，比如n維的數(shù)據(jù)集就需耍計算（n"2）!*2個協(xié)方差，那自然而然我們會想到使用矩陣來組織這

4、些數(shù)據(jù)。給岀協(xié)方并矩陣的定義:Cztxn=Clj=covCDimpDimp)這個定義還是很容易理解的，我們可以舉一個三維的例子，假設(shè)數(shù)據(jù)集右三個維度，則協(xié)方差矩陣為：cov(x,x)cov(y;x)cov(z,x)cov(x2y)cov(x;z)covO.y)cov(yfz)cov(z,y)cov(z,z)可見，協(xié)方差矩陣是一個對稱的矩陣，而且對角線是各個維度的方差。四、Matlab協(xié)方差實戰(zhàn)必須要明確一點，協(xié)方差矩陣計算的是不同維度之間的協(xié)方差，而不是不同樣本之間的。以下的演示將使用Matlab,為了說明計算原理，不直接調(diào)用Matlab的cov函數(shù)：首先，隨機牛成一個3維的整

5、數(shù)矩陣作為樣本集，10為樣本的個數(shù)，3為樣本的維數(shù)。>>MySample=fix(randdOj3)*50)MySample=49129819161281419372234321341717203427491437202621314121圖1使用Matlab生成樣本集根據(jù)公式，計算協(xié)方差需要計算均值，前面特別強調(diào)了，協(xié)方差矩陣是計算不同維度Z間的協(xié)方差，耍時刻牢記這一點。樣本矩陣的每行是一個樣本，每列是一個維度，因此我們要按列計算均值。為了描述方便，我們先將三個維度的數(shù)據(jù)分別賦值：>>diml=MySample(:,1):>>dim2=MySample(:,2):>>dim3=

6、MySample(:,3);圖2將三個維度的數(shù)據(jù)分別賦值計算dim1與dim2,dim1與dim3,dim2與dim3的協(xié)方差：>>covl2=sum((diml-mean(diml)).*(dim2-mean(dim2)))/(size(MySample?1)-1):>>cov13=sum((diml-mean(dim1))?*(dim3-mean(dim3)))/(size(MySample?1)-1):>>cov23=sum((dim2-mean(dim2)).*(dim3-mean(dim3)))/(size(MySample?1)-1):圖3計算三個協(xié)方差協(xié)方差矩陣的

7、對角線上的元素就是各個維度的方差，下而我們依次計算這些方差:?var1-std(dial)*2:?var2=std(dia2)*2：?var3=std(dia3)"2：圖4計算對角線上的方差這樣，我們就得到了計算協(xié)方差矩陣所需要的所有數(shù)據(jù)，可以調(diào)用Matlab的cov函數(shù)宜接得到協(xié)方差雉陣：>>cov(MySample)ans=254.9444-96.555676.3889-96.5556182.0444-7.444476.3889-7.444447.1667圖5使用Matlab的cov函數(shù)