信號(hào)參量估計(jì)

《信號(hào)參量估計(jì)》由會(huì)員上傳分享，免費(fèi)在線(xiàn)閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)。

1、第3章信號(hào)參量估計(jì)信號(hào)檢測(cè)：通過(guò)準(zhǔn)則來(lái)判斷信號(hào)有無(wú)；參數(shù)估計(jì)：由觀(guān)測(cè)量來(lái)估計(jì)出信號(hào)的參數(shù)；解決1）用什么方法求取參數(shù)，2）如何評(píng)價(jià)估計(jì)質(zhì)量或者效果嚴(yán)格來(lái)講，這一章研究的是參數(shù)的統(tǒng)計(jì)估計(jì)方法，它是數(shù)理統(tǒng)計(jì)的一個(gè)分支。推薦兩本參考書(shū)高等教育出版社《數(shù)理統(tǒng)計(jì)導(dǎo)論》，《NonlinearParameterEstimation》。我們首先從一個(gè)估計(jì)問(wèn)題入手，來(lái)了解參數(shù)估計(jì)的基本概念。3.1估計(jì)的基本概念3.1.1估計(jì)問(wèn)題對(duì)于觀(guān)測(cè)量是信號(hào)和噪聲疊加的情況：其中是信號(hào)的參數(shù)，或就是信號(hào)本身。若能找到一個(gè)函數(shù)，利用可以得到參數(shù)的估計(jì)值，相對(duì)估計(jì)值，稱(chēng)

2、為參數(shù)的真值。則稱(chēng)為參數(shù)的一個(gè)估計(jì)量。記作。在上面的方程中，去掉n實(shí)際上是一個(gè)多元方程求解問(wèn)題。這時(shí)，如果把n看作是一種干擾或攝動(dòng)，那么就可以用解確定性方程的方法來(lái)得出。但是我們要研究的是參數(shù)的統(tǒng)計(jì)估計(jì)方法，所以上面的描述并不適合我們的討論。下面給出估計(jì)的統(tǒng)計(jì)問(wèn)題描述。（點(diǎn)估計(jì)）設(shè)隨機(jī)變量具有某一已知函數(shù)形式的概率密度函數(shù)，但是該函數(shù)依賴(lài)于未知參數(shù)，，稱(chēng)為參數(shù)空間。因此可以把的概率密度函數(shù)表示為一個(gè)函數(shù)族。表示隨機(jī)樣本，其分布取自函數(shù)族的某一成員，問(wèn)題是求統(tǒng)計(jì)量，作為參數(shù)的一個(gè)估計(jì)量。以上就是用統(tǒng)計(jì)的語(yǔ)言給出的參數(shù)估計(jì)問(wèn)題的描述。關(guān)于

3、“統(tǒng)計(jì)量”的定義：不依賴(lài)于未知參數(shù)的一元（或多元）隨機(jī)變量9的函數(shù)。統(tǒng)計(jì)量的兩個(gè)特征：1，隨機(jī)變量的函數(shù)，因此也是隨機(jī)變量；2，不依賴(lài)于未知參數(shù)，因此當(dāng)我們得到隨機(jī)變量的一組抽樣，就可以計(jì)算得到統(tǒng)計(jì)量的值。例3-1：考慮由，給定的觀(guān)測(cè)樣本。其中是未知參數(shù)，為噪聲，取自分布。容易得到服從分布，s的一個(gè)估計(jì)值是：如果未知，則它的一個(gè)估計(jì)量為：有時(shí)估計(jì)結(jié)果會(huì)以這樣的形式給出：s以95%的置信度位于區(qū)間中。我們稱(chēng)其為區(qū)間估計(jì)。區(qū)間估計(jì)量也可以直接計(jì)算得到，而不必先計(jì)算點(diǎn)估計(jì)量。當(dāng)我們以某種函數(shù)形式給出估計(jì)量以后，是不是任務(wù)就結(jié)束了呢？還有一個(gè)

4、任務(wù)是：建立一些準(zhǔn)則或者性能指標(biāo)來(lái)評(píng)價(jià)估計(jì)的質(zhì)量。3.1.1估計(jì)的偏差和無(wú)偏估計(jì)若是參數(shù)的估計(jì)值，則定義估計(jì)的偏差為：（3-1）即估計(jì)值的均值與真值的差。若估計(jì)偏差，即，則估計(jì)是無(wú)偏估計(jì)。這里隱含假定是存在的。無(wú)偏估計(jì)定義:定義：是的一個(gè)無(wú)偏估計(jì)，若在所有可能的樣本范圍內(nèi)的平均值等于的真值，即9（3-2）稱(chēng)為無(wú)偏估計(jì)，否則為有偏估計(jì)。在有偏估計(jì)中，如果隨著樣本數(shù)的不斷增大，偏差趨向于0，即：則該估計(jì)稱(chēng)為漸近無(wú)偏估計(jì)讓我們分析例3-1的無(wú)偏性，注意數(shù)學(xué)期望是一個(gè)線(xiàn)性算子。如果噪聲是零均值的，即，或?qū)λ杏?，則是的一個(gè)無(wú)偏估計(jì)。從數(shù)理統(tǒng)計(jì)

5、這門(mén)課，我們知道樣本方差，對(duì)于方差是有偏的，因?yàn)闊o(wú)偏估計(jì)量是。但是樣本方差是漸進(jìn)無(wú)偏的。直覺(jué)上，一個(gè)好的估計(jì)量應(yīng)當(dāng)具有無(wú)偏性，但是實(shí)際上完全的無(wú)偏性通常是達(dá)不到的，只能希望小的偏差。而且估計(jì)的偏差也不是特別地的重要，因?yàn)楣烙?jì)誤差不僅僅是偏差。估計(jì)的偏差和估計(jì)誤差不是一回事，偏差只代表估計(jì)量的系統(tǒng)誤差。都是s的無(wú)偏估計(jì)量，系統(tǒng)誤差都為零。接下來(lái)，要研究估計(jì)誤差的另一個(gè)性質(zhì)——估計(jì)的方差，它反映了估計(jì)量的隨機(jī)誤差大小。3.1.1估計(jì)的方差和Cramer-Rao（克拉美-勞）不等式估計(jì)的方差：方差：估計(jì)值相對(duì)于均值的分散程度。即越大就越發(fā)散

6、，反之9越小就越集中。任何無(wú)偏估計(jì)方差的下界叫做C-R下界用它來(lái)衡量估值方差的最小值。下面給出的定理是克拉美-勞定理的精簡(jiǎn)版。定理：若是參數(shù)的一個(gè)無(wú)偏估計(jì)，是觀(guān)測(cè)值X（）的聯(lián)合條件概率密度，若存在，則該估計(jì)的方差存在一個(gè)下界，即（3-3）這個(gè)不等式就被稱(chēng)為克拉美-勞不等式，此下界被稱(chēng)為是估計(jì)方差的C-R下界。式中等式在下述條件下是成立的：（3-4）其中是可以與參數(shù)有關(guān)，但與觀(guān)測(cè)值無(wú)關(guān)的函數(shù)。這里把參數(shù)當(dāng)作隨機(jī)變量。如果其真值是客觀(guān)存在的未知常數(shù)，怎么去理解？我們將參數(shù)空間，分成若干個(gè)子空間（或子集），認(rèn)為將以不同的概率落入不同的子空間

7、當(dāng)中。如果實(shí)在理解不了，可以看做是。證明：由于是參數(shù)的一個(gè)無(wú)偏估計(jì)，有：即而可以寫(xiě)成為：，表示所以：對(duì)參數(shù)求偏導(dǎo)：9由于有關(guān)系式：則可以得：根據(jù)：有：根據(jù)Schwarz不等式得：即：由于則有：而所以（3-3）的不等式成立同時(shí)，當(dāng)且僅當(dāng)即：其中是與參數(shù)有關(guān)而與觀(guān)測(cè)值無(wú)關(guān)的系數(shù)時(shí)，（3-3）的等式成立。定理給出了無(wú)偏估計(jì)最小方差的計(jì)算公式?？死溃瓌谙陆缗cN的關(guān)系。定義隨機(jī)變量，，9所以有，，。從而z為一組零均值且相互獨(dú)立的隨機(jī)變量的和，其方差因此，克拉美－勞下界與1/N成正比。3.1.1有效估計(jì)上面介紹了估計(jì)量的偏差和方差。下面介紹估計(jì)

8、的另一個(gè)性質(zhì)——有效性。我們?cè)诳蒲泄ぷ鳟?dāng)中，經(jīng)常會(huì)用到“精度”或者“精確性”這樣的詞匯。那么怎樣來(lái)評(píng)價(jià)估計(jì)量的精度呢？顯然，合理的評(píng)價(jià)方法應(yīng)該是綜合考慮偏差和方差，下面給出均方誤差的定義：均方誤差：注意它與方差的區(qū)別。估