第五章參量估計(jì)

《第五章參量估計(jì)》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、第五章參數(shù)估計(jì)信號(hào)估計(jì)（Estimations）理論：在受噪聲干擾的觀測信號(hào)中，由觀察估計(jì)信號(hào)的某些參數(shù)（如幅值、頻率、延遲時(shí)間等）的問題，即為參數(shù)估計(jì)問題。參數(shù)估計(jì)問題包括參數(shù)估計(jì)問題和波形估計(jì)問題，其數(shù)學(xué)基礎(chǔ)：分別為統(tǒng)計(jì)估計(jì)理論、濾波理論。估計(jì)理論——研究的對(duì)象是隨機(jī)現(xiàn)象。估計(jì)理論根據(jù)受到噪聲污染的觀測數(shù)據(jù)來估計(jì)隨機(jī)變量和隨機(jī)過程的一種數(shù)學(xué)運(yùn)算。包括參數(shù)估計(jì)和波形估計(jì)理論：參量估計(jì)－被估計(jì)的量是隨機(jī)變量（靜態(tài)估計(jì)）波形估計(jì)－被估計(jì)的量是隨機(jī)過程（動(dòng)態(tài)估計(jì)）若接收某一判決假設(shè)為真，但與信號(hào)有關(guān)的某個(gè)參量是未知的。那么，參量估計(jì)的目的就是：在

2、有限個(gè)信號(hào)觀測樣值中，以最佳方式估計(jì)該參量?！?.1概述數(shù)理統(tǒng)計(jì)中由隨機(jī)信號(hào)的一組樣本估計(jì)信號(hào)的統(tǒng)計(jì)特征，如均值、方差、均方、相關(guān)函數(shù)、功率譜等，是一種簡單而常見的參數(shù)估計(jì)。在數(shù)理統(tǒng)計(jì)中，均值、均方和方差的估計(jì)是按照定義，用有限個(gè)樣本采用直接估計(jì)法來估計(jì)。具體方法例如：均值定義：均值估計(jì)：均方定義：均方估計(jì)：方差定義：方差估計(jì)：式中xi為觀察樣本。這里的參數(shù)估計(jì)問題應(yīng)為：從含有噪聲的觀察中估計(jì)信號(hào)的參數(shù)。設(shè)觀察x=x1,x2,...,xN為隨機(jī)變量s的獨(dú)立同分布的N個(gè)觀測樣值，x=s(a)+n，a為信號(hào)的參數(shù)，而f(x1,x2,...,xN)

3、是用來估計(jì)參量a的觀測樣值函數(shù)（統(tǒng)計(jì)量），稱：＝f(x1,x2,...,xN)為參量a的估計(jì)量。的均值即為E[]=E[f(x1,x2,...,xN)。22要求通過一定的估計(jì)算法，使得為按某一判據(jù)的a的最優(yōu)估計(jì)值，比如使得估計(jì)誤差均方最小為最小均方誤差估計(jì)?！?.1.1估計(jì)算法分類估計(jì)算法分為兩類：非線性估計(jì)和線性估計(jì)。一、非線性估計(jì)——已知待估參數(shù)的先驗(yàn)概率p(a)和條件先驗(yàn)概率p(x

4、a)，依據(jù)某些最優(yōu)判據(jù)，通過非線性數(shù)理統(tǒng)計(jì)算法估計(jì)參數(shù)，得出a的估計(jì)值；隨機(jī)參量－其特性用概率密度來表征－貝葉斯估計(jì)非隨機(jī)參量－僅為一般的未知量－最大似然估計(jì)

5、非線性估計(jì)方法經(jīng)典，計(jì)算復(fù)雜，估計(jì)質(zhì)量較好，但是要求先驗(yàn)概率知識(shí)。二、線性估計(jì)——在估計(jì)參數(shù)a為觀察值x的線性函數(shù)，基于最小均方誤差準(zhǔn)則進(jìn)行估計(jì)。前提條件：估計(jì)必須是觀察值x的線性函數(shù)。線性估計(jì)方法計(jì)算簡便，只要求一、二階統(tǒng)計(jì)知識(shí)，故先驗(yàn)知識(shí)要求低，估計(jì)質(zhì)量較差，近年來發(fā)展較快?！?.1.2估計(jì)準(zhǔn)則和估計(jì)質(zhì)量的評(píng)價(jià)評(píng)價(jià)估計(jì)質(zhì)量的有關(guān)術(shù)語有：1、估計(jì)偏差無偏估計(jì)——如果待估計(jì)參數(shù)a和它的估計(jì)值的均值E()相等，即E()=a，就稱為無偏估計(jì)，否則稱為有偏估計(jì)。2、估計(jì)方差：表示各次估計(jì)值相對(duì)于估計(jì)值的均值的分散程度，估計(jì)方差越小，各次估計(jì)值就越集

6、中于估計(jì)值均值附近。3、估計(jì)值的均方誤差估計(jì)偏差越小，則各次估計(jì)值的均值接近于真實(shí)值，但并不能保證每次估計(jì)值都接近于真實(shí)值，而且各次估計(jì)值可能分布很分散；而估計(jì)方差很小，表明估計(jì)值都接近于均值，即分布很集中，但并不能保證均值E()接近于真實(shí)值，也就是不能保證各個(gè)集中分布于真實(shí)值a附近。22因此，只有估計(jì)偏差和估計(jì)方差同時(shí)趨于0，才能保證該次估計(jì)得到足夠準(zhǔn)確的估計(jì)值。實(shí)際上，常常將估計(jì)偏差和方差結(jié)合起來的綜合量表示估計(jì)質(zhì)量的好壞，即估計(jì)值的均方誤差。4、一致估計(jì)：如果隨著樣本數(shù)目的增加，估計(jì)的均方誤差趨于0，即要求當(dāng)N→+∞時(shí)，偏差和方差都趨于

7、0，則稱此估計(jì)為一致估計(jì)，即：5、有效估計(jì)：由某一種估計(jì)方法得出的估計(jì)值的方差小于其它任何估計(jì)方法得出的方差，則稱該估計(jì)為有效估計(jì)。即：如果該估計(jì)同時(shí)又是無偏的，則為均方誤差最小的估計(jì)?！?.2非線性估計(jì)包括貝葉斯估計(jì)和極大似然估計(jì)兩種類型。隨機(jī)參量－其特性用概率密度來表征－貝葉斯估計(jì)非隨機(jī)參量－僅為一般的未知量－最大似然估計(jì)§5.2.1貝葉斯估計(jì)準(zhǔn)則：對(duì)不同的估計(jì)結(jié)果給出不同的代價(jià)，并使估計(jì)代價(jià)最小。貝葉斯估計(jì)是將貝葉斯判決理論，推廣到對(duì)隨機(jī)參量估計(jì)的貝葉斯估計(jì)理論。有關(guān)定義如下：△代價(jià)函數(shù)C若s是一參量，可在參量空間Ω中取值；若是估計(jì)量，

8、可在判決空間A中取值。稱C(,s)是代價(jià)函數(shù)，它是和s的實(shí)值函數(shù)，且滿足下列兩個(gè)條件：⑴C(s,)≥0，對(duì)所有的⑵對(duì)應(yīng)于每個(gè),在A中有一個(gè)最小的?！黠L(fēng)險(xiǎn)函數(shù)(Riskfunction)定義為代價(jià)函數(shù)的均值，即：22△貝葉斯估計(jì)－使風(fēng)險(xiǎn)函數(shù)最小的估計(jì)。由于估計(jì)誤差決定估計(jì)問題中估計(jì)質(zhì)量的好壞，所以，通常僅對(duì)估計(jì)值與真實(shí)值之差感興趣。若考慮誤差函數(shù)的代價(jià)，這時(shí)C可定義為的單變量函數(shù)，有下列三種情況：(a)平方誤差(b)絕對(duì)值誤差(c)均勻代價(jià)函數(shù)貝葉斯判據(jù)：平均代價(jià)最小，即E(c)=min。由于c是的函數(shù)，而又是觀察值x的函數(shù)，所以c就是x和s的

9、聯(lián)合函數(shù)，所以有：用后驗(yàn)概率函數(shù)表示為：令：，R稱為條件風(fēng)險(xiǎn)函數(shù)。下面針對(duì)三種代價(jià)函數(shù)分三種情況探討估計(jì)準(zhǔn)則：情況(a)：平方誤差情況下，風(fēng)險(xiǎn)函數(shù)最小的估計(jì)量稱為最