信號檢測與估計

《信號檢測與估計》由會員上傳分享，免費在線閱讀，更多相關內容在教育資源-天天文庫。

1、第5章信號的統(tǒng)計估計理論信號的統(tǒng)計估計理論第5章15.3最大似然估計25.4估計量的性質3總結5.3.1最大似然估計原理5.3.2最大似然估計量的構造5.3.3最大似然估計的不變性5.3最大似然估計1最大似然估計的基本原理是對于某個給定的θ，考慮x落在一個小區(qū)域內的概率。取最大的那個對應的θ作為估計量。定義最大似然估計(maximumlikelihoodestimation)是基于最大似然原理的估計，是人們獲得實用估計的最通用的方法。它定義為使似然函數(shù)最大的θ值作為估計量。5.3.1最大似然估計原理下圖中，似然函數(shù)是在給定后得到的，每一個θ的值，都表明了該

2、θ值下，x落在觀測空間R中以為中心的dx范圍內的概率。如果已觀測到的數(shù)據(jù)，那么可以推斷出是不是合理的。很明顯，如果我們選擇作為估計量，即選擇在被估計量θ允許的范圍內，使最大的θ值作為估計量。最大似然估計方程：5.3.2最大似然估計量的構造最大似然估計也適用于隨機參量θ，但是是對于不知道先驗概率密度函數(shù)情況的估計！這時可以設想θ是均勻分布的，其意味著對于θ幾乎一無所知，認為它取各種值的可能性都差不多，當然這是種最不利的分布?；?5.3.1)(5.3.2)5.3.3最大似然估計的不變性在很多情況下，我們希望估計θ的一個函數(shù)α=g(θ),似然函數(shù)中含有參量θ。我

3、們先看一個例子，P274例5.3.3解：根據(jù)觀測方程和假設條件，似然函數(shù)為：該似然函數(shù)中含有參量θ。因為在α=exp(θ)函數(shù)中，α是θ的一對一變換，我們可以將其等效變換為顯然p(x/α)相當于是下列觀測矢量x的似然函數(shù)：利用最大似然方程，有解得我們知道本例的參量θ的最大似然估計量為于是有由例題我們可以得到，在α是θ的一對一變換的條件下，用原始參量的最大似然估計量替換變換關系中的參量θ，可以求出變換后的參量α的最大似然估計量。這就是最大似然估計的不變性！最大似然估計的不變性歸納如下：①如果參量θ的最大似然估計量為，那么函數(shù)α=g(θ)的最大似然估計量，在α

4、是θ的一對一變換時有。②如果α不是θ的一對一變換，則首先應找出在α取值范圍內所有變換參量的似然函數(shù)中具有最大值的一個，然后，通過p(x/α)求出α的最大似然估計量，就是函數(shù)α=g(θ)的最大似然估計量。25.4估計量的性質5.4.1估計量的主要性質5.4.2克拉美-羅不等式和克拉美-羅界5.4.3無偏有效估計量的均方誤差與克拉美-羅不等式取等號成立條件式中的k(θ)或k的關系5.4.4非隨機參量函數(shù)估計的克拉美-羅界●單參量貝葉斯估計●最大似然估計如何評價估計性能?由于估計量是隨機變量,采用應用統(tǒng)計的方法分析和評價各種估計量的質量。5.4.1估計量的主要性

5、質估計量的無偏性對信號的參量進行多次觀測得到估計量對于非隨機參量主要性質：無偏性、有效性、一致性、充分性。稱為有偏估計量為常量是函數(shù)其中，為估計量的偏。稱為無偏估計量(5.4.1)對于隨機參量估計量的無偏性若則稱是無偏估計量,or其偏等于兩均值之差。滿足無偏性，是否就具有良好估計性能?即使是一個無偏估計量,如果它的方差很大，那么估計的誤差可能很大,則無偏估計仍然不能保證實際構造的估計量有良好的性能.(5.4.2)用估計量的方差或均方誤差來判斷有效性。若估計的均方誤差則稱估計量比有效.最小均方誤差無偏估計量若的無偏估計量的均方誤差小于其他任意無偏估計量的均方

6、誤差,則稱其為該估計量為最小均方誤差無偏估計量.如何判斷和確定是否達到最小?克拉美-羅(Cramer-Rao)界——為比較無偏估計量的性能提供了一個標準被估計量的估計量是根據(jù)有限N次觀測量構造的，記為。次數(shù)N的增加估計量的質量提高估計的均方誤差逐步減小對于任意小的正數(shù)，若：則稱估計量是一致估計量。若：則稱估計量是均方一致（均方收斂）的估計量。此式表明，所構造的估計量運用了觀測量X中全部關于θ的信息，即再也沒有別的估計量能夠提供比θ的充分估計量更多的關于θ的信息了。(5.4.8)則稱估計量為充分估計量?？死?羅不等式和克拉美-羅界對于θ的任意無偏估計量，如

7、果其估計的均方誤差達到克拉美-羅界，則稱該無偏估計量為有效估計量。如何構造克拉美-羅不等式以及取等號的條件？非隨機參量情況討論：隨機參量情況或當且僅當對所有的x和θ都滿足:時，不等號成立。（5.4.9）（5.4.10）（5.4.11）（5.4.11）（5.4.16）（5.4.17）（5.4.18）（5.4.19）由于聯(lián)合概率密度函數(shù)可表示為：所以這樣，隨機參量情況下克拉美羅不等式和取等號條件式可表示為以下更方便應用的形式:和（5.4.26）（5.4.27）（5.4.28）（5.4.29）（5.4.30）3總結5.3節(jié)和5.4節(jié)最大似然估計：原理、方程、不變

8、性。估計量的性質：無偏性、有效性、一致性、充分性，克拉美-羅不等式