最優(yōu)估計(jì)方法綜述

《最優(yōu)估計(jì)方法綜述》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、最優(yōu)估計(jì)方法綜述空軍工程大學(xué)航天航空工程學(xué)院丁超主要內(nèi)容一、概述二、最小方差估計(jì)與線性最小方差估計(jì)三、極大似然法估計(jì)與極大驗(yàn)后法估計(jì)四、最小二乘法估計(jì)與加權(quán)最小二乘法估計(jì)五、遞推最小二乘法估計(jì)概述在科學(xué)和技術(shù)領(lǐng)域中，經(jīng)常遇到“估計(jì)”問(wèn)題。所謂“估計(jì)”，就是對(duì)受到隨機(jī)干擾和隨機(jī)測(cè)量誤差作用的物理系統(tǒng)，按照某種性能指標(biāo)為最優(yōu)的原則，從具有隨機(jī)誤差的測(cè)量數(shù)據(jù)中提取，信息估計(jì)出系統(tǒng)的某些參數(shù)狀態(tài)變量。這就提出了參數(shù)和狀態(tài)估計(jì)問(wèn)題。這些被估參數(shù)或被估狀態(tài)可統(tǒng)稱為被估量。一般，估計(jì)問(wèn)題分兩大類，即參數(shù)估計(jì)和狀態(tài)估計(jì)。概述（一）、參數(shù)估計(jì)參數(shù)估計(jì)屬于曲線擬合問(wèn)題。例如做完某項(xiàng)試驗(yàn)之后，得到若干個(gè)

2、觀測(cè)值與相應(yīng)時(shí)間的關(guān)系。我們希望以一條曲線來(lái)表示和的關(guān)系，設(shè)式中已知的時(shí)間函數(shù)，一般是的冪函數(shù)、指數(shù)函數(shù)或正余弦函數(shù)等等。不隨時(shí)間變化。（二）、狀態(tài)估計(jì)設(shè)系統(tǒng)的狀態(tài)方程和觀測(cè)方程分別為式中，為狀態(tài)變量，它是隨時(shí)間而變的隨機(jī)過(guò)程，為控制變量，為系統(tǒng)噪聲，為測(cè)量噪聲，為觀測(cè)值?，F(xiàn)要根據(jù)觀測(cè)值來(lái)估計(jì)狀態(tài)變量，這就是狀態(tài)估計(jì)問(wèn)題。概述最小方差估計(jì)與線性最小方差估計(jì)一、最小方差估計(jì)最小方差準(zhǔn)則，要求誤差的方差為最小，它是一種最古典的估計(jì)方法，這呼估計(jì)方法需要知道被估隨機(jī)變量的概率分布密度和數(shù)學(xué)期望。這種苛刻的先驗(yàn)條件，使此方法在工程上的應(yīng)用受到很大限制。評(píng)價(jià)估計(jì)優(yōu)劣的準(zhǔn)則是與的誤差的方差為最

3、小，即最小方差估計(jì)與線性最小方差估計(jì)(二)、線性最小方差估計(jì)線性最小方差估計(jì)就是估計(jì)值為觀測(cè)值的線性函數(shù)，估計(jì)誤差的方差為最小。在使用這種方法時(shí)，需要知道觀測(cè)值和被估值的一、二階矩，即數(shù)學(xué)期望和、方差Varz和Varx及協(xié)方差和。根據(jù)估計(jì)誤差的方差的條件來(lái)確定系數(shù)a和b。極大似然法估計(jì)與極大驗(yàn)后法估計(jì)（一）、極大似然法估計(jì)極大似然法估計(jì)是以觀測(cè)值出現(xiàn)的概率為最大作為估計(jì)準(zhǔn)則的，它是一種常用的參數(shù)估計(jì)方法。設(shè)是連續(xù)隨機(jī)變量，其分布密度為，含有個(gè)未知參數(shù)。把個(gè)獨(dú)立觀測(cè)值分別代入中的，則得將所得的k個(gè)函數(shù)相乘，得:稱函數(shù)L為似然函數(shù)。。極大似然法估計(jì)與極大驗(yàn)后法估計(jì)（二）、極大驗(yàn)后估計(jì)極

4、大驗(yàn)后估計(jì)是以已知為前提的。如果只知道，可按下式計(jì)算：式中p(x)是x的驗(yàn)前概率密度，p(z)是觀測(cè)值z(mì)的概率密度,p(x/z)可用計(jì)算方法或?qū)嶒?yàn)方法求得。為了計(jì)算p(x/z)需要知道p(x)。在x沒(méi)有驗(yàn)前知識(shí)可供利用時(shí)，可假定x在很大范圍內(nèi)變化。一般說(shuō)來(lái)，極大似然估計(jì)比極大驗(yàn)后估計(jì)應(yīng)用普遍，這是由于計(jì)算似然函數(shù)比計(jì)算驗(yàn)后概率密度較為簡(jiǎn)單。最小二乘法估計(jì)與加權(quán)最小二乘法估計(jì)（一）、最小二乘法估計(jì)設(shè)n次獨(dú)立試驗(yàn)，得到z對(duì)觀測(cè)。這里表示時(shí)間或其他物理量?，F(xiàn)在的任務(wù)是：根據(jù)這些觀測(cè)值，用最優(yōu)的形式來(lái)表示z與t之間的函數(shù)關(guān)系。要求所選擇的f(t)的參數(shù)，使得觀測(cè)z(k)與對(duì)應(yīng)的函數(shù)f(k)

5、的偏差的平方和為最小。最小二乘法估計(jì)與加權(quán)最小二乘法估計(jì)（二）、加權(quán)最小二乘法估計(jì)最小二乘法每個(gè)誤差值e的系數(shù)都為1，即每個(gè)誤差值都是“等權(quán)”的。事實(shí)上，在z值的不同測(cè)量范圍內(nèi)，測(cè)量精度往往是不同的，因而測(cè)量誤差也不相同。合理的辦法是對(duì)不同的誤差項(xiàng)加不同的權(quán)，即把J寫成:這樣可使擬合曲線接近于測(cè)量精度高的點(diǎn)，從而保證擬合曲線有較高的準(zhǔn)確度。遞推最小二乘法估計(jì)在前面所討論的最小二乘法和加權(quán)最小二乘法，需要同時(shí)用到所有的測(cè)量數(shù)據(jù)，在計(jì)算時(shí)不考慮測(cè)量數(shù)據(jù)的時(shí)間順序。當(dāng)測(cè)量數(shù)據(jù)很多時(shí)，要求計(jì)算機(jī)具有很大的存儲(chǔ)量。在實(shí)際處理過(guò)程中，測(cè)量數(shù)據(jù)往往是按時(shí)間順序逐步給出的，我們可先處理已經(jīng)得到的一

6、批數(shù)據(jù)，得到的近似估值，來(lái)了新的數(shù)據(jù)后，再對(duì)原估值進(jìn)行修正，這樣可以減少計(jì)算機(jī)的存儲(chǔ)量。遞推最小二乘法估計(jì)把觀測(cè)方程寫成矩陣形式遞推可以得：可以肯定，遞推計(jì)算結(jié)果與成批處理觀測(cè)數(shù)據(jù)的結(jié)果是相同的。謝謝！