資源描述：
《10 擬牛頓法.ppt》由會員上傳分享，免費在線閱讀，更多相關內容在教育資源-天天文庫。
1、§4.6擬牛頓法牛頓法收斂很快，但需要計算Hesse矩陣，而此矩陣可能非正定，可能導致搜索方向不是下降方向?；舅枷耄河貌话A導數(shù)的矩陣近似Hesse矩陣的逆。擬牛頓條件秩1校正DFP(Davidon-Fletcher-Powell)算法：秩2校正BFGS(Broyden-Fletcher-Goldfarb-Shanno)公式及Broyden族校正矩陣秩1校正秩為1注釋在一定條件下，收斂且具有二次終止性。無法保證Hk的正定性；即使能，也有可能導致△Hk無界。DFP算法秩為2計算步驟：否是否是重置DFP法具有二次終止性！搜索方向為下降方向共軛DFP法具有二次終止性！BFGS公式BFGS修正
2、公式DFP公式Sherman-Morrison公式經驗表明，比DFP公式好。Broyden族Broyden族的所有成員均滿足擬牛頓條件。特點不必計算Hesse矩陣。當Hk>0時，算法產生的方向均為下降方向，具有二次終止性。存儲量較大。擬牛頓法是無約束最優(yōu)化方法中最有效的一類算法。作業(yè)P21826§5約束優(yōu)化數(shù)學模型一階最優(yōu)性條件(必要;充分)不等式約束問題一般約束問題二階最優(yōu)性條件(必要;充分)RPPPP起作用約束下降方向:局部概念定理可行方向:局部概念定理可行下降方向反證法不等式約束問題的一階最優(yōu)性條件可微互補松弛條件對于凸規(guī)劃，有下面的一階充分條件：一般約束問題的一階最優(yōu)性條件互補松弛條
3、件對于凸規(guī)劃，有下面的一階充分條件：凹函數(shù)線性函數(shù)凸函數(shù)圖解：11F(x)(1,1)(2,1)f?g1?g2?幾點說明(1)、對于凸規(guī)劃，K－T條件是充分必要條件。(2)、關于“起作用約束在x*點梯度線性無關”說明x20g1x1x*=(1,0)minf(x)=-x1g1(x)=(1-x1)3-x2?0g2(x)=x1?0g3(x)=x2?0起作用約束為g1,g3，而?f(x*)=-10?g1(x*)=0-1?g3(x*)=01?g1?g3與線性相關?f?g1?g3,顯然不能由線性表示∴x*不滿足K－T條件(3)、用K－T條件解minf(x)=(x-3)20?x?5設K－T點為x*，?f(x)
4、=2(x-3)?g1(x)=1?g2(x)=-1解：寫出標準形minf(x)=(x-3)2g1(x)=x?0g2(x)=5-x?0K－T條件2(x*-3)-w1+w2=0w1x*=0w2(5-x*)=0w1?0,w2?0分別考慮：①w1?0,w2?0：無解②w1?0,w2=0：x*=0,w1=-6，不是K－T點③w1=0,w2?0：x*=5,w2=-4，不是K－T點④w1=0,w2=0：x*=3,f(x*)=0∵凸規(guī)劃∴x*=3是最小點作業(yè)P3192.(1),(3)3.
