資源描述:
《一種求解正交約束問題的投影梯度方法_童謠》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、第28卷第2期湖南理工學(xué)院學(xué)報(自然科學(xué)版)Vol.28No.22015年6月JournalofHunanInstituteofScienceandTechnology(NaturalSciences)Jun.2015一種求解正交約束問題的投影梯度方法12?童謠,丁衛(wèi)平(1.福州大學(xué)數(shù)學(xué)與計算機(jī)科學(xué)學(xué)院,福州350108;2.湖南理工學(xué)院數(shù)學(xué)學(xué)院,湖南岳陽414006)摘要:正交約束優(yōu)化問題在特征值問題、稀疏主成分分析等方面有廣泛的應(yīng)用.由于正交約束的非凸性,精確求解該類問題具有一定的困難.本文
2、提出了一種求解正交約束優(yōu)化問題的投影梯度算法.該算法采用施密特標(biāo)準(zhǔn)正交化方法處理2正交約束,其時間復(fù)雜度為O(rn),比傳統(tǒng)SVD分解復(fù)雜度低,且實現(xiàn)簡單.數(shù)值實驗驗證了算法的有效性.關(guān)鍵詞:正交約束優(yōu)化;投影梯度算法;鄰近點算法;施密特標(biāo)準(zhǔn)正交化中圖分類號:O224文獻(xiàn)標(biāo)識碼:A文章編號:1672-5298(2015)02-0005-05AProjectionGradientMethodforOrthogonalityConstrainedOptimizationProblems12TONGY
3、ao,DINGWei-ping(1.CollegeofMathematicsandComputerScience,FuzhouUniversity,Fuzhou350108,China;2.CollegeofMathematics,HunanInstituteofScienceandTechnology,Yueyang414006,China)Abstract:Theorthogonalityconstrainedproblemshaswideapplicationsineigenvaluepr
4、oblems,sparseprincipalcomponentanalysis,etc.However,itischallengingtosolveorthogonalityconstrainedproblemsduetothenon-convexityoftheequalityconstraint.ThispaperproposesaprojectiongradientmethodusingGram-Schmidtprocesstodealwiththeorthogonalityconstra
5、int.2ThetimecomplexityisboundedbyO(rn),whichislowerthantheclassicalSVD.Someprimarynumericalresultsverifiedthevalidityoftheproposedmethod.Keywords:orthogonalconstrainedoptimization;projectiongradientmethod;proximalpointalgorithm;gram-schmidtprocess引言[
6、1,2]正交約束優(yōu)化模型在科學(xué)與工程計算相關(guān)領(lǐng)域有廣泛應(yīng)用,譬如:線性和非線性特征值問題,組[3,4][5,6][7][8][10,11]合優(yōu)化問題,稀疏主成分分析問題,人臉識別,基因表達(dá)數(shù)據(jù)分析,保角幾何,1-比特壓縮[12~14][15~18]傳感,p-調(diào)和流,等等,都離不開正交約束優(yōu)化模型.一般地,正交約束優(yōu)化問題有如下形式:TminFX(),s..tXQXI?.(1)nr?X??nr?其中FX()是???的可微函數(shù),Q是對稱正定陣,I是rr?單位陣,nr≥.由于Q是對稱正定的,可T設(shè)QL
7、L?.令YL?X,則(1)可轉(zhuǎn)化為:TminFX(),s..tYYI?&YL?X.(2)nr?X??線性約束優(yōu)化問題的求解技術(shù)已經(jīng)比較成熟,為了簡化問題(2)的形式,我們主要考慮求解如下正交約束優(yōu)化問題:TminF()X,st..XXI?.(3)nr?X??由于正交約束的非凸性,精確求解問題(1)或(3)具有一定的挑戰(zhàn).目前為止,還沒有有效的算法可以保證獲取這類問題的全局最優(yōu)解(除了某些特殊情況,如:尋找極端特征值).由于保持正交約束可行性的計算代價太大,為了避免直接處理非線性約束,人們提出了很
8、多方法,將帶約束的優(yōu)化問題轉(zhuǎn)化成無約束[21,22][19,20]的優(yōu)化問題求解.這些方法中,最常用的有罰函數(shù)方法和增廣拉格朗日方法.收稿日期:2015-04-06作者簡介:童謠(1991?),女,安徽銅陵人,福州大學(xué)數(shù)學(xué)與計算機(jī)科學(xué)學(xué)院碩士研究生.主要研究方向:優(yōu)化理論、算法及其應(yīng)用6湖南理工學(xué)院學(xué)報(自然科學(xué)版)第28卷罰函數(shù)方法將正交約束違背作為懲罰項添加到目標(biāo)函數(shù)中,把約束優(yōu)化問題(3)轉(zhuǎn)化為如下無約束優(yōu)化問題:?T2minF()XX??
9、
10、XI
11、
12、,(4)nr?FX??4其中??0為罰