基于梯度搜索的粒子群優(yōu)化算法研究及其應(yīng)用

《基于梯度搜索的粒子群優(yōu)化算法研究及其應(yīng)用》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。

1、江蘇大學(xué)碩士學(xué)位論文1．1研究背景第一章緒論粒子群優(yōu)化算法(PSO)是由Kennedy和Eberhart等于1995年提出11】，主要來源于對人工生命的研究。人工生命是用于研究包含某些生命基本特征的人工系統(tǒng)【21，其很多早期研究也起源于人工智能。人工生命包括以下兩方面的內(nèi)容：其一，研究如何使用計算技術(shù)研究生物現(xiàn)象；其二，研究如何使用生物技術(shù)研究自然計算。因此，粒子群優(yōu)化算法繼承了群體智能的特性，其個體在環(huán)境中體現(xiàn)出自主性、學(xué)習(xí)性、自適應(yīng)性等智能特性，群體能夠通過個體之間的相互作用，相互影響來實現(xiàn)復(fù)雜的功能，從而完成較復(fù)雜的任務(wù)。粒子群優(yōu)

2、化算法是模擬鳥群等動物群體覓食的行為，通過個體之間的相互協(xié)作使群體達到最優(yōu)目的。該算法首先把粒子群隨機初始化，然后在問題空間中跟蹤群體粒子的最優(yōu)解進行協(xié)同搜索，它強調(diào)的是群體內(nèi)部個體之間的協(xié)作和競爭。PSO算法是一種啟發(fā)式的優(yōu)化算法，其主要優(yōu)點在于13】：(1)易于描述和理解；(2)對優(yōu)化問題的連續(xù)性沒有特殊要求；(3)只需要調(diào)整很少的參數(shù)；(4)算法實現(xiàn)簡單，速度快；(5)相比較其他演化算法，只需要較小的演化群體；(6)算法易于收斂，與其他演化算法相比，只需要較少的計算次數(shù)就可達到收斂；(7)無集中控制約束，不會因個體的特殊情況而影響

3、整個問題的求解，確保算法具備很強的魯棒性。由于PSO算法具有許多優(yōu)點，引起了國際上相關(guān)領(lǐng)域眾多學(xué)者的關(guān)注和研究。但是，作為一種隨機優(yōu)化算法，它也存在一些缺科4，卯。(1)易于早熟收斂。對于高維復(fù)雜問題，PSO算法易陷入局部極小值，從而出現(xiàn)“早熟”。即在迭代計算到一定的次數(shù)后，群體的每個粒子的最優(yōu)位置都接近一個局部的最優(yōu)值，而粒子的速度卻逐漸減小，使得粒子很難離開這個位置，基于梯度搜索的粒子群優(yōu)化算法研究及其應(yīng)用導(dǎo)致粒子群陷入局部極值。這些早熟收斂點，有可能是局部極值點，也有可能是局部極值點鄰域的一個點。正因如此，粒子群優(yōu)化算法并不能保證

4、收斂到全局最優(yōu)解位置。(2)局部搜索能力弱。粒子群優(yōu)化算法在前期的搜索速度較快，但后期由于接近或進入了全局最優(yōu)解位置鄰域時，搜索速度變的緩慢。其原因是算法缺乏有效機制使粒子跳出局部極值點，以致收斂到局部極值。(3)收斂速度和收斂精度不能兼顧。與眾多優(yōu)化算法～樣，PSO算法欲獲得較快的收斂速度，那么能達到的精度較低；若要獲得較高精度，則需要漫長的收斂時問。由于粒子群優(yōu)化算法是受人工生命研究結(jié)果的啟發(fā)，因此具有深刻的智能背景。與進化算法相比，PSO算法沒有交叉，變異等算子，所以該算法實現(xiàn)簡單，速度快。除此之外，該算法需要調(diào)整的參數(shù)少，具有很

5、強的魯棒性。因此，該算法不僅適合于科學(xué)研究，又適合工程應(yīng)用。然而，由于PSO算法缺乏數(shù)學(xué)基礎(chǔ)，在實際應(yīng)用中也會遇到建模困難問題，所以在理論基礎(chǔ)和應(yīng)用推廣上有待進一步的研究。1．2研究現(xiàn)狀．自從粒子群優(yōu)化算法被提出以來，引起了相關(guān)學(xué)者和工程技術(shù)專業(yè)人員的廣泛關(guān)注，相關(guān)研究發(fā)展極其迅速，各類研究工作及文獻大量涌現(xiàn)。具體有以下方面：．在算法參數(shù)改進方面的研究工作有：為了提高算法的收斂性能，Shi和Eberhart于1998年引入慣性因子W線性遞減的改迸算法嘲，使得算法在初期有較強的探索能力，在后期具有較強的開發(fā)能力，在一定程度上提高了算法性能

6、iT,甜。然而，w的線性遞減對某些問題有效，對于其他一些問題不能達到最優(yōu)。于是，Shi和Eberhart在2001年又提出了自適應(yīng)模糊調(diào)節(jié)W的粒子群優(yōu)化算法【9l，這種改進的算法在對單峰函數(shù)的優(yōu)化問題中取得了較好的實驗效果。為確保算法收斂，Clerc于1999年在進化方程中引入收縮因子11o'¨l，用來正確控制W，cl，c，這些參數(shù)。Asanga等在2004年又提出了一種加速系數(shù)隨時問而改變的PSO算2江蘇大學(xué)碩士學(xué)位論文法【12】，在對單峰函數(shù)的處理中也明顯優(yōu)于基本的PSO算法。在算法收斂性分析方面的研究內(nèi)容有：為了提高PSO算法全局

7、收斂，關(guān)鍵是保證種群的多樣性1131。為了保證群體在進化過程中群體活性，Suganthan在標(biāo)準(zhǔn)的粒子群優(yōu)化算法中加入了空間鄰域的觀點，將處于同一個空間鄰域的微粒構(gòu)成一個群體分別進行進化，并且在進化過程中，動態(tài)地改變閾值以確保種群的多樣性；Kenedy提出鄰域拓?fù)鋪碚{(diào)整對鄰域的動態(tài)選擇，與此同時，為了增加鄰域間的信息交流，引入社會信念將空間鄰域與鄰域拓?fù)渲械沫h(huán)拓?fù)浣Y(jié)構(gòu)相結(jié)合，從而保證種群的多樣性。學(xué)者在數(shù)學(xué)理論上對PSO算法也做了相關(guān)的研究工作，首先是采用代數(shù)方法對幾種經(jīng)典的PSO算法的運行軌跡進行分析，給出了確保算法收斂性的參數(shù)選擇范

8、圍。在收斂性方面，Bergh在Clerc研究的基礎(chǔ)上對算法收斂性進行分析It41。由于隨機量的影響，使得許多常規(guī)數(shù)學(xué)方法對其束手無策，Bergh通過舉反例來證明粒子群優(yōu)化算法是不能保證收斂的，并且在Lebe