非線性規(guī)劃的粒子群算法

《非線性規(guī)劃的粒子群算法》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在工程資料-天天文庫。

1、XX大學(xué)智能優(yōu)化算法課內(nèi)實驗報告書院系名稱：學(xué)生姓名：專業(yè)名稱：班級：學(xué)號：時間：非線性規(guī)劃問題的粒子群算法1.1背景介紹1.1.1非線性規(guī)劃簡介具有非線性約束條件或目標(biāo)函數(shù)的數(shù)學(xué)規(guī)劃，是運籌學(xué)的一個重要的分支，非線性規(guī)劃研究一個n元實函數(shù)在一組等式或不等式的約束條件下的機(jī)制問題且目標(biāo)函數(shù)和約束條件至少有一個是未知量的非線性函數(shù)，目標(biāo)函數(shù)和約束條件都是線性函數(shù)的情形則屬于線性規(guī)劃。非線性規(guī)劃是20世紀(jì)50年代才開始形成的一門新興學(xué)科。1951年H.W庫恩和A.W塔克發(fā)表的關(guān)于最優(yōu)性條件的論文是非線性規(guī)劃正式誕生的一個重要標(biāo)志

2、。在50年代可得出了可分離規(guī)劃和二次規(guī)劃的n種解法，它們大都是以G.B.丹齊克提出的解線性規(guī)劃的單純形法為基礎(chǔ)的。50年代末到60年代末出現(xiàn)了許多解非線性規(guī)劃問題的有效的算法，70年代又得到進(jìn)一步的發(fā)展。非線性規(guī)劃在工程、管理、經(jīng)濟(jì)、科研、軍事等方面都有廣泛的應(yīng)用，為最優(yōu)設(shè)計提供了有力的工具。非線性規(guī)劃問題廣發(fā)存在于科學(xué)與工程領(lǐng)域，是一類比較難以解決的優(yōu)化問題，沒有普遍使用的解法。傳統(tǒng)的求解該問題的方法（如罰函數(shù)，可行方向法，以及變尺度法等）是基于梯度的方法所以目標(biāo)函數(shù)與約束式必須是可微的，并且這些方法只能保證求的局部最優(yōu)解

3、。1.1.2粒子群算法簡介粒子群算法（ParticleSwarmoptimization，PSO）的基本概念源于對于鳥群捕食行為的簡化社會模型的模擬，1995年由Kenndy和Eberhart等人提出，它同遺傳算法類似，通過個體間的協(xié)作和競爭實現(xiàn)全局搜索系統(tǒng)初始化為一組隨機(jī)解，稱之為粒子。通過粒子在搜索空間的飛行完成尋優(yōu)，在數(shù)學(xué)公式中即為迭代，它沒有遺傳算法的交叉及變異算子，而是粒子在解空間追隨最優(yōu)的粒子進(jìn)行搜索。PSO算法的改進(jìn)主要在參數(shù)選擇、拓?fù)浣Y(jié)構(gòu)以及與其他優(yōu)化算法相融合方面。據(jù)此當(dāng)前典型的改進(jìn)算法有：自適應(yīng)PSO算法

4、、模糊PSO算法、雜交PSO算法、混合粒子算法（HPSO）和離散PSO算法等等。其中自適應(yīng)和模糊PSO算法是EberhartShi研究了慣性因子ω對優(yōu)化性能的影響，發(fā)現(xiàn)較大的ω值有利于跳出局部極小點，較小的ω值有利于算法的收斂。自適應(yīng)PSO算法通過線性地減少ω值動態(tài)的調(diào)整參數(shù)ω，而模糊PSO算法則在此基礎(chǔ)上利用模糊規(guī)則動態(tài)調(diào)整參數(shù)ω的值，即構(gòu)造一個2輸入、1輸出的模糊推理機(jī)來動態(tài)地修改慣性因子ω。雜交和混合粒子群算法（HPSO）是受遺傳算法、自然選擇機(jī)制的啟示，將遺傳算子與基本PSO相結(jié)合而得。雜交PSO在基本PSO中引入了

5、雜交算子，兩者均取得了滿意的結(jié)果，改善了算法的性能。基本PSO算法是求解連續(xù)函數(shù)優(yōu)化的有力工具，但對離散問題卻無能為力。因此Kenndy和Eberhart發(fā)展了離散PSO算法，用于解決組合優(yōu)化問題等。在一定程度上完善發(fā)展了基本PSO算法，并將其應(yīng)用于旅行商問題（TSP）的求解，取得了較好的結(jié)果。目前PSO已經(jīng)廣泛應(yīng)用于函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、模糊系統(tǒng)控制以及其它遺傳算法的應(yīng)用領(lǐng)域。最初應(yīng)用到神經(jīng)網(wǎng)絡(luò)訓(xùn)練上，在隨后的應(yīng)用中PSO又可以用來確定神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。一般說來，PSO比較有潛在的應(yīng)用包括系統(tǒng)設(shè)計、多目標(biāo)優(yōu)化、分類、模式識

6、別、調(diào)度、信號處理、決策、機(jī)器人應(yīng)用等。其中具體應(yīng)用實例是非線性規(guī)劃的粒子群算法?？傊?，PSO算法的應(yīng)用十分廣泛，它有著比較好的發(fā)展前景，值得做進(jìn)一步的研究。4基本粒子群算法4.1粒子群算法簡介粒子群算法是一個非常簡單的算法，且能夠有效的優(yōu)化各種函數(shù)。從某種程度上說，此算法介于遺傳算法和進(jìn)化規(guī)劃之間。此算法非常依賴于隨機(jī)的過程，這也是和進(jìn)化規(guī)劃的相識之處，此算法中朝全局最優(yōu)和局部最優(yōu)靠近的調(diào)整非常的類似于遺傳算法中的交叉算子。此算法還是用了適應(yīng)值的概念，這是所有進(jìn)化計算方法所共有的特征。在粒子群算法中，每個個體稱為一個“粒子

7、”，其實每個粒子代表著一個潛在的解。例如，在一個D維的目標(biāo)搜索空間中，每個粒子看成是空間內(nèi)的一個點。設(shè)群體由m個粒子構(gòu)成。m也被稱為群體規(guī)模，過大的m會影響算法的運算速度和收斂性。PSO算法通常的數(shù)學(xué)描述為：設(shè)在一個D維空間中，由m個粒子組成的種群，其中第i個粒子位置為，其速度為。它的個體極值為，種群的全局極值為，按照追隨當(dāng)前最優(yōu)例子的原理，粒子將按(4.1)、(4.2)式改變自己的速度和位置。(4.1)(4.2)式中j=1,2,…,D，i=1,2,…m，m為種群規(guī)模，t為當(dāng)前進(jìn)化代數(shù)，為分布于[0,1]之間的隨機(jī)數(shù)；為加速

8、常數(shù)。從式(4.1)中可知，每個粒子的速度由三部分組成：第一部分為粒子先前的速度；第二部分為“認(rèn)知”部分，表示粒子自身的思考；第三部分為“社會”部分，表示粒子間的信息共享與相互合作。4.1.3粒子群算法的特點粒子群算法是一種新興的智能優(yōu)化技術(shù)，是群體智能中一個新的分支，它也是對簡單社會系統(tǒng)