PSO-SOM分類判別研究及其應用.pdf

《PSO-SOM分類判別研究及其應用.pdf》由會員上傳分享，免費在線閱讀，更多相關內容在行業(yè)資料-天天文庫。

1、高技術通訊2006年10月第16卷第10期PSO-SOM分類判別研究及其應用!涂曉芝!顏學峰"錢鋒（華東理工大學自動化研究所上海200237）摘要針對網絡初始權矢量選取的不確定性問題，提出了粒子群優(yōu)化-自組織映射（PSO-SOM）算法，利用PSO算法優(yōu)化SOM網絡的初始權矢量，進而進行分類。將提出的方法用于基因表達數據的分類判別中，使得SOM網絡的誤差平方和大大下降，提高了網絡的分類精度，表明PSO-SOM算法用于數據的分類判別是切實有效的。關鍵詞自組織映射網絡，微粒群算法，分類判別，基因表達數據表明，提出的PSO-SOM算

2、法提高了SOM網絡的分類0引言精度，并且具有更快的收斂速度。自組織映射（seif-organizingmap，SOM）網絡是由1粒子群優(yōu)化-自組織映射網絡芬蘭赫爾辛基大學神經網絡專家Kohonen教授在1981年提出的競爭式神經網絡，它模擬大腦神經系1.1自組織映射（SOM）網絡統(tǒng)自組織特征映射的功能，是一種無監(jiān)督學習的神1.1.1SOM網絡結構和算法經網絡。SOM網絡能夠反映輸入模式的統(tǒng)計特征Kohonen的SOM網絡是一單層前向網絡，網絡并保持其原始空間的拓撲結構，在聚類分析［1］、語音結構相當簡單（如圖1所示），SOM

3、網絡只有輸入層［6］識別［2］及模式分類［3］等方面都獲得了成功的應用。和輸出層，且兩層之間為完全連接。但在用其進行分類判別時，傳統(tǒng)的SOM算法存在著一些缺點。如網絡的初始權值參數是隨機生成的，獲得的映射結果嚴重依賴于初始權值參數的選取；在訓練過程中，拓撲因子算法以及學習率算法難以選取且對提取輸入向量的統(tǒng)計特征存在較大影響等。針對傳統(tǒng)SOM算法的不足，近年來有不少研究［4］人員對其進行了探索和改進。如馬正英提出了將遺傳算法（geneticaigorithm，GA）應用于SOM網絡聚［5］類中心權值的選取，獲得了較好的分類性能

4、；許鋒等提出了應用主元分析（principiecomponentanaiysis，圖1SOM網絡結構PCA）來優(yōu)化SOM網絡參數，不僅提高了網絡的收斂速度，還改善了網絡權值的性能。本文嘗試從改進設輸入矢量!:（x1，x2，?，xn）的維數為n，則SOM網絡學習算法中初始權值的選擇方法角度出輸入層有n個節(jié)點；輸出層是由m個神經元組成的發(fā)，提出了一種新的算法，由近年來興起的一種進化二維平面陣列；輸入層與輸出層各神經元之間完全算法———粒子群優(yōu)化（particieswarmoptimization，連接，設連接權值為wij，其中i

5、表示輸入層第i個節(jié)PSO）算法來優(yōu)化SOM網絡的初始權值，即先采用點，j表示輸出層第j個節(jié)點。輸入層節(jié)點并不對輸PSO算法選擇初始的聚類中心，然后基于此初始中入矢量!進行處理，它只是把輸入矢量的各個分量心用SOM算法進行訓練得到最終分類結果。實驗經過連接權傳送到輸出層，激發(fā)輸出層各個神經元#國家自然科學基金（20506003）、教育部科學技術研究重點項目（106073）和上海啟明星項目（04OMX1433）資助項目。!女，1981年生，碩士生；研究方向：智能信息處理。"聯(lián)系人，E-maii：xfyan@ecust.edu.c

6、n（收稿日期：2005-11-01）—1014—涂曉芝等：PSO-SOM分類判別研究及其應用之間的競爭，因此輸出層也稱為競爭層。統(tǒng)計特征。給出I維輸入矢量集!=（x，x，?，x）T，其I2gI.I.2算法參數選取中g為樣本集合中全部輸入矢量的個數。SOM網（I）連接權矢量初始值的確定。絡的算法步驟如下：一般的學習規(guī)則是將連接權｛wij｝賦予［0，I］區(qū)（I）初始化。確定網絡結構，包括輸出層形狀間內的隨機值或所有的連接權矢量賦予相同的初［7］結構等，然后確定輸出神經元個數，并對神經元權向值。但在實際應用中，這種初始化方法會出現

7、網量賦初值，設為"=（w，w，?，w）T，（j=I，2，絡學習時間過長，甚至不收斂的情況。由于連接權jjIj2jI?，m），其中m為神經元個數。將網絡的連接權矢量初始狀態(tài)最理想的分布是其方向與各個輸入模｛wij｝賦予［0，I］區(qū)間內的隨機值，i=I，2，?，I；j=式的方向一致，因此在連接權初始化時，應該盡可能I，2，?，m。使其初始狀態(tài)與輸入模式處于一種互相容易接近的（2）競爭。競爭是按照“勝者為王（wIIeItakes狀態(tài)。aII）”的原則，最終只有一個神經元獲勝，并且是具有（2）關于學習率!（t）的選擇和獲勝鄰域Nc的

8、與輸入矢量最相似的連接權矢量的神經元獲勝。采更新用歐氏距離作為判別函數，計算#與權向量的距離大量實驗表明，SOM網絡的學習率!（t）和獲勝函數值，競爭規(guī)則如下：領域Nc隨著時間t的增大而變化，可以使學習的效T-w（t）!=mIT-"（t）!果更好，亦即使SOM網絡更好地形成自組織有序特!#