PSO-SOM分類判別研究及其應(yīng)用.pdf

《PSO-SOM分類判別研究及其應(yīng)用.pdf》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)。

1、高技術(shù)通訊2006年10月第16卷第10期PSO-SOM分類判別研究及其應(yīng)用!涂曉芝!顏學(xué)峰"錢鋒（華東理工大學(xué)自動(dòng)化研究所上海200237）摘要針對(duì)網(wǎng)絡(luò)初始權(quán)矢量選取的不確定性問(wèn)題，提出了粒子群優(yōu)化-自組織映射（PSO-SOM）算法，利用PSO算法優(yōu)化SOM網(wǎng)絡(luò)的初始權(quán)矢量，進(jìn)而進(jìn)行分類。將提出的方法用于基因表達(dá)數(shù)據(jù)的分類判別中，使得SOM網(wǎng)絡(luò)的誤差平方和大大下降，提高了網(wǎng)絡(luò)的分類精度，表明PSO-SOM算法用于數(shù)據(jù)的分類判別是切實(shí)有效的。關(guān)鍵詞自組織映射網(wǎng)絡(luò)，微粒群算法，分類判別，基因表達(dá)數(shù)據(jù)表明，提出的PSO-SOM算

2、法提高了SOM網(wǎng)絡(luò)的分類0引言精度，并且具有更快的收斂速度。自組織映射（seif-organizingmap，SOM）網(wǎng)絡(luò)是由1粒子群優(yōu)化-自組織映射網(wǎng)絡(luò)芬蘭赫爾辛基大學(xué)神經(jīng)網(wǎng)絡(luò)專家Kohonen教授在1981年提出的競(jìng)爭(zhēng)式神經(jīng)網(wǎng)絡(luò)，它模擬大腦神經(jīng)系1.1自組織映射（SOM）網(wǎng)絡(luò)統(tǒng)自組織特征映射的功能，是一種無(wú)監(jiān)督學(xué)習(xí)的神1.1.1SOM網(wǎng)絡(luò)結(jié)構(gòu)和算法經(jīng)網(wǎng)絡(luò)。SOM網(wǎng)絡(luò)能夠反映輸入模式的統(tǒng)計(jì)特征Kohonen的SOM網(wǎng)絡(luò)是一單層前向網(wǎng)絡(luò)，網(wǎng)絡(luò)并保持其原始空間的拓?fù)浣Y(jié)構(gòu)，在聚類分析［1］、語(yǔ)音結(jié)構(gòu)相當(dāng)簡(jiǎn)單（如圖1所示），SOM

3、網(wǎng)絡(luò)只有輸入層［6］識(shí)別［2］及模式分類［3］等方面都獲得了成功的應(yīng)用。和輸出層，且兩層之間為完全連接。但在用其進(jìn)行分類判別時(shí)，傳統(tǒng)的SOM算法存在著一些缺點(diǎn)。如網(wǎng)絡(luò)的初始權(quán)值參數(shù)是隨機(jī)生成的，獲得的映射結(jié)果嚴(yán)重依賴于初始權(quán)值參數(shù)的選??；在訓(xùn)練過(guò)程中，拓?fù)湟蜃铀惴ㄒ约皩W(xué)習(xí)率算法難以選取且對(duì)提取輸入向量的統(tǒng)計(jì)特征存在較大影響等。針對(duì)傳統(tǒng)SOM算法的不足，近年來(lái)有不少研究［4］人員對(duì)其進(jìn)行了探索和改進(jìn)。如馬正英提出了將遺傳算法（geneticaigorithm，GA）應(yīng)用于SOM網(wǎng)絡(luò)聚［5］類中心權(quán)值的選取，獲得了較好的分類性能

4、；許鋒等提出了應(yīng)用主元分析（principiecomponentanaiysis，圖1SOM網(wǎng)絡(luò)結(jié)構(gòu)PCA）來(lái)優(yōu)化SOM網(wǎng)絡(luò)參數(shù)，不僅提高了網(wǎng)絡(luò)的收斂速度，還改善了網(wǎng)絡(luò)權(quán)值的性能。本文嘗試從改進(jìn)設(shè)輸入矢量!:（x1，x2，?，xn）的維數(shù)為n，則SOM網(wǎng)絡(luò)學(xué)習(xí)算法中初始權(quán)值的選擇方法角度出輸入層有n個(gè)節(jié)點(diǎn)；輸出層是由m個(gè)神經(jīng)元組成的發(fā)，提出了一種新的算法，由近年來(lái)興起的一種進(jìn)化二維平面陣列；輸入層與輸出層各神經(jīng)元之間完全算法———粒子群優(yōu)化（particieswarmoptimization，連接，設(shè)連接權(quán)值為wij，其中i

5、表示輸入層第i個(gè)節(jié)PSO）算法來(lái)優(yōu)化SOM網(wǎng)絡(luò)的初始權(quán)值，即先采用點(diǎn)，j表示輸出層第j個(gè)節(jié)點(diǎn)。輸入層節(jié)點(diǎn)并不對(duì)輸PSO算法選擇初始的聚類中心，然后基于此初始中入矢量!進(jìn)行處理，它只是把輸入矢量的各個(gè)分量心用SOM算法進(jìn)行訓(xùn)練得到最終分類結(jié)果。實(shí)驗(yàn)經(jīng)過(guò)連接權(quán)傳送到輸出層，激發(fā)輸出層各個(gè)神經(jīng)元#國(guó)家自然科學(xué)基金（20506003）、教育部科學(xué)技術(shù)研究重點(diǎn)項(xiàng)目（106073）和上海啟明星項(xiàng)目（04OMX1433）資助項(xiàng)目。!女，1981年生，碩士生；研究方向：智能信息處理。"聯(lián)系人，E-maii：xfyan@ecust.edu.c

6、n（收稿日期：2005-11-01）—1014—涂曉芝等：PSO-SOM分類判別研究及其應(yīng)用之間的競(jìng)爭(zhēng)，因此輸出層也稱為競(jìng)爭(zhēng)層。統(tǒng)計(jì)特征。給出I維輸入矢量集!=（x，x，?，x）T，其I2gI.I.2算法參數(shù)選取中g(shù)為樣本集合中全部輸入矢量的個(gè)數(shù)。SOM網(wǎng)（I）連接權(quán)矢量初始值的確定。絡(luò)的算法步驟如下：一般的學(xué)習(xí)規(guī)則是將連接權(quán)｛wij｝賦予［0，I］區(qū)（I）初始化。確定網(wǎng)絡(luò)結(jié)構(gòu)，包括輸出層形狀間內(nèi)的隨機(jī)值或所有的連接權(quán)矢量賦予相同的初［7］結(jié)構(gòu)等，然后確定輸出神經(jīng)元個(gè)數(shù)，并對(duì)神經(jīng)元權(quán)向值。但在實(shí)際應(yīng)用中，這種初始化方法會(huì)出現(xiàn)

7、網(wǎng)量賦初值，設(shè)為"=（w，w，?，w）T，（j=I，2，絡(luò)學(xué)習(xí)時(shí)間過(guò)長(zhǎng)，甚至不收斂的情況。由于連接權(quán)jjIj2jI?，m），其中m為神經(jīng)元個(gè)數(shù)。將網(wǎng)絡(luò)的連接權(quán)矢量初始狀態(tài)最理想的分布是其方向與各個(gè)輸入模｛wij｝賦予［0，I］區(qū)間內(nèi)的隨機(jī)值，i=I，2，?，I；j=式的方向一致，因此在連接權(quán)初始化時(shí)，應(yīng)該盡可能I，2，?，m。使其初始狀態(tài)與輸入模式處于一種互相容易接近的（2）競(jìng)爭(zhēng)。競(jìng)爭(zhēng)是按照“勝者為王（wIIeItakes狀態(tài)。aII）”的原則，最終只有一個(gè)神經(jīng)元獲勝，并且是具有（2）關(guān)于學(xué)習(xí)率!（t）的選擇和獲勝鄰域Nc的

8、與輸入矢量最相似的連接權(quán)矢量的神經(jīng)元獲勝。采更新用歐氏距離作為判別函數(shù)，計(jì)算#與權(quán)向量的距離大量實(shí)驗(yàn)表明，SOM網(wǎng)絡(luò)的學(xué)習(xí)率!（t）和獲勝函數(shù)值，競(jìng)爭(zhēng)規(guī)則如下：領(lǐng)域Nc隨著時(shí)間t的增大而變化，可以使學(xué)習(xí)的效T-w（t）!=mIT-"（t）!果更好，亦即使SOM網(wǎng)絡(luò)更好地形成自組織有序特!#