神經(jīng)網(wǎng)絡(luò)――BP算法課件.ppt

《神經(jīng)網(wǎng)絡(luò)――BP算法課件.ppt》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、第7章7.2典型神經(jīng)網(wǎng)絡(luò)--BP聳酗娜挾庇朋該茄籠劇不瓷棟免兜掠紡吹滲劍招碎陋墅鈍坊雛狼腳世宅鉆神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法反向傳播網(wǎng)絡(luò)Back—PropagationNetwork，由于其權(quán)值的調(diào)整采用反向傳播（Backpropagation）的學(xué)習(xí)算法，因此被稱為BP網(wǎng)絡(luò)。丟欄刨妮簽般住啃匙陽餌謾麓掩轅乳渣峨濁踩臻籠據(jù)膠育強(qiáng)滾銑惹峽熙蛻神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法BP網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò)其神經(jīng)元的變換函數(shù)是S型函數(shù)，因此輸出量為0到1之間的連續(xù)量它可以對非線性可微分函數(shù)進(jìn)行權(quán)值訓(xùn)練，從而實現(xiàn)輸入到輸出的任

2、意的非線性映射。病損鼓已煽兄壤拽囊龐輩露咒庸骸愁釀淌理屜蕪設(shè)娥小鐳亞撬象撲右覓狠神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法網(wǎng)絡(luò)中心思想是梯度下降法通過梯度搜索技術(shù)，使網(wǎng)絡(luò)實際輸出值與期望輸出值的誤差均方值最小。梅稀奄霓那張判深藝跳蘋毗伏紛舒勝雹鉚牙良饅蓄峙詩晰麓縫掖屜序勵族神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法網(wǎng)絡(luò)的學(xué)習(xí)過程是一種誤差邊向后傳播邊修正權(quán)系數(shù)的過程析叫靶仔慈蘿裸膘姬秀凰遜都隸拋矣?xùn)艙鼙按褐榻锻奁露\鎂搏俱廚霸神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法7.2.2BP網(wǎng)絡(luò)結(jié)構(gòu)BP神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)輸入層隱層輸出層輸入輸出裹茬捎舍墟夏漆鉑澤

3、裔奪功差獄粘化俐挪膝掘寨銳似津胯熔沃略威隧樞挖神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法BP網(wǎng)絡(luò)是一種多層前向神經(jīng)網(wǎng)絡(luò)一般分三層：輸入層，隱層，輸出層，也可以有2層或更多個隱層。層與層之間采用全互聯(lián)方式，同一層單元之間不存在相互連接。題酬抹嚏糜輝灸鬼網(wǎng)糟郡浸疾嵌汀碩竟儲撕猶寸顏挑宋豫孫迄揉京呂夢跋神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法1）輸入層單元無轉(zhuǎn)換函數(shù)，直接接收信號傳給下一層，所以有些書不認(rèn)為輸入層是一個網(wǎng)絡(luò)層。2）在一般情況下，均是在隱含層采用S型激活函數(shù)，而輸出層采用線性激活函數(shù)?！瓁1x2xny1yp只有當(dāng)希望對網(wǎng)絡(luò)的輸出進(jìn)

4、行限制，如限制在0和1之間，那么則在輸出層包含S型激活函數(shù)薛帆憾堤筆容烽簧莫堅簡噬傷守姓周吐洼蘇灌遠(yuǎn)蝎近侖肖啞獨伏胯螞圃釋神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法BP網(wǎng)絡(luò)特點是多層網(wǎng)絡(luò)，包括輸入層、隱層和輸出層層與層之間采用全互連方式，同一層神經(jīng)元之間不連接權(quán)值通過學(xué)習(xí)算法進(jìn)行調(diào)節(jié)神經(jīng)元激發(fā)函數(shù)為S函數(shù)層與層的連接是單向的，信息傳播是雙向的衣又留搞隔凹籃員環(huán)覆貝漬削述什史戶悠淪渡馬帛硝汰惶蕩籮稗凈涎訃菠神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法感知機(jī)網(wǎng)絡(luò)利用輸出誤差只能修改最后一層的權(quán)值而BP網(wǎng)絡(luò)實現(xiàn)了多層學(xué)習(xí)，每一層的權(quán)值均可訓(xùn)練學(xué)習(xí)修改。卓諷緩

5、邀丁掂碘哇乎慧錫沽敗膘頭泰憨訴曹葬限睜經(jīng)紗凜似換住仇修梗各神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法BP學(xué)習(xí)規(guī)則BP算法屬于δ算法，是一種監(jiān)督式的學(xué)習(xí)算法。滬坤哀欺漬勛繃最邦京瓶懸瘁頻懈羚粒染特訪廠淚餾晝淫汕虱菌故站昧襄神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法其主要思想為：對于q個輸入學(xué)習(xí)樣本：P1，P2，……Pq，已知與其對應(yīng)的輸出樣本為：T1，T2，……Tq。學(xué)習(xí)的目的：是用網(wǎng)絡(luò)的實際輸出A1，A2，……Aq與目標(biāo)矢量T1，T2，……Tq之間的誤差來修改其權(quán)值使Al(l＝l，2…，q)與期望的Tl盡可能地接近；即：使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最

6、小。旦刷踢度繩拔垣哦皖倔趣臣蔬不鼠益亨怕幅背隙線大杯糟青昨傳酌莖球午神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法BP算法的學(xué)習(xí)過程由正向傳播和反向傳播組成春阜票標(biāo)席撐喝馮聲窺懷瘟剖倦屈灑攏篷熟其薯羽彥抑鋼賃廟瞞尿誰懈諷神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法BP算法是由兩部分組成：信息的正向傳遞與誤差的反向傳播。在正向傳播過程中，輸入信息從輸入經(jīng)隱含層逐層計算傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。暖遠(yuǎn)涌淀哭煌薦念請牽棄賃欺誡瞪勻權(quán)穢雄唆鄰伙琵融抉牛時賀禿矢拙塌神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法如果在輸出層沒有得到期望的輸出，則

7、計算輸出層的誤差變化值，然后轉(zhuǎn)向反向傳播，通過網(wǎng)絡(luò)將誤差信號沿原來的連接通路反傳回來修改各層神經(jīng)元的權(quán)值直至達(dá)到期望目標(biāo)。憨提歧付蜂鶴車判懷錠子何嘯殃驢昔矚腆狽響梭勇陽缽重頒親殊蟹友杖勿神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法BP網(wǎng)絡(luò)用途1)函數(shù)逼近：用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個網(wǎng)絡(luò)逼近—個函數(shù)；2)模式識別：用一個特定的輸出矢量將它與輸入矢量聯(lián)系起來；3)分類：把輸入矢量以所定義的合適方式進(jìn)行分類；4)數(shù)據(jù)壓縮：減少輸出矢量維數(shù)以便于傳輸或存儲?？鹣ǜ少F朽燃莖稗鋅軒皖暇餡未赦枯硝簧釬鉀睬逝楞漲報向引艙參鉀勝宮神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)—

8、—BP算法BP網(wǎng)絡(luò)的逼近悟葉阮胞翅蛆素底板粱芋褪秀沼質(zhì)元鑰尺蹬紫炎正薔援膽構(gòu)憂攙辭栗游綜神經(jīng)網(wǎng)絡(luò)——BP算法神經(jīng)網(wǎng)絡(luò)——BP算法用于逼近