最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt

最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt

ID:62071589

大小:725.50 KB

頁(yè)數(shù):26頁(yè)

時(shí)間:2021-04-14

最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt_第1頁(yè)
最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt_第2頁(yè)
最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt_第3頁(yè)
最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt_第4頁(yè)
最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt_第5頁(yè)
資源描述:

《最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、LSTM詳解-公式推導(dǎo)化簡(jiǎn)表示ANN處理時(shí)間序列RNN輸出樣本(n*7維向量)t1=(x11,x12,y13,…x1n)t7=(x71,x72,x73,…x7n)輸出樣本(m*7維向量)t1=(y11,y12,y13,…y1m)t7=(y71,y72,y73,…y7m)每層網(wǎng)絡(luò)內(nèi)的每個(gè)神經(jīng)元擴(kuò)展為輸入樣本(n維向量)=(x1,x2,x3,…xn)輸出樣本(m維向量)=(y1,y2,y3,…ym)1層神經(jīng)元1個(gè)神經(jīng)元LSTMANN->RNN->LSTMwicwhc∑=acttanhX+X=sctCell化簡(jiǎn)取每個(gè)Block

2、內(nèi)僅有1個(gè)cell時(shí)間序列中第t個(gè)狀態(tài)的輸入的第i個(gè)分量特征:xitsct-1∑wilwhlwclSigmoid=alt=blt輸入門l忘記門φ∑wiφwhφwcφSigmoidaφt=bφt=sct-1sct-1∑wiωwhωwcωSigmoid=aωt=bωt輸出門ωtanhX=bctblockLSTM內(nèi)Block的結(jié)構(gòu)上一個(gè)時(shí)序(t-1)中本層網(wǎng)絡(luò)的第h個(gè)block的輸出:bht-1LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-awt的梯度)awt的梯度=δLoss/δawt=δLoss/δbct*δbct/δa

3、wtδbct/δawt=δ(tanh(sct)*sigmod(awt))/δawt=tanh(sct)*dsigmod(awt)取C=1LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-sct的梯度)取C=1第t時(shí)間狀態(tài)的本層的該block第t+1時(shí)間狀態(tài)的本層的該blockSct會(huì)影響第t時(shí)間狀態(tài)的awt,第t時(shí)間狀態(tài)的bct,第t+1時(shí)間狀態(tài)的alt,第t+1時(shí)間狀態(tài)的aφt,第t+1時(shí)間狀態(tài)的sct=>δL/δawt*δawt/δsct+δL/δbct*δbct/δsct+δL/δalt+1*δalt+1/δsct+

4、δL/δaφt+1*δaφt+1/δsct+δL/δsct+1*δsct+1/δsct1)δL/δawt*δawt/δsct=δL/δawt*δ(wcw*sct+….)/δsct=δL/δawt*wcw2)δL/δbct*δbct/δsct=δL/δbct*δ(bwt*tanh(sct))/δsct=δL/δbct*bwt*dtanh(sct)3)δL/δalt+1*δalt+1/δsct=δL/δalt+1*δ(sct*wcl+...)/δsct=δL/δalt+1*wcl4)δL/δaφt+1*δaφt+1/δsct

5、=δL/δaφt+1*δ(sct*wcφ+….)/δsct=δL/δaφt+1*wcφ5)δL/δsct+1*δsct+1/δsct=δL/δsct+1*δ(sct*bφt+1+….)/δsct=δL/δsct+1*bφt+1LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-alt的梯度)取C=1alt的梯度=δLoss/δalt=δLoss/δsct*δsct/δaltδsct/δalt=δ(tanh(act)*sigmod(alt)+sct-1*bφt)/δalt=δ(tanh(act)*sigmod(alt))/δa

6、lt=tanh(act)*dsigmod(alt)LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-aφt的梯度)取C=1aφt的梯度=δLoss/δaφt=δLoss/δsct*δsct/δaφtδsct/δaφt=δ(sct-1*sigmod(aφt)+blt*tanh(act))/δaφt=δ(sct-1*sigmod(aφt))/δaφt=sct-1*dsigmod(aφt)LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-act的梯度)取C=1act的梯度=δLoss/δact=δLoss/δsct*δsct/δa

7、ctδsct/δact=δ(blt*tanh(act)+sct-1*bφt)/δact=δ(blt*tanh(act))/δact=blt*dtanh(act)物流市場(chǎng)營(yíng)銷LOGISTICSMARKETING9/7/202112第四章目標(biāo)市場(chǎng)營(yíng)銷[知識(shí)目標(biāo)]了解市場(chǎng)細(xì)分、市場(chǎng)定位的概念、依據(jù)、作用。熟悉物流市場(chǎng)細(xì)分標(biāo)準(zhǔn)和方法以及營(yíng)銷組合理論。掌握物流企業(yè)目標(biāo)市場(chǎng)的選擇、策略以及市場(chǎng)定位的方法。[能力目標(biāo)]能夠進(jìn)行市場(chǎng)細(xì)分,進(jìn)行目標(biāo)市場(chǎng)的選擇并對(duì)物流企業(yè)和提供的服務(wù)產(chǎn)品進(jìn)行有效定位,能夠完成物流市場(chǎng)營(yíng)銷組合的初步設(shè)計(jì)。物流

8、市場(chǎng)營(yíng)銷9/7/202113第一節(jié)物流市場(chǎng)細(xì)分一、物流市場(chǎng)細(xì)分意義(二)物流市場(chǎng)細(xì)分的依據(jù)(一)物流市場(chǎng)細(xì)分((Marketsegmentation))的概念就是根據(jù)構(gòu)成總體市場(chǎng)的不同顧客的需求特點(diǎn)、購(gòu)買行為和購(gòu)買習(xí)慣,將他們細(xì)分為若干個(gè)相類似的顧客群體。注意:這一概念的提出及其應(yīng)用的客觀基礎(chǔ)在于市場(chǎng)需求的差異性和企

當(dāng)前文檔最多預(yù)覽五頁(yè),下載文檔查看全文

此文檔下載收益歸作者所有

當(dāng)前文檔最多預(yù)覽五頁(yè),下載文檔查看全文
溫馨提示:
1. 部分包含數(shù)學(xué)公式或PPT動(dòng)畫(huà)的文件,查看預(yù)覽時(shí)可能會(huì)顯示錯(cuò)亂或異常,文件下載后無(wú)此問(wèn)題,請(qǐng)放心下載。
2. 本文檔由用戶上傳,版權(quán)歸屬用戶,天天文庫(kù)負(fù)責(zé)整理代發(fā)布。如果您對(duì)本文檔版權(quán)有爭(zhēng)議請(qǐng)及時(shí)聯(lián)系客服。
3. 下載前請(qǐng)仔細(xì)閱讀文檔內(nèi)容,確認(rèn)文檔內(nèi)容符合您的需求后進(jìn)行下載,若出現(xiàn)內(nèi)容與標(biāo)題不符可向本站投訴處理。
4. 下載文檔時(shí)可能由于網(wǎng)絡(luò)波動(dòng)等原因無(wú)法下載或下載錯(cuò)誤,付費(fèi)完成后未能成功下載的用戶請(qǐng)聯(lián)系客服處理。