最新LSTM詳解-公式推導教學講義PPT.ppt

最新LSTM詳解-公式推導教學講義PPT.ppt

ID:62071589

大?。?25.50 KB

頁數:26頁

時間:2021-04-14

最新LSTM詳解-公式推導教學講義PPT.ppt_第1頁
最新LSTM詳解-公式推導教學講義PPT.ppt_第2頁
最新LSTM詳解-公式推導教學講義PPT.ppt_第3頁
最新LSTM詳解-公式推導教學講義PPT.ppt_第4頁
最新LSTM詳解-公式推導教學講義PPT.ppt_第5頁
資源描述:

《最新LSTM詳解-公式推導教學講義PPT.ppt》由會員上傳分享,免費在線閱讀,更多相關內容在教育資源-天天文庫。

1、LSTM詳解-公式推導化簡表示ANN處理時間序列RNN輸出樣本(n*7維向量)t1=(x11,x12,y13,…x1n)t7=(x71,x72,x73,…x7n)輸出樣本(m*7維向量)t1=(y11,y12,y13,…y1m)t7=(y71,y72,y73,…y7m)每層網絡內的每個神經元擴展為輸入樣本(n維向量)=(x1,x2,x3,…xn)輸出樣本(m維向量)=(y1,y2,y3,…ym)1層神經元1個神經元LSTMANN->RNN->LSTMwicwhc∑=acttanhX+X=sctCell化簡取每個Block

2、內僅有1個cell時間序列中第t個狀態(tài)的輸入的第i個分量特征:xitsct-1∑wilwhlwclSigmoid=alt=blt輸入門l忘記門φ∑wiφwhφwcφSigmoidaφt=bφt=sct-1sct-1∑wiωwhωwcωSigmoid=aωt=bωt輸出門ωtanhX=bctblockLSTM內Block的結構上一個時序(t-1)中本層網絡的第h個block的輸出:bht-1LSTM內Block的結構(反向傳播公式-推導-awt的梯度)awt的梯度=δLoss/δawt=δLoss/δbct*δbct/δa

3、wtδbct/δawt=δ(tanh(sct)*sigmod(awt))/δawt=tanh(sct)*dsigmod(awt)取C=1LSTM內Block的結構(反向傳播公式-推導-sct的梯度)取C=1第t時間狀態(tài)的本層的該block第t+1時間狀態(tài)的本層的該blockSct會影響第t時間狀態(tài)的awt,第t時間狀態(tài)的bct,第t+1時間狀態(tài)的alt,第t+1時間狀態(tài)的aφt,第t+1時間狀態(tài)的sct=>δL/δawt*δawt/δsct+δL/δbct*δbct/δsct+δL/δalt+1*δalt+1/δsct+

4、δL/δaφt+1*δaφt+1/δsct+δL/δsct+1*δsct+1/δsct1)δL/δawt*δawt/δsct=δL/δawt*δ(wcw*sct+….)/δsct=δL/δawt*wcw2)δL/δbct*δbct/δsct=δL/δbct*δ(bwt*tanh(sct))/δsct=δL/δbct*bwt*dtanh(sct)3)δL/δalt+1*δalt+1/δsct=δL/δalt+1*δ(sct*wcl+...)/δsct=δL/δalt+1*wcl4)δL/δaφt+1*δaφt+1/δsct

5、=δL/δaφt+1*δ(sct*wcφ+….)/δsct=δL/δaφt+1*wcφ5)δL/δsct+1*δsct+1/δsct=δL/δsct+1*δ(sct*bφt+1+….)/δsct=δL/δsct+1*bφt+1LSTM內Block的結構(反向傳播公式-推導-alt的梯度)取C=1alt的梯度=δLoss/δalt=δLoss/δsct*δsct/δaltδsct/δalt=δ(tanh(act)*sigmod(alt)+sct-1*bφt)/δalt=δ(tanh(act)*sigmod(alt))/δa

6、lt=tanh(act)*dsigmod(alt)LSTM內Block的結構(反向傳播公式-推導-aφt的梯度)取C=1aφt的梯度=δLoss/δaφt=δLoss/δsct*δsct/δaφtδsct/δaφt=δ(sct-1*sigmod(aφt)+blt*tanh(act))/δaφt=δ(sct-1*sigmod(aφt))/δaφt=sct-1*dsigmod(aφt)LSTM內Block的結構(反向傳播公式-推導-act的梯度)取C=1act的梯度=δLoss/δact=δLoss/δsct*δsct/δa

7、ctδsct/δact=δ(blt*tanh(act)+sct-1*bφt)/δact=δ(blt*tanh(act))/δact=blt*dtanh(act)物流市場營銷LOGISTICSMARKETING9/7/202112第四章目標市場營銷[知識目標]了解市場細分、市場定位的概念、依據、作用。熟悉物流市場細分標準和方法以及營銷組合理論。掌握物流企業(yè)目標市場的選擇、策略以及市場定位的方法。[能力目標]能夠進行市場細分,進行目標市場的選擇并對物流企業(yè)和提供的服務產品進行有效定位,能夠完成物流市場營銷組合的初步設計。物流

8、市場營銷9/7/202113第一節(jié)物流市場細分一、物流市場細分意義(二)物流市場細分的依據(一)物流市場細分((Marketsegmentation))的概念就是根據構成總體市場的不同顧客的需求特點、購買行為和購買習慣,將他們細分為若干個相類似的顧客群體。注意:這一概念的提出及其應用的客觀基礎在于市場需求的差異性和企

當前文檔最多預覽五頁,下載文檔查看全文

此文檔下載收益歸作者所有

當前文檔最多預覽五頁,下載文檔查看全文
溫馨提示:
1. 部分包含數學公式或PPT動畫的文件,查看預覽時可能會顯示錯亂或異常,文件下載后無此問題,請放心下載。
2. 本文檔由用戶上傳,版權歸屬用戶,天天文庫負責整理代發(fā)布。如果您對本文檔版權有爭議請及時聯系客服。
3. 下載前請仔細閱讀文檔內容,確認文檔內容符合您的需求后進行下載,若出現內容與標題不符可向本站投訴處理。
4. 下載文檔時可能由于網絡波動等原因無法下載或下載錯誤,付費完成后未能成功下載的用戶請聯系客服處理。