資源描述:
《最新LSTM詳解-公式推導(dǎo)教學(xué)講義PPT.ppt》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。
1、LSTM詳解-公式推導(dǎo)化簡(jiǎn)表示ANN處理時(shí)間序列RNN輸出樣本(n*7維向量)t1=(x11,x12,y13,…x1n)t7=(x71,x72,x73,…x7n)輸出樣本(m*7維向量)t1=(y11,y12,y13,…y1m)t7=(y71,y72,y73,…y7m)每層網(wǎng)絡(luò)內(nèi)的每個(gè)神經(jīng)元擴(kuò)展為輸入樣本(n維向量)=(x1,x2,x3,…xn)輸出樣本(m維向量)=(y1,y2,y3,…ym)1層神經(jīng)元1個(gè)神經(jīng)元LSTMANN->RNN->LSTMwicwhc∑=acttanhX+X=sctCell化簡(jiǎn)取每個(gè)Block
2、內(nèi)僅有1個(gè)cell時(shí)間序列中第t個(gè)狀態(tài)的輸入的第i個(gè)分量特征:xitsct-1∑wilwhlwclSigmoid=alt=blt輸入門l忘記門φ∑wiφwhφwcφSigmoidaφt=bφt=sct-1sct-1∑wiωwhωwcωSigmoid=aωt=bωt輸出門ωtanhX=bctblockLSTM內(nèi)Block的結(jié)構(gòu)上一個(gè)時(shí)序(t-1)中本層網(wǎng)絡(luò)的第h個(gè)block的輸出:bht-1LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-awt的梯度)awt的梯度=δLoss/δawt=δLoss/δbct*δbct/δa
3、wtδbct/δawt=δ(tanh(sct)*sigmod(awt))/δawt=tanh(sct)*dsigmod(awt)取C=1LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-sct的梯度)取C=1第t時(shí)間狀態(tài)的本層的該block第t+1時(shí)間狀態(tài)的本層的該blockSct會(huì)影響第t時(shí)間狀態(tài)的awt,第t時(shí)間狀態(tài)的bct,第t+1時(shí)間狀態(tài)的alt,第t+1時(shí)間狀態(tài)的aφt,第t+1時(shí)間狀態(tài)的sct=>δL/δawt*δawt/δsct+δL/δbct*δbct/δsct+δL/δalt+1*δalt+1/δsct+
4、δL/δaφt+1*δaφt+1/δsct+δL/δsct+1*δsct+1/δsct1)δL/δawt*δawt/δsct=δL/δawt*δ(wcw*sct+….)/δsct=δL/δawt*wcw2)δL/δbct*δbct/δsct=δL/δbct*δ(bwt*tanh(sct))/δsct=δL/δbct*bwt*dtanh(sct)3)δL/δalt+1*δalt+1/δsct=δL/δalt+1*δ(sct*wcl+...)/δsct=δL/δalt+1*wcl4)δL/δaφt+1*δaφt+1/δsct
5、=δL/δaφt+1*δ(sct*wcφ+….)/δsct=δL/δaφt+1*wcφ5)δL/δsct+1*δsct+1/δsct=δL/δsct+1*δ(sct*bφt+1+….)/δsct=δL/δsct+1*bφt+1LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-alt的梯度)取C=1alt的梯度=δLoss/δalt=δLoss/δsct*δsct/δaltδsct/δalt=δ(tanh(act)*sigmod(alt)+sct-1*bφt)/δalt=δ(tanh(act)*sigmod(alt))/δa
6、lt=tanh(act)*dsigmod(alt)LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-aφt的梯度)取C=1aφt的梯度=δLoss/δaφt=δLoss/δsct*δsct/δaφtδsct/δaφt=δ(sct-1*sigmod(aφt)+blt*tanh(act))/δaφt=δ(sct-1*sigmod(aφt))/δaφt=sct-1*dsigmod(aφt)LSTM內(nèi)Block的結(jié)構(gòu)(反向傳播公式-推導(dǎo)-act的梯度)取C=1act的梯度=δLoss/δact=δLoss/δsct*δsct/δa
7、ctδsct/δact=δ(blt*tanh(act)+sct-1*bφt)/δact=δ(blt*tanh(act))/δact=blt*dtanh(act)物流市場(chǎng)營(yíng)銷LOGISTICSMARKETING9/7/202112第四章目標(biāo)市場(chǎng)營(yíng)銷[知識(shí)目標(biāo)]了解市場(chǎng)細(xì)分、市場(chǎng)定位的概念、依據(jù)、作用。熟悉物流市場(chǎng)細(xì)分標(biāo)準(zhǔn)和方法以及營(yíng)銷組合理論。掌握物流企業(yè)目標(biāo)市場(chǎng)的選擇、策略以及市場(chǎng)定位的方法。[能力目標(biāo)]能夠進(jìn)行市場(chǎng)細(xì)分,進(jìn)行目標(biāo)市場(chǎng)的選擇并對(duì)物流企業(yè)和提供的服務(wù)產(chǎn)品進(jìn)行有效定位,能夠完成物流市場(chǎng)營(yíng)銷組合的初步設(shè)計(jì)。物流
8、市場(chǎng)營(yíng)銷9/7/202113第一節(jié)物流市場(chǎng)細(xì)分一、物流市場(chǎng)細(xì)分意義(二)物流市場(chǎng)細(xì)分的依據(jù)(一)物流市場(chǎng)細(xì)分((Marketsegmentation))的概念就是根據(jù)構(gòu)成總體市場(chǎng)的不同顧客的需求特點(diǎn)、購(gòu)買行為和購(gòu)買習(xí)慣,將他們細(xì)分為若干個(gè)相類似的顧客群體。注意:這一概念的提出及其應(yīng)用的客觀基礎(chǔ)在于市場(chǎng)需求的差異性和企