新突破!超級計算機(jī)上深度學(xué)習(xí)訓(xùn)練時間縮減到數(shù)分鐘.doc

ID:28095208

大小:190.00 KB

頁數(shù):3頁

時間:2018-12-08

新突破!超級計算機(jī)上深度學(xué)習(xí)訓(xùn)練時間縮減到數(shù)分鐘.doc_第1頁
新突破!超級計算機(jī)上深度學(xué)習(xí)訓(xùn)練時間縮減到數(shù)分鐘.doc_第2頁
新突破!超級計算機(jī)上深度學(xué)習(xí)訓(xùn)練時間縮減到數(shù)分鐘.doc_第3頁
資源描述:

《新突破!超級計算機(jī)上深度學(xué)習(xí)訓(xùn)練時間縮減到數(shù)分鐘.doc》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。

1、新突破!超級計算機(jī)上深度學(xué)習(xí)訓(xùn)練時間縮減到數(shù)分鐘  微軟和瑞士國家計算中心(CSCS)的科學(xué)家們?nèi)〉昧酥卮笸黄疲瑢⒊売嬎銠C(jī)上深度學(xué)習(xí)的訓(xùn)練時間縮減到數(shù)分鐘。訓(xùn)練時間的縮短,再加上超級計算機(jī)技術(shù)的引入,或能夠解決現(xiàn)在在圖像、視頻和語音識別,自然語言處理等方面問題的瓶頸??紤]到深度學(xué)習(xí)能夠提供的復(fù)雜性,這樣的研究還可能擴(kuò)展到其它多個領(lǐng)域。微軟AI研究員黃學(xué)東認(rèn)為,這項研究甚至可能推動深度學(xué)習(xí)的界限,因為它代表了訓(xùn)練及評估深度學(xué)習(xí)算法的大突破?!   ∩疃葘W(xué)習(xí)模型通常需要數(shù)周的時間來訓(xùn)練?! 〉F(xiàn)在,微軟和瑞士國家計算中心(CSCS)的科學(xué)家們?nèi)〉昧酥卮笸黄?,將超級計算機(jī)上深

2、度學(xué)習(xí)的訓(xùn)練時間縮減到數(shù)分鐘?! ∮?xùn)練時間的縮短,再加上超級計算機(jī)技術(shù)的引入,或能夠解決現(xiàn)在在圖像、視頻和語音識別,自然語言處理等方面問題的瓶頸??紤]到深度學(xué)習(xí)能夠提供的復(fù)雜性,這樣的研究還可能擴(kuò)展到其它多個領(lǐng)域。  該團(tuán)隊將微軟認(rèn)知工具包(一個訓(xùn)練深度學(xué)習(xí)算法的開源代碼包)擴(kuò)展到瑞士實驗室的CrayXC50超級計算機(jī)上的超過1000個NvidiaTeslaP100GPU加速器,這臺超級計算機(jī)代號PizDaint?!   「鶕?jù)該團(tuán)隊研究員的解釋,深度學(xué)習(xí)在算法方面和傳統(tǒng)運(yùn)行在大規(guī)模并行超級計算機(jī)上的應(yīng)用是類似的,通過使用CrayXCAries網(wǎng)絡(luò)以及高性能的MPI庫來優(yōu)化

3、節(jié)點間通信,每個訓(xùn)練任務(wù)可以使用更多的計算資源,進(jìn)而縮短訓(xùn)練單個模型所需的時間?! ∪鹗砍売嬎阒行闹魅蜹homasSchulthess表示,這項突破意味著研究人員能夠利用現(xiàn)有的超級計算機(jī)解決那些以前被認(rèn)為不可行的深度學(xué)習(xí)問題,以前一般認(rèn)為那些問題需要幾個月的時間來訓(xùn)練模型?! ∥④汚I研究工程師黃學(xué)東認(rèn)為,這項研究甚至可能推動深度學(xué)習(xí)的界限,因為它代表了訓(xùn)練及評估深度學(xué)習(xí)算法的大突破。這一突破的結(jié)果將允許研究人員運(yùn)行更大型、更復(fù)雜的深度學(xué)習(xí)工作負(fù)載。

當(dāng)前文檔最多預(yù)覽五頁,下載文檔查看全文

此文檔下載收益歸作者所有

當(dāng)前文檔最多預(yù)覽五頁,下載文檔查看全文
溫馨提示:
1. 部分包含數(shù)學(xué)公式或PPT動畫的文件,查看預(yù)覽時可能會顯示錯亂或異常,文件下載后無此問題,請放心下載。
2. 本文檔由用戶上傳,版權(quán)歸屬用戶,天天文庫負(fù)責(zé)整理代發(fā)布。如果您對本文檔版權(quán)有爭議請及時聯(lián)系客服。
3. 下載前請仔細(xì)閱讀文檔內(nèi)容,確認(rèn)文檔內(nèi)容符合您的需求后進(jìn)行下載,若出現(xiàn)內(nèi)容與標(biāo)題不符可向本站投訴處理。
4. 下載文檔時可能由于網(wǎng)絡(luò)波動等原因無法下載或下載錯誤,付費完成后未能成功下載的用戶請聯(lián)系客服處理。
关闭