資源描述：
《AI芯片百花齊放 5G和物聯(lián)網(wǎng)助推AI芯片飛速發(fā)展.doc》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在應(yīng)用文檔-天天文庫(kù)。
1、AI芯片百花齊放5G和物聯(lián)網(wǎng)助推AI芯片飛速發(fā)展 在人工智能（AI）領(lǐng)域，由于具有先天技術(shù)和應(yīng)用優(yōu)勢(shì)，英偉達(dá)和谷歌幾乎占據(jù)了AI處理器領(lǐng)域80%的市場(chǎng)份額，其他廠商，如英特爾、特斯拉、ARM、IBM以及Cadence等，也在人工智能處理器領(lǐng)域占有一席之地。最近幾年，我國(guó)國(guó)內(nèi)也涌現(xiàn)出了一批AI芯片公司，如地平線、深鑒科技、中科寒武紀(jì)等?！ 膽?yīng)用場(chǎng)景看，AI芯片主要有兩類，一是部署在以數(shù)據(jù)中心為代表的云端，其特點(diǎn)是高性能，功耗隨之也偏高；另一個(gè)是部署在消費(fèi)級(jí)和物聯(lián)網(wǎng)的終端，其最大特點(diǎn)就是低功耗。 目前，AI芯片的大規(guī)模應(yīng)用場(chǎng)景主要還是在云端。在云端，互聯(lián)網(wǎng)巨頭已經(jīng)成為了事實(shí)上的生
2、態(tài)主導(dǎo)者，因?yàn)樵朴?jì)算本來(lái)就是巨頭的戰(zhàn)場(chǎng)，現(xiàn)在所有開(kāi)源AI框架也都是這些巨頭發(fā)布的。在這樣一個(gè)生態(tài)已經(jīng)固化的環(huán)境中，留給創(chuàng)業(yè)公司的空間實(shí)際已經(jīng)消失。 而在終端上，由于還沒(méi)有一統(tǒng)天下的事實(shí)標(biāo)準(zhǔn)，芯片廠商可以八仙過(guò)海各顯神通。目前，AI芯片在終端的應(yīng)用場(chǎng)景主要還是手機(jī)，各大手機(jī)處理器廠商都在打AI牌，生怕錯(cuò)過(guò)了熱點(diǎn)?！ 《S著5G和物聯(lián)網(wǎng)的成熟，廣闊的市場(chǎng)空間，為終端側(cè)的AI芯片應(yīng)用提供了巨大的機(jī)遇，而由于物聯(lián)網(wǎng)終端數(shù)量巨大，應(yīng)用場(chǎng)景繁多，而所有終端幾乎都有一個(gè)共同的需求和特點(diǎn)，那就是低功耗，從而使其能長(zhǎng)時(shí)間的穩(wěn)定工作，不需要人為干預(yù)和維護(hù)，以降低運(yùn)營(yíng)維護(hù)成本?！ ≡贫薃I芯片已經(jīng)被各
3、大巨頭把控，而終端側(cè)又有著巨大的發(fā)展空間，這使得產(chǎn)學(xué)研各界的眾多企業(yè)和科研機(jī)構(gòu)在最近兩年紛紛投入人力和財(cái)力，進(jìn)行低功耗AI芯片的研發(fā)，以期在競(jìng)爭(zhēng)中占得先機(jī)。VLSI2018上的中國(guó)風(fēng) 前些天，在美國(guó)檀香山召開(kāi)的2018國(guó)際超大規(guī)模集成電路研討會(huì)（2018SymposiaonVLSITechnologyandCircuits，簡(jiǎn)稱VLSI）上，我國(guó)清華大學(xué)Thinker團(tuán)隊(duì)發(fā)表了兩款極低功耗AI芯片（Thinker-II和Thinker-S）的相關(guān)論文，以及一種支持多種稀疏度網(wǎng)絡(luò)和線上可調(diào)節(jié)功能的人工神經(jīng)網(wǎng)絡(luò)處理器STICKER?！ ≈酝瞥鲆陨?款A(yù)I芯片，主要基于以下行業(yè)背景
4、和需求：深度學(xué)習(xí)的突破性發(fā)展帶動(dòng)了機(jī)器視覺(jué)、語(yǔ)音識(shí)別以及自然語(yǔ)言處理等領(lǐng)域的進(jìn)步，然而，由于深度神經(jīng)網(wǎng)絡(luò)巨大的存儲(chǔ)開(kāi)銷和計(jì)算需求，功耗成為DeployAIEverywhere的主要障礙，人工智能算法在移動(dòng)設(shè)備、可穿戴設(shè)備和IoT設(shè)備中的廣泛應(yīng)用受到了制約?！ 榭朔鲜銎款i，清華大學(xué)Thinker團(tuán)隊(duì)對(duì)神經(jīng)網(wǎng)絡(luò)低位寬量化方法、計(jì)算架構(gòu)和電路實(shí)現(xiàn)進(jìn)行了系統(tǒng)研究，提出了支持低位寬網(wǎng)絡(luò)高能效計(jì)算的可重構(gòu)架構(gòu)，設(shè)計(jì)了神經(jīng)網(wǎng)絡(luò)通用計(jì)算芯片Thinker-II和語(yǔ)音識(shí)別芯片Thinker-S。Thinker-II芯片運(yùn)行在200MHz時(shí)，其功耗僅為10mW；Thinker-S芯片的最低功耗為1
5、41微瓦，其峰值能效達(dá)到90TOPs/W。這兩款芯片有望在電池供電設(shè)備和自供能IoT設(shè)備中廣泛應(yīng)用。Thinker-S Thinker-S中設(shè)計(jì)了一種基于二值卷積神經(jīng)網(wǎng)絡(luò)和用戶自適應(yīng)的語(yǔ)音識(shí)別框架，同時(shí)利用語(yǔ)音信號(hào)處理的特點(diǎn)，提出了時(shí)域數(shù)據(jù)復(fù)用、近似計(jì)算和權(quán)值規(guī)整化等優(yōu)化技術(shù)，大幅度優(yōu)化了神經(jīng)網(wǎng)絡(luò)推理計(jì)算。Thinker-S芯片采用28nm工藝，單次推理計(jì)算中每個(gè)神經(jīng)元上消耗的能量最低僅為2.46皮焦?！ D：Thinker-S芯片架構(gòu)Thinker-Ⅱ 該芯片中設(shè)計(jì)了兩種二值/三值卷積優(yōu)化計(jì)算方法及硬件架構(gòu)，大幅降低了算法復(fù)雜度、有效去除了冗余計(jì)算。此外，針對(duì)由稀疏化帶來(lái)
6、的負(fù)載不均衡問(wèn)題，設(shè)計(jì)了層次化均衡調(diào)度機(jī)制，通過(guò)軟硬件協(xié)同的兩級(jí)任務(wù)調(diào)度，有效提升了資源利用率。Thinker-II芯片采用28nm工藝，通過(guò)架構(gòu)和電路級(jí)重構(gòu)，支持神經(jīng)網(wǎng)絡(luò)通用計(jì)算。 圖：Thinker-II芯片架構(gòu)STICKER神經(jīng)網(wǎng)絡(luò)加速器 通過(guò)動(dòng)態(tài)配置人工智能芯片的運(yùn)算和存儲(chǔ)電路，實(shí)現(xiàn)了對(duì)不同稀疏度神經(jīng)網(wǎng)絡(luò)的自適應(yīng)處理，大幅提升了人工智能加速芯片的能量效率。該論文作為人工智能處理器分會(huì)場(chǎng)的首篇論文，得到了本屆VLSI技術(shù)委員會(huì)的高度認(rèn)可，一同入選的論文還包含了IBM，Intel，Renesas等公司的相關(guān)工作?！ D：STICKER神經(jīng)網(wǎng)絡(luò)加速器硬件架構(gòu) 據(jù)悉，
7、STICKER是世界首款全面支持不同稀疏程度網(wǎng)絡(luò)，且同時(shí)支持片上網(wǎng)絡(luò)參數(shù)微調(diào)的神經(jīng)網(wǎng)絡(luò)加速芯片。通過(guò)片上自適應(yīng)編碼器、多模態(tài)計(jì)算單元以及多組相連存儲(chǔ)架構(gòu)技術(shù)，實(shí)現(xiàn)了針對(duì)不同稀疏程度神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)高效處理，大幅提升能量效率，并減少芯片面積。針對(duì)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)加速器無(wú)法片上調(diào)整網(wǎng)絡(luò)參數(shù)以適應(yīng)物聯(lián)網(wǎng)應(yīng)用場(chǎng)景中目標(biāo)及環(huán)境多變的問(wèn)題，首次使用了片上微調(diào)稀疏神經(jīng)網(wǎng)絡(luò)參數(shù)的技術(shù)，以極低的開(kāi)銷實(shí)現(xiàn)片上神經(jīng)網(wǎng)絡(luò)參數(shù)的自適應(yīng)調(diào)整。相比于傳統(tǒng)加速器，該工作極限能效高達(dá)62.1TOPS/W（為
