<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          這就是理想的AI芯片嗎?

          共 2394字,需瀏覽 5分鐘

           ·

          2021-01-21 12:55

          大數(shù)據(jù)文摘出品
          來源:IEEE
          編譯:張大筆茹
          ?
          理想的神經(jīng)網(wǎng)絡(luò)芯片是什么樣的?

          工程師們認(rèn)為最重要的部分是在芯片本身上擁有大量存儲(chǔ)空間。這是因?yàn)榧词古cAI計(jì)算本身相比,數(shù)據(jù)傳輸(從主內(nèi)存到處理器芯片)通常消耗最多的能量且產(chǎn)生大部分系統(tǒng)延遲。
          ?
          Cerebras Systems公司通過制造一臺(tái)幾乎完全由包含18 GB內(nèi)存的大型芯片組成的計(jì)算機(jī)(內(nèi)存墻)來解決這些問題。但是法國,硅谷和新加坡的研究人員提出了另一種方法。
          ?
          這款使用在硅邏輯之上構(gòu)建的3D堆棧中有電阻RAM存儲(chǔ)器的處理器叫做Illusion,它可以花費(fèi)很少的精力或時(shí)間來獲取數(shù)據(jù)。就其本身而言甚至還不夠,因?yàn)樯窠?jīng)網(wǎng)絡(luò)的規(guī)模越來越大,無法容納在一個(gè)芯片中。因此,該方案還需要多個(gè)這樣的混合處理器和一種算法,既可以智能地在處理器之間分割網(wǎng)絡(luò),也可以知道何時(shí)在閑置狀態(tài)下迅速關(guān)閉處理器。
          ?
          在測試中,八芯片版本的Illusion的能耗和等待時(shí)間僅為具有所需的內(nèi)存和處理功能的“夢想”處理器的3-4%。
          ?
          該研究團(tuán)隊(duì)(其中包括來自法國CEA-Leti研究實(shí)驗(yàn)室,F(xiàn)acebook,新加坡南洋理工大學(xué),圣何塞州立大學(xué)和斯坦福大學(xué)的研究人員)受到了神經(jīng)網(wǎng)絡(luò)規(guī)模不斷擴(kuò)大這一事實(shí)的推動(dòng)。斯坦福大學(xué)電氣工程和計(jì)算機(jī)科學(xué)教授蘇哈什·米特拉(Subhasish Mitra)表示:“從某種意義上講,這種夢想的芯片永遠(yuǎn)無法使用,因?yàn)樗且粋€(gè)不斷發(fā)展的目標(biāo)。神經(jīng)網(wǎng)絡(luò)變得越來越快,其速度超過了摩爾定律所能保持的水平。”
          ?
          因此,他們想設(shè)計(jì)一種即使它實(shí)際上是由多個(gè)混合處理器組成的,也會(huì)產(chǎn)生一個(gè)帶有大量片上存儲(chǔ)器的單個(gè)處理器的錯(cuò)覺(因此稱為項(xiàng)目名稱)的系統(tǒng)。這樣,幻覺就可以輕松擴(kuò)展以適應(yīng)不斷增長的神經(jīng)網(wǎng)絡(luò)。
          ?
          Mishra解釋說,這樣的系統(tǒng)需要三個(gè)特征。首先是芯片上的大量內(nèi)存,可以快速訪問而幾乎不消耗能量。于是他們想到了集成3D的RRAM。斯坦福大學(xué)電氣工程學(xué)教授,項(xiàng)目的合作者Philip Wong表示,選擇了RRAM地因?yàn)樗敲芗模?D集成的,可以在掉電狀態(tài)下快速訪問,且在斷電時(shí)也不會(huì)丟失數(shù)據(jù)的系統(tǒng)。
          ?
          但是RRAM確實(shí)有一個(gè)缺點(diǎn)。像Flash存儲(chǔ)器一樣,它被覆蓋過多次后就會(huì)磨損。在Flash中,軟件會(huì)跟蹤每個(gè)存儲(chǔ)單元塊發(fā)生了多少次覆蓋,并嘗試保持該數(shù)量,甚至覆蓋芯片中的所有單元。斯坦福大學(xué)理論計(jì)算機(jī)科學(xué)家瑪麗·沃特斯(Mary Wootters)帶領(lǐng)團(tuán)隊(duì)努力為RRAM發(fā)明類似的東西。結(jié)果稱為Distributed Endurer,這增加了確保寫入時(shí)的磨損甚至跨越多個(gè)芯片的負(fù)擔(dān)。
          ?
          即使使用Endurer,混合RRAM和處理器芯片,強(qiáng)大的神經(jīng)網(wǎng)絡(luò)(例如當(dāng)今使用的自然語言處理器)仍然太大而無法容納在一個(gè)芯片中。但是使用多個(gè)混合芯片意味著在它們之間傳遞消息,這樣會(huì)消耗能量并浪費(fèi)時(shí)間。
          ?
          Illusion團(tuán)隊(duì)的解決方案是其技術(shù)的第二部分,即以使消息傳遞最小化的方式來切斷神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一組計(jì)算發(fā)生的節(jié)點(diǎn)以及連接它們的邊。每個(gè)網(wǎng)絡(luò)將具有某些節(jié)點(diǎn)或節(jié)點(diǎn)的整個(gè)層,它們具有大量的連接。
          ?
          但是網(wǎng)絡(luò)中也會(huì)有阻塞點(diǎn)-在節(jié)點(diǎn)之間必須傳遞很少消息的地方。在這些阻塞點(diǎn)上劃分大型神經(jīng)網(wǎng)絡(luò),并將每個(gè)部分映射到單獨(dú)的芯片上,可確保從一個(gè)芯片到另一個(gè)芯片的數(shù)據(jù)傳輸量最少。Mitra表示,Illusion映射算法“自動(dòng)識(shí)別切割神經(jīng)網(wǎng)絡(luò)的理想位置,以最小化這些消息。”
          ?
          但是像這樣切碎的東西有其自身的后果。不可避免地,一種芯片會(huì)先于另一種芯片來完成其業(yè)務(wù),這會(huì)拖延系統(tǒng)并浪費(fèi)功率。其他嘗試運(yùn)行大型神經(jīng)網(wǎng)絡(luò)的多芯片系統(tǒng)專注于使所有芯片持續(xù)繁忙的方式劃分網(wǎng)絡(luò),但這是以在它們之間傳輸更多數(shù)據(jù)為代價(jià)的。
          ?
          相反,在第三項(xiàng)創(chuàng)新中,Illusion團(tuán)隊(duì)決定設(shè)計(jì)混合處理器及其控制算法,以便可以快速關(guān)閉和打開芯片。當(dāng)芯片等待工作時(shí),它不會(huì)消耗任何功率。Mishra表示,CEA-Leti的3D RRAM技術(shù)是制造3D SoC的關(guān)鍵,該SoC可以在幾個(gè)時(shí)鐘周期內(nèi)完全關(guān)閉并重新啟動(dòng)而不會(huì)丟失數(shù)據(jù)。
          ?
          該團(tuán)隊(duì)構(gòu)建了八芯片版本的Illusion,并在三個(gè)深度神經(jīng)網(wǎng)絡(luò)上進(jìn)行了測試。這些網(wǎng)絡(luò)的規(guī)模遠(yuǎn)不及目前對(duì)當(dāng)今計(jì)算機(jī)系統(tǒng)造成壓力的網(wǎng)絡(luò)的規(guī)模,因?yàn)槊總€(gè)Illusion原型僅為神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)保留了4 KB的RRAM。他們測試過的“夢想芯片”實(shí)際上是一個(gè)模仿了完整神經(jīng)網(wǎng)絡(luò)執(zhí)行的幻覺芯片。
          ?
          8片Illusion系統(tǒng)能夠在理想芯片能耗的3.5%內(nèi)和其執(zhí)行時(shí)間的2.5%內(nèi)運(yùn)行神經(jīng)網(wǎng)絡(luò)。Mitra指出,該系統(tǒng)可以很好地?cái)U(kuò)展。總共有4 GB RRAM的64芯片Illusion的仿真與理想情況非常接近。
          ?
          斯坦福大學(xué)研究生羅伯特·拉德韋(Robert Radway)表示:“我們已經(jīng)在開發(fā)一種功能更強(qiáng)大的新原型機(jī),與原型相比,下一代芯片將具有更大數(shù)量級(jí)的內(nèi)存和計(jì)算能力。”他是本周在《自然電子》雜志上描述Illusio論文的第一作者。
          ?
          雖然第一代經(jīng)過了推理的測試,但下一代將用于訓(xùn)練它們,這是一項(xiàng)艱巨的任務(wù)。
          ?
          “總的來說,我們認(rèn)為Illusion對(duì)未來技術(shù)具有深遠(yuǎn)的影響,它為技術(shù)創(chuàng)新開辟了廣闊的設(shè)計(jì)空間,并為未來的系統(tǒng)創(chuàng)造了新的擴(kuò)展途徑。” ?Radway表示。
          ?
          相關(guān)報(bào)道:

          https://spectrum.ieee.org/tech-talk/semiconductors/processors/system-creates-the-illusion-of-an-ideal-ai-chip


          志愿者介紹
          后臺(tái)回復(fù)志愿者”加入我們


          點(diǎn)「在看」的人都變好看了哦!
          瀏覽 61
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          評(píng)論
          圖片
          表情
          推薦
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  黑人巨大精品A片一区二区七区 | 免费看18禁网站 | 久草在线免费福利视频 | 国产扒开腿精品无码高潮视频 | 青草视频在线观看免费 |