深度學(xué)習(xí)再登Science：萬(wàn)物皆可做神經(jīng)網(wǎng)絡(luò)處理器
↑↑↑點(diǎn)擊上方藍(lán)字，回復(fù)資料，10個(gè)G的驚喜
轉(zhuǎn)自：大數(shù)據(jù)文摘
想象一下，你周圍的任何東西，比如一個(gè)煎鍋、一個(gè)玻璃鎮(zhèn)紙，都可以用來(lái)當(dāng)成神經(jīng)網(wǎng)絡(luò)的中央處理器，那是什么感覺(jué)？
神經(jīng)網(wǎng)絡(luò)簡(jiǎn)單來(lái)說(shuō)，是一種模仿大腦執(zhí)行復(fù)雜任務(wù)的只能系統(tǒng)，給定輸入，得到輸出，無(wú)論是判斷一張圖上面是一只貓或一只小狗，還是判斷這首歌是什么風(fēng)格，神經(jīng)網(wǎng)絡(luò)總能根據(jù)無(wú)數(shù)次的訓(xùn)練得到最大概率的正確結(jié)果。
只不過(guò)，為了得到最快的速度，目前的神經(jīng)網(wǎng)絡(luò)通常在圖形處理芯片（GPU）上運(yùn)行的，而一項(xiàng)新的研究顯示，理論上，你可以依賴任何物體來(lái)運(yùn)行一個(gè)神經(jīng)網(wǎng)絡(luò)。
共同領(lǐng)導(dǎo)這項(xiàng)研究的康奈爾大學(xué)物理學(xué)家 Logan Wright 說(shuō): “一切都可以是一臺(tái)計(jì)算機(jī)?！?/span>
Nature報(bào)道了這項(xiàng)研究。
論文地址：
聲、光、電流皆可作為神經(jīng)網(wǎng)絡(luò)載體
目前的神經(jīng)網(wǎng)絡(luò)通常在圖形處理芯片（GPU）上運(yùn)行，最大的計(jì)算機(jī)可以每秒執(zhí)行數(shù)百萬(wàn)或數(shù)十億次計(jì)算，僅僅是為了，比如說(shuō)，下一盤(pán)棋或者寫(xiě)一篇散文。
即使是在專門的芯片上，這也會(huì)花費(fèi)大量的時(shí)間和電能。但 Wright 和他的同事意識(shí)到，物理對(duì)象也以被動(dòng)方式計(jì)算，僅僅通過(guò)對(duì)刺激作出反應(yīng)。
為了演示這一概念，研究人員在三種物理系統(tǒng)，機(jī)械系統(tǒng)、光學(xué)系統(tǒng)、模擬電子系統(tǒng)中構(gòu)建了神經(jīng)網(wǎng)絡(luò)，每種物理系統(tǒng)包含多達(dá)五個(gè)處理層：
在機(jī)械系統(tǒng)的每一層中，他們使用揚(yáng)聲器振動(dòng)一個(gè)小金屬板，并用麥克風(fēng)記錄其輸出；
在光學(xué)系統(tǒng)中，他們讓光穿過(guò)晶體，用來(lái)搭建神經(jīng)網(wǎng)絡(luò)；
在模擬電子系統(tǒng)中，他們利用電流通過(guò)微小的電路來(lái)設(shè)計(jì)網(wǎng)絡(luò)。
利用寬帶光學(xué)SHG實(shí)驗(yàn)實(shí)現(xiàn)了一個(gè)典型的PNN
在每種情況下，研究人員都將輸入數(shù)據(jù)（如未標(biāo)記的圖像）以聲音、光線或電壓進(jìn)行編碼，對(duì)于每個(gè)處理層，他們還對(duì)數(shù)字參數(shù)進(jìn)行編碼，告訴三個(gè)物理系統(tǒng)如何操作數(shù)據(jù)。為了訓(xùn)練系統(tǒng)，他們調(diào)整了參數(shù)，以減少系統(tǒng)預(yù)測(cè)的圖像標(biāo)簽和實(shí)際標(biāo)簽之間的誤差。
Logan Wright 說(shuō)，“我們只是在尋找讓硬件物理學(xué)做我們想做的事情的方法?！?/span>
強(qiáng)調(diào)物理過(guò)程，而不是數(shù)學(xué)運(yùn)算
這些機(jī)械系統(tǒng)、光學(xué)系統(tǒng)、模擬電子系統(tǒng)都被稱為物理神經(jīng)網(wǎng)絡(luò)系統(tǒng)（physical neural networks，PNNs），研究人員用這些系統(tǒng)來(lái)識(shí)別手寫(xiě)數(shù)字。
在一個(gè)實(shí)驗(yàn)中，PNNs識(shí)別出7個(gè)元音。他們?cè)诒局艿摹蹲匀弧冯s志上報(bào)告說(shuō)，這些任務(wù)的準(zhǔn)確率從87%到97%不等。Wright 說(shuō)，在未來(lái)，研究人員可能不會(huì)通過(guò)計(jì)算機(jī)數(shù)據(jù)調(diào)整輸入?yún)?shù)來(lái)調(diào)整系統(tǒng)，而是通過(guò)調(diào)整物理對(duì)象——比如彎曲金屬板。
在論文中，研究人員表示，應(yīng)該強(qiáng)調(diào)對(duì)物理過(guò)程的訓(xùn)練，而不是數(shù)學(xué)操作。
這種區(qū)別不僅僅是語(yǔ)義上的：通過(guò)打破傳統(tǒng)的軟硬件劃分，PNNs提供了從幾乎任何可控制的物理系統(tǒng)構(gòu)建神經(jīng)網(wǎng)絡(luò)硬件的可能性。任何模擬過(guò)復(fù)雜物理系統(tǒng)演化的人都知道，物理轉(zhuǎn)換通常比數(shù)字模擬更快，消耗的能量更少。
這表明，PNNs能夠最直接地利用這些物理轉(zhuǎn)換，可能能夠比傳統(tǒng)模式更有效地執(zhí)行某些計(jì)算，從而提供了一條更可擴(kuò)展、更節(jié)能和更快的機(jī)器學(xué)習(xí)的途徑。
未來(lái)可能不是在執(zhí)行計(jì)算，而是硬件本身的功能
沒(méi)有參與這項(xiàng)研究的瑞士聯(lián)邦理工學(xué)院洛桑分校的物理學(xué)家和計(jì)算機(jī)科學(xué)家 Lenka Zdeborová 說(shuō)，這項(xiàng)研究是“令人興奮的”，她希望看到更困難任務(wù)的示范。
法國(guó)國(guó)家研究機(jī)構(gòu)法國(guó)國(guó)家科學(xué)研究中心（CNRS）的物理學(xué)家達(dá)米安?奎里奧斯（Damien Querlioz）補(bǔ)充道: “他們?cè)诓煌谋尘跋潞芎玫刈C明了這個(gè)想法……我認(rèn)為它將產(chǎn)生相當(dāng)大的影響?！?/span>
最令人興奮的是PNNs作為智能傳感器的潛力。
顯微鏡的光學(xué)技術(shù)甚至可以在光線照射到數(shù)字傳感器之前幫助檢測(cè)癌細(xì)胞，或者智能手機(jī)的麥克風(fēng)膜可以監(jiān)聽(tīng)喚醒詞。Wright 說(shuō)，在這些應(yīng)用程序中，你真的不會(huì)認(rèn)為它們?cè)趫?zhí)行機(jī)器學(xué)習(xí)計(jì)算，而是認(rèn)為它們是“功能性機(jī)器”。