大型AI已有自主意識(shí)了？LeCun開噴Open AI首席科學(xué)家
點(diǎn)擊上方“視學(xué)算法”，選擇加"星標(biāo)"或“置頂”
重磅干貨，第一時(shí)間送達(dá)
導(dǎo)讀
?作為AI界的明星研究所，老是搞事情的OpenAI，現(xiàn)在真的搞出通用人工智能（AGI）了么？
「AI會(huì)不會(huì)變終結(jié)者」，這是外行經(jīng)常會(huì)問(wèn)、內(nèi)行只有攤手的老套問(wèn)題。
?
不過(guò)，這話要是讓行內(nèi)大佬一說(shuō)，效果馬上不一樣了。
?
最近，OpenAI首席科學(xué)家的一句話，讓整個(gè)機(jī)器學(xué)習(xí)圈都炸了鍋了。
?
2月10日，伊利亞·薩茨克維爾（Ilya Sutskever）發(fā)推表示：「現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有微弱自主意識(shí)了。」
?
爭(zhēng)論持續(xù)了幾天之后。?
2月13日，LeCun甚至親自下場(chǎng)，異常堅(jiān)決且簡(jiǎn)單明了：
?
「不對(duì)?！?/span>
?
接著便措辭禮貌但尖刻地解釋道：?
「甚至『微弱意識(shí)』里的表微量的形容詞，和『大型神經(jīng)網(wǎng)絡(luò)』里的表示大型的形容詞，都是錯(cuò)的。我認(rèn)為這需要一種當(dāng)下所有神經(jīng)網(wǎng)絡(luò)都不具備的大型架構(gòu)來(lái)支撐?！?/span>
這段時(shí)間，伊利亞老師都是一句話冷艷結(jié)束，所以現(xiàn)在沒(méi)人知道他到底具體在講些什么。
?
尤其是這句「?jìng)}促」得連首字母都沒(méi)有大寫，不由得引人想入非非。
?
?
是在說(shuō)正在開發(fā)中的新GPT模型大力出奇跡呢？還是在說(shuō)自家的現(xiàn)有模型受天啟感召已經(jīng)具有不亞于人的靈智呢？還是重復(fù)宣傳「通用人工智能」（AGI）很好很強(qiáng)大的觀點(diǎn)呢？
真要臆想超級(jí)AI，看《疑犯追蹤》比看無(wú)聊紀(jì)錄片舒服多了。
大佬們噴成一鍋粥
大佬們噴成一鍋粥
?
AI到底有無(wú)自主意識(shí)？
對(duì)此，非盈利研究機(jī)構(gòu)「感知學(xué)院」（Sentience Institute）的聯(lián)合創(chuàng)始人、社會(huì)科學(xué)家Jacy Reese Anthis在推特貼文中對(duì)此進(jìn)行了深入的探討。
?
?
在為自家的機(jī)構(gòu)打了廣告后，Jacy Reese Anthis闡述：
?
首先，意識(shí)的含義在哲學(xué)家和科學(xué)家中存在很大爭(zhēng)議。
?
對(duì)此，可以用3個(gè)以上更精確的術(shù)語(yǔ)來(lái)形容：
思想，通常是一種語(yǔ)義上的字詞流
感知，通過(guò)五種感官或想象力達(dá)到的感知
情感，積極和消極的情緒
?
然而，甚至這些都是有爭(zhēng)議的。
?
這些是行為嗎？過(guò)程？功能？二元論？不可言說(shuō)的？等等。
?
Jacy認(rèn)為，應(yīng)該采取消除主義的觀點(diǎn)。因?yàn)檫@些術(shù)語(yǔ)是如此模糊，所以意識(shí)并不客觀存在。
?
那么，哪些具體特征會(huì)表明人工智能中的有知覺(jué)或意識(shí)？
?
「感知學(xué)院」的研究者認(rèn)為如果人工智能可以被稱為有意識(shí)，它可能具備以下特征中的一個(gè)或多個(gè)：對(duì)有害誘導(dǎo)數(shù)據(jù)的檢測(cè)及于此可變的注重程度、對(duì)此誘因有規(guī)避的回應(yīng)與記憶聯(lián)想、對(duì)此誘因有類似情緒變化的狀態(tài)變化，加強(qiáng)學(xué)習(xí)，基于目標(biāo)而定的行為，對(duì)情緒狀態(tài)的語(yǔ)義表述。
?
http://sentienceinstitute.org/blog/assessing-sentience-in-artificial-entities
?
當(dāng)下如GPT-3等的變換模型，以上特征幾近于無(wú)。不過(guò)，Jacy還是不認(rèn)為此議題有完全客觀的答案。
?
因?yàn)閷?duì)于意識(shí)的定義、比如「此物感覺(jué)怎樣」或「內(nèi)在傾聽者」等等，用來(lái)回答這問(wèn)題都太過(guò)模糊。
?
如今，在分歧、模糊和不確定的情況下所能做到的最精確回答大概就是：「神經(jīng)網(wǎng)絡(luò)可能有了極微的意識(shí)，但是比昆蟲要少」。
參考資料：
https://futurism.com/the-byte/openai-already-sentient
https://wordpress.futurism.com/conscious-ai-backlash/amp
Ilya Sutskever：https://twitter.com/ilyasut/status/1491554478243258368
LeCun：https://twitter.com/ylecun/status/1492890267468320778
Sam Altman：https://twitter.com/sama/status/1492644786133626882
點(diǎn)個(gè)在看 paper不斷！