2029年會實現(xiàn)通用人工智能嗎？

點擊上方“視學算法”，選擇加"星標"或“置頂”

重磅干貨，第一時間送達

編輯丨極市平臺

5月30日，世界級紅人埃隆·馬斯克（Elon Musk）發(fā)了一條推文，稱：

2029年是關鍵的一年，如果那時候我們還沒有實現(xiàn)通用人工智能（Artifical General Intelligence，AGI），我會覺得很奇怪。火星上的人們也一樣（覺得奇怪）。

馬斯克發(fā)推不久，知名人工智能科學家、紐約大學心理系教授 Gary F. Marcus 立即寫了一篇博文叫囂馬斯克，從五個方面向馬斯克「科普」了通用人工智能的知識，提出自己認為2029年不可能實現(xiàn) AGI 的原因。

對于Gary Marcus的叫板，馬斯克還沒回復。

圣達菲研究所的人工智能專家梅蘭妮·米切爾（Melanie Mitchell）建議把賭注放在longbets.org網(wǎng)站上，Marcus稱，只要馬斯克愿意打賭，自己就欣然赴約。

以下是Gary Marcus反駁馬斯克的五個角度，AI科技評論作了不改原意的整理如下：

1

馬斯克是個「大話」預言家

第一，馬斯克對時間的預測總是不太準確。

2015年時，馬斯克說距離真正的自動駕駛汽車出現(xiàn)還有兩年時間；從那以后他每年都說同樣的話，但真正的自動駕駛汽車到現(xiàn)在還沒出現(xiàn)。

2

馬斯克不關注邊緣案例的挑戰(zhàn)

其次，馬斯克應該更多地關注邊緣情況（也就是異常值，或不尋常的情況）的挑戰(zhàn)，并思考這些異常值對預測可能意味著什么。

因為長尾問題，我們很容易認為 AI 問題比實際情況要簡單得多。我們手上有大量的關于日常事務的數(shù)據(jù)，當前的技術(shù)很容易處理這些數(shù)據(jù)，這就會誤導我們，給我們一種錯誤的印象；而對于罕見的事件，我們得到的數(shù)據(jù)非常少，且目前的技術(shù)很難去處理這些數(shù)據(jù)。

我們?nèi)祟悡碛写罅康牟煌耆畔⑼评淼募记桑苍S可以克服生活中的長尾問題。但對于目前流行的、更多依賴大數(shù)據(jù)而非推理的人工智能技術(shù)來說，長尾問題是一個非常嚴重的問題。

2016年，在一篇題為“Is Big Data Taking Us Closer to the Deeper Questions in Artificial Intelligence?”的采訪中，Gary Marcus試圖就此發(fā)出警告。他當時是這么說的：

盡管有很多關于人工智能的炒作，也有很多資金投入人工智能，但我覺得這個領域正朝著錯誤的方向發(fā)展。在深度學習和大數(shù)據(jù)這些特定的方向上，目前有很多唾手可得的成果。人們對大數(shù)據(jù)以及大數(shù)據(jù)現(xiàn)在給他們帶來的東西感到非常興奮，但我不確定它是否會讓我們更接近人工智能中更深層的問題，比如我們?nèi)绾卫斫庹Z言或我們?nèi)绾瓮评硎澜纭?/span>

…

再想想無人駕駛汽車。你會發(fā)現(xiàn)在一般情況下，無人駕駛汽車是很棒的。如果你把它們放在帕洛阿爾托天氣晴朗的地方，車輛性能會非常棒。但如果你把車輛放在下雪或下雨的地方，或者以前沒見過的地方，這些汽車就難免出問題。Steven Levy寫了一篇關于谷歌自動汽車廠的文章，文章中他談到了2015年底的研究讓他們終于讓系統(tǒng)能夠識別樹葉。

系統(tǒng)確實能識別葉子，但對于不常見的東西，就不能獲得那么多的數(shù)據(jù)。人類之間可以用常識來溝通。我們可以試著弄清楚這個東西是什么，它是怎么到那里的，但是系統(tǒng)能做的只是記憶東西，這才是真正的限制。

圖注：特斯拉自動駕駛撞上價值300萬美元的噴氣式飛機

意想不到的情況一直是當代人工智能技術(shù)的禍患，而且可能會一直是，直到真正的革命出現(xiàn)。這就是為什么Marcus保證馬斯克不會在今年或明年推出L5級別的自動駕駛汽車。

異常值并不是完全無法解決，但仍然是一個重大問題，迄今還沒有已知的魯棒的解決方案。Marcus認為人們必須擺脫對深度學習等現(xiàn)有技術(shù)的嚴重依賴。距離2029年還有7年，7年是很長的一段時間，但是如果要在這個十年結(jié)束之前實現(xiàn)AGI，這個領域就需要在其他想法上進行投資。否則，僅僅是異常值就足以使實現(xiàn)AGI的目標失敗。

3

通用人工智能范圍很廣

馬斯克需要考慮的第三件事是，AGI是一個涉及面很廣的問題，因為智能本身的涉及面很廣。Marcus在此處引用了Chaz Firestone和Brian Scholl的這句話：

世上并不只有一種思維方式，因為思維并不是一個整體。相反，思維是可以分為部分的，而且其不同部分以不同的方式運作：“看到顏色”與“計劃度假”運作的方式不同，而“計劃度假”與“理解一句話”、“移動肢體”、“記住一件事”或“感受一種情緒”都不同。”

例如，深度學習在識別物體方面做得相當不錯，但在計劃、閱讀或語言理解方面做得差一些。這樣的情況可以用下圖表示：

目前的AI在某些感知方面做得很好，但是在其他方面仍需努力。即使在感知中，3D感知仍然是一個挑戰(zhàn)，場景理解也沒有解決。對于常識、推理、語言或類比等幾個領域，仍然沒有任何穩(wěn)定或值得信賴的解決方案。事實是，這張餅狀圖Marcus已經(jīng)用5年了，AI的情況卻幾乎沒有改變。

在Marcus發(fā)表于2018年的文章“Deep Learning: A Critical Appraisal”中，他總結(jié)道：

“盡管我提出了這些問題，但我不認為我們應該放棄深度學習。

相反，我們需要重新定義深度學習：深度學習不是一種通用溶劑，而應該是一種工具，除了這種工具，我們還需要錘子、扳手和鉗子，更不用說鑿子、鉆頭、電壓表、邏輯探頭和示波器。

四年過去了，許多人仍然希望深度學習能成為萬能藥；可這對Marcus來說仍然是不現(xiàn)實的，他仍然認為人類需要更多的技術(shù)。實事求是地說，7年可能不足以發(fā)明這些工具（如果它們還不存在的話），也不足以將它們從實驗室投入生產(chǎn)。

Marcus向馬斯克提出2018年“量產(chǎn)地獄”（馬斯克認為Model 3電動轎車量產(chǎn)階段猶如地獄般煎熬，并稱之為“量產(chǎn)地獄” ）的情形。在不到十年的時間里要對一套以前從未完全集成過的技術(shù)進行這樣的整合，要求會非常高。

Marcus稱，「我不知道馬斯克打算把Optimus（特斯拉的人形機器人）打造成什么樣，但我可以保證，通用家用機器人所需要的AGI遠遠超過一輛汽車所需要的，畢竟汽車無論是在公路上開還是在馬路上開，或多或少都是差不多的。」

4

復雜的認知系統(tǒng)尚未打造

馬斯克需要意識到的第四件事是，人類仍然沒有一個適當?shù)姆椒ㄕ搧順?gòu)建復雜的認知系統(tǒng)。

復雜的認知系統(tǒng)有太多的活動部件，這通常意味著，制造無人駕駛汽車等東西的人最終就像在玩一個巨大的“打地鼠游戲”，往往剛解決了一個問題，又出現(xiàn)了另一個問題。一個補丁接一個補丁有時能派上用場，有時則無效。Marcus認為不可能在不解決方法論問題的情況下得到AGI，而且他認為目前還沒有人提出好的建議。

使用深度學習進行調(diào)試非常困難，因為沒有人真正理解它是如何工作的，也沒有人知道如何修復問題，以及收集更多數(shù)據(jù)和添加更多層等等。大眾所知道的那種調(diào)試在經(jīng)典編程環(huán)境中并不適用；因為深度學習系統(tǒng)是如此不可解釋，所以人們不能通過相同的方式思考程序在做什么，也不能指望通常的消除過程。相反，現(xiàn)在在深度學習范式中，有大量的試錯、再訓練和重新測試，更不用說大量的數(shù)據(jù)清洗和數(shù)據(jù)增強實驗等等。Facebook最近的一份報告坦率地說，在訓練大型語言模型OPT的過程中遇到了很多麻煩。

有時候這更像是煉金術(shù)而不是科學，正如下圖一樣：

圖注：“這是你的機器學習系統(tǒng)嗎？”

“對，你把數(shù)據(jù)倒進這一大堆線性代數(shù)里，然后到另一邊去撿答案。”

“如果答案是錯的呢？”

“那就在這一大堆東西上攪和，直到答案看上去正確就行了。”

編程驗證可能最終會有所幫助，但同樣，在深度學習中還沒有編寫可驗證代碼的工具。如果馬斯克想贏這個賭約，那他們可能也要解決這個問題，而且得很快解決。

5

打賭標準

馬斯克需要考慮的最后一件事是賭約的標準。如果要打賭就要制定基本規(guī)則。AGI這個術(shù)語相當模糊，就像Marcus前幾天在Twitter上說的那樣：

我把AGI定義為“靈活而通用的智力，具有可與人類智慧相媲美、或超過人類智慧的智謀和可靠性。”

Marcus還提出要跟馬斯克賭一把，并制定具體的基本打賭規(guī)則。他和Ernie Davis根據(jù)與Metaculus公司合作的人的要求寫下了以下五個預言：

• 到2029年，人工智能仍無法在觀看電影的同時準確地告訴你發(fā)生了什么（Marcus在2014年的《紐約客》雜志上稱之為「理解挑戰(zhàn)」），也不能解答出這些角色是誰，他們的沖突和動機是什么等問題。

• 到2029年，人工智能仍無法閱讀小說并準確回答有關情節(jié)、角色、沖突、動機等問題。

• 到2029年，人工智能仍無法在任意廚房里做一個稱職的廚師。

• 到2029年，人工智能仍無法根據(jù)自然語言規(guī)范或通過與非專業(yè)用戶的交互，可靠地編寫超過10,000行無bug的代碼。（將現(xiàn)有庫中的代碼粘合在一起不算數(shù)。）

• 到2029年，人工智能仍無法從用自然語言編寫的數(shù)學文獻中任意提取證明，并將其轉(zhuǎn)換為適合于符號驗證的符號形式。

如果馬斯克（或其他人）在2029年成功打破至少三個預言，那他就贏了；如果只打破了一兩個，則不能說AGI能夠?qū)崿F(xiàn)，贏家就是Marcus。

對這個賭約，Marcus躍躍欲試，并對馬斯克：“想要打賭嗎？賭10萬美元怎么樣？”

大家怎么看？你們認為誰會贏？（吃瓜）

參考鏈接：

https://garymarcus.substack.com/p/dear-elon-musk-here-are-five-things?s=w

https://www.ted.com/talks/elon_musk_elon_musk_talks_twitter_tesla_and_how_his_brain_works_live_at_ted2022

https://arxiv.org/abs/1801.00631

https://www.wsj.com/articles/elon-musk-races-to-exit-teslas-production-hell-1530149814

點個在看 paper不斷！