GPT—3離通用智能還有多遠？

來源：王宏琳科學(xué)網(wǎng)博客
鏈接地址：http://blog.sciencenet.cn/blog-3005681-1285948.html 

    人工智能已經(jīng)成為大數(shù)據(jù)、機器人和物聯(lián)網(wǎng)等新興技術(shù)的主要驅(qū)動力，在可預(yù)見的未來，它將繼續(xù)驅(qū)動技術(shù)創(chuàng)新，影響著幾乎每個行業(yè)和每個人的未來。但是，人工智能的最終目標是使機器具有與人類相似的通用智能。這是科學(xué)界提出的最雄心勃勃的目標之一，還有很長的路要走。

GPT-3和AlphaGo不是通用智能

2020年誕生的GPT-3，使用深度學(xué)習(xí)生成類似人類的文本，代表了OpenAI的巨大成就（見上一篇博客《機器學(xué)習(xí)漫談：人工智能的新技巧》），不幸的是，GPT-3的能力讓有的人誤以為它是邁向人工通用智能（AGI）的重要一步，被視為原始AGI（Proto-AGI）——只要有足夠的數(shù)據(jù)，它將導(dǎo)致AGI。事實并非如此。AGI是“具有理解或?qū)W習(xí)人類所能完成的任何智力任務(wù)的能力的機器”，而GPT-3只是學(xué)習(xí)單詞共現(xiàn)的統(tǒng)計特性，它根據(jù)一個詞跟在另一個詞后面的統(tǒng)計可能性把詞串在一起。GPT-3沒有常識知識，也不能基于常識進行推理。因此，它不同于AGI系統(tǒng)，AGI系統(tǒng)將常識推理應(yīng)用于他們對世界的認識，就像人一樣。

說GPT-3不是AGI，絕不會降低GPT-3的成就，或降低它的有用性或適用性。自然語言生成有著廣泛的需求，從聊天機器人到合同編寫和代碼生成。GPT-3代表了最新的最先進的文本生成技術(shù)，它將大量的數(shù)據(jù)與計算結(jié)合起來，以達到驚人的精確輸出水平。但是，GPT-3雖然令人印象深刻，仍然缺乏AGI所要求的能力，通往人工通用智能的道路的切入口，可能不會是通過GPT-3、GPT-4或GPT-5。

2016年，谷歌DeepMind設(shè)計的玩圍棋的人工智能，AlphaGo，擊敗世界冠軍李世石，也有人稱之接近人工通用智能。但是，它是人工通用智能機器嗎？不是。

構(gòu)建AGI的關(guān)鍵之一是，它必須自己理解世界，能夠?qū)⑺龅降?、聽到的、說的和做的一切，用于發(fā)展自己的、內(nèi)在的意義。如果做不到這一點，你最終會得到今天的人工智能程序，所有的意義實際上都是由應(yīng)用程序的設(shè)計者提供的：GPT-3和AlphaGo基本上不了解正在發(fā)生的事情，而且專業(yè)領(lǐng)域很窄。

 

圖1 《算法是不夠的》一書封面

2020年，MIT出版社出版了赫伯特·羅伊特布拉特（Herbert L. Roitblat）一本書，題為《Algorithms Are Not Enough：Creating General Artificial Intelligence（算法是不夠的：創(chuàng)造通用的人工智能）》。這本書討論了為什么在探索人工通用智能時需要一種新的方法（參考資料[1]）。書中提到，自從人工智能誕生以來，我們就被警告說，可以復(fù)制人類思維過程的計算系統(tǒng)即將到來。在我們意識到這一點之前，計算機將變得如此智能，人類將幸運地被當作寵物飼養(yǎng)。然而，盡管人工智能已經(jīng)變得越來越復(fù)雜（比如無人駕駛汽車和下圍棋），計算機科學(xué)還沒有創(chuàng)造出人工通用智能。在《算法是不夠的》一書中，赫伯特·羅特布拉特解釋了人工通用智能是如何可能的，以及為什么機器人世界末日既不迫在眉睫，也不太可能發(fā)生。他提到，智力，就像愛因斯坦所展示的那樣，但也像普通人每天所顯示的那樣，并不僅僅來自遵循特定指令的路徑。他強調(diào)，“通用智能不是算法優(yōu)化”，優(yōu)化過程得到一組合適的參數(shù)的機制可以成功地解決特定問題，但是，“優(yōu)化并不創(chuàng)建參數(shù)；它的工作是調(diào)整由程序設(shè)計者給出的模型參數(shù)”。

寵物和奇點神話

至少從20世紀50年代以來，一些人工智能學(xué)家的一直追求目標是創(chuàng)造出能夠全面匹配人類智力水平的機器——強人工智能（Strong AI）或真人工智能（Real AI），并受到了媒體不斷的炒作和放大。前面羅伊特布拉特書中提到的“寵物飼養(yǎng)”，就是50年前媒體的一個炒作。

1970年，《Life（生活）》雜志的記者布拉德·達拉赫寫了一篇關(guān)于SRI（斯坦福研究所）人工智能中心開發(fā)的世界上第一個移動智能機器人沙基（圖1左）的文章，認為雖然沙基“看起來不怎么樣”，“沒有對性感的實驗室技術(shù)人員隱秘的欲望，能做的就是避免撞到墻上，但事實上它是一個歷史性的成就”。達拉赫采訪了麻省理工學(xué)院的首席研究員馬文·明斯基（著名人工智能專家，1969年圖靈獎得主），在報道中引用他的話說：“在三年到八年后，我們將擁有一臺具有普通人一般智能的機器。我指的是一臺能夠閱讀莎士比亞、潤滑汽車、玩辦公室政治、講笑話、打架的機器。到那時，機器將以驚人的速度開始自我教育。幾個月后，它將達到天才水平，幾個月后，它的力量將無法估量”。

還有一個說法當時被廣為傳播：明斯基和他的同事警告說，智能計算機不應(yīng)該被置于控制不可缺少的系統(tǒng)；相反，必須小心控制它們。媒體在轉(zhuǎn)述中強調(diào)：明斯基和他的同事認為，在計算機掌管對社會生存至關(guān)重要的系統(tǒng)之前，必須解決計算機控制的問題。它可能會破壞人類的社會秩序——或者毀滅人類。報導(dǎo)稱：明斯基說，“一旦電腦控制了局面，…如果我們幸運的話，他們可能會決定把我們當寵物養(yǎng)?！睋?jù)說，后來明斯基否認發(fā)表過關(guān)于寵物的言論。不過，此后，機器人“超人”成為一些電影的主角，對公眾產(chǎn)生深刻影響。

 

圖2 機器人沙基（左）電影《終結(jié)者》中的機器人（右）

另外一個在科技界廣為流傳的是“奇點”神話。奇點是指人工智能進入指數(shù)改進過程的時間點。一個如此智能的軟件，它能夠越來越快地自我完善。1993年計算機科學(xué)家凡諾·文格（Vernor Vinge）發(fā)表的一篇文章，標題是《即將到來的技術(shù)奇點：如何在后人類時代生存》，他預(yù)言，“三十年內(nèi)，我們將擁有創(chuàng)造超人智能的技術(shù)手段。不久之后，人類時代將結(jié)束?！?/span>

在2016年3月，AlphaGo戰(zhàn)勝圍棋世界冠軍李世石后，媒體經(jīng)常報導(dǎo)和炒作霍金和馬斯克對于“人工智能可能會毀滅人類”的警告。在21世紀10年代，斯蒂芬·霍金（劍橋大學(xué)理論物理學(xué)家）和埃隆·馬斯克（美國太空探索技術(shù)公司和特斯拉公司首席執(zhí)行官），都是傳奇式人物。據(jù)報道，2016年，馬斯克在加利福尼亞州一次會議說，如果人類創(chuàng)造出“具有超級智慧的人工智能產(chǎn)品”，它的各方面能力遠超人類，那么人類在強人工智能面前可能會淪為“家貓”。2017年，霍金指出，“人類無法知道我們將無限地得到人工智能的幫助，還是被藐視并被邊緣化，或者很可能被它毀滅”。

另一方面，霍金和馬斯克也都對機器學(xué)習(xí)技術(shù)抱有興奮和渴望的樂觀情緒。2017年，在特斯拉公司學(xué)術(shù)和行業(yè)研究人員一次聚會上，馬斯克宣稱特斯拉的人工智能是世界上最好的。馬斯克說，他的公司不僅僅是一家電動汽車制造商，更像是一家人工智能機器人公司。特斯拉正在開發(fā)一支最強大的軟硬件人工智能團隊，以徹底改變?nèi)蛉斯ぶ悄芎蜋C器人生態(tài)系統(tǒng)。2017年4月，霍金發(fā)表過《讓人工智能造福人類及其賴以生存的家園（Guiding AI to Benefit humanity and the environment）》的主題演講，指出，“簡單來說，我認為強人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的”。霍金承認人工智能或許能夠用于根除疾病和貧困。

科學(xué)界許多人認為，在可見的未來，不必擔(dān)心人工智能會人類生存構(gòu)成威脅。雖然馬斯克和霍金等曾多次警告人工智能將超過人類，2017年在《哈佛商業(yè)評論》舉辦的一次會議上，知名的人工智能學(xué)專家吳恩達表示，這種情況在不遠的將來是不可能出現(xiàn)的。吳恩達在《哈佛商業(yè)評論》舉辦的一次會議上表示，人工智能的智力在不久的將來不可能超過人類，我們更應(yīng)當擔(dān)心機器學(xué)習(xí)帶來的工作崗位的流失。

ANI、AGI與ASI

ANI（Artificial Narrow Intelligence人工窄智能）是一種專注于單一窄任務(wù)的人工智能，它具有范圍狹窄的能力。ANI可以解決特定的領(lǐng)域問題，甚至于超過人類同行。但是，它們只擅長于一項或幾項密切相關(guān)的任務(wù)。這類人工智能的能力范圍有限，專門為狹隘的用途而設(shè)計。

至今為止的人工智能，都屬于ANI。這是目前存在的唯一AI。電子郵件垃圾郵件過濾器、谷歌翻譯、語音識別，都是典型ANI。跳棋、象棋、拼字游戲、雙陸棋和AlphaGo是ANI。當你使用智能手機，地圖應(yīng)用程序?qū)Ш?、接收定制的音樂推薦、查看明天的天氣、與智能助理交談，或其他許多日?；顒訒r，你正在使用ANI。正在測試中的自動駕駛汽車，將包含強大的ANI系統(tǒng)，使其能夠感知周圍的世界并做出反應(yīng)。但是，ANI主要基于深度學(xué)習(xí)技術(shù)，具有嚴重的局限性。 例如：（1）對數(shù)據(jù)要求過高，需要大量高質(zhì)量的數(shù)據(jù)才能產(chǎn)生準確的結(jié)果，并且并非所有環(huán)境都滿足這些數(shù)據(jù)要求；（2）將知識轉(zhuǎn)移到其他領(lǐng)域的能力低。如果任務(wù)發(fā)生更改，則系統(tǒng)的效率會降低，因為它是針對特定目的進行編程的；（3）不透明，缺乏推理和知識表示。

 

圖3 三種類型人工智能

AGI（Artificial General Intelligence人工通用智能）是智能主體能夠理解或?qū)W習(xí)人類可以執(zhí)行的任何智力任務(wù)，而不是專注于特定的任務(wù)。它有點像人腦，理論上它應(yīng)該能夠像人腦一樣思考和運作，能夠理解不同的內(nèi)容，理解問題，決定在復(fù)雜的情況下什么是最好的。這正是AGI尚未實現(xiàn)的原因。從技術(shù)上講，我們還不能制造出如此復(fù)雜的東西，而且我們也不確定人腦到底是如何工作的。AGI也可以稱為強AI，全AI。如前所述，這是人工智能（AI）的最初目標，不過，到目前為止，沒有一個人工智能程序可以稱為AGI。

AGI是AI進化的下一個邏輯步驟，相當大的一步，如同從DOS到Windows，或者翻蓋手機到智能手機的進化。AGI使機器可以在不同的環(huán)境中應(yīng)用知識和技能。

目前，AGI的主要方法之一稱為“全腦仿真”，計算機架構(gòu)類似于大腦的架構(gòu)，因為它們都可以通過稱為神經(jīng)網(wǎng)絡(luò)的神經(jīng)元系統(tǒng)進行操作。迄今為止，科學(xué)家已經(jīng)能夠復(fù)制大腦迄今為止，科學(xué)家已經(jīng)能夠復(fù)制由302個神經(jīng)元組成的1毫米扁蟲的大腦。然而，據(jù)估計，人類的大腦包含1000億個神經(jīng)元，這意味著我們有一段路要走才能重建大腦。

與普通計算機相比，使用量子力學(xué)以指數(shù)方式處理更多數(shù)據(jù)的量子計算機被定位為促進AGI的下一個技術(shù)前沿。

ASI（Artificial Super Intelligence人工超級智能）可以使機器變得足夠自我意識/自我警覺，超越人類的智力和行為能力。

當AGI被實現(xiàn)，計算機能夠以非?？斓乃俣泉毩W(xué)習(xí)，并且在沒有人工干預(yù)或幫助的情況下以指數(shù)級的速度自行提高時，人工智能可以假設(shè)達到的最后一步就是人工超級智能（ASI）。

在這一階段，人工智能將在幾乎所有領(lǐng)域都能大大超越最優(yōu)秀的人腦。從AGI到ASI的進化理論上要比我們現(xiàn)在從ANI到AGI的速度快得多，因為一旦計算機能夠真正從經(jīng)驗中學(xué)習(xí)并通過反復(fù)試驗，AGI將允許計算機“思考”并成倍地提高自己。如果真的發(fā)生了向ASI的轉(zhuǎn)變，那么理論上預(yù)期在此時發(fā)生的指數(shù)增長通常被稱為“智力爆炸”。

我們離AGI有多遠？

1956年，赫伯特·西蒙（Herbert Simon，1975年圖靈獎和1978年諾貝爾獎得主）聲稱10到20年可以實現(xiàn)通用計算機智能。六十年后，2016年，馬克·扎克伯格（Mark Zuckerberg，F(xiàn)acebook創(chuàng)始人和首席執(zhí)行官）聲稱，“我們想要建立的基于人工智能的計算機服務(wù)，將比人類有更好的洞察力和理解力。人類基本的聽、說、讀、寫等核心感知力，我認為在未來5-10年，計算機一定能做得比人類自己更好”。然而，與反復(fù)的樂觀預(yù)測相反，人工智能只實現(xiàn)了一些專門的能力，通用智能仍然難以捉摸。

2018年，在一本名為《Architects of Intelligence（智能架構(gòu)師）》的新書（參考資料[2]）中，作家兼未來學(xué)家馬丁·福特采訪了23位當今在人工智能領(lǐng)域工作的最杰出的專家，其中包括DeepMind首席執(zhí)行官黛米斯·哈薩比斯（Demis Hassabis）、谷歌人工智能首席執(zhí)行官杰夫·迪恩（Jeff Dean）和斯坦福人工智能總監(jiān)李飛（Fei-Fei Li）。在一項非正式調(diào)查中，福特讓他們每人猜測到哪一年AGI至少有50%的可能性建成。在福特采訪的23人中，只有18人回答了問題。有趣的是，這兩個人給出了最極端的答案：未來學(xué)家、谷歌工程總監(jiān)雷·庫茲韋爾（Ray Kurzweil）提出，到2029年，AGI建成的可能性將達到50%，機器人學(xué)家、iRobot聯(lián)合創(chuàng)始人羅德尼·布魯克斯（Rodney Brooks）的為2200年。其余的猜測分散在這兩個極端之間。詳見下表（在建成時間后面括號內(nèi)數(shù)字表示多于1人給出相同估計，“年數(shù)”是指估計從2018年起多少年建成）。平均估計是2099年，是2018后81年。

表1 “什么時候才能實現(xiàn)人類級AI？” 調(diào)查結(jié)果（參考資料[2]）

估計建成時間	年數(shù)	估計建成時間	年數(shù)	估計建成時間	年數(shù)
2029	11	2068 (3)	50 年	2118 (3)	100 年
2036	18	2080	62 年	2168 (2)	150 年
2038	20 年	2088	70 年	2188	170 年
2040	22 年	2098 (2)	80 年	2200	182 年

換句話說，AGI還有很長的距離。

KDnuggets（一個在線的商業(yè)分析、大數(shù)據(jù)、數(shù)據(jù)挖掘和數(shù)據(jù)科學(xué)平臺）最新民調(diào)題目是“何時能達到AGI（人工通用智能）？”（注：AGI之后是否會出現(xiàn)技術(shù)奇點，這是一個單獨的問題，本次調(diào)查沒有涉及）。根據(jù)1200多張回復(fù)得出的結(jié)果是：67%的認為AGI將在不到50年的時間內(nèi)實現(xiàn)，最常見的答案（也是中間答案）是21到50年。只有大約12%的人認為AGI永遠不會實現(xiàn)。具體統(tǒng)計如下（參考資料[3]）：

10年或10年以下：22.5%的受訪者

11-20年，20.1%

21-50年，23.9%

51-100年，14.3%

100多年，7.5%

永遠不會出現(xiàn)：11.7%

 

圖4 KDnuggets的AGI調(diào)查結(jié)果（參考資料[3]）

結(jié)語

機器學(xué)習(xí)的未來令人興奮。機器學(xué)習(xí)正在改變我們的生活。最近，自動駕駛汽車、智能助手、機器人和智慧城市管理已經(jīng)證明，智能機器是可以想象的，并且可以產(chǎn)生誘人的效果，改變大多數(shù)行業(yè)領(lǐng)域，如零售、生產(chǎn)、建筑、會計、醫(yī)療服務(wù)、媒體和工程。

艾倫·圖靈1950年在他的開創(chuàng)性著作的《計算機器與智能》一文中所說，“我們只能看到前面不遠的地方，但我們可以看到很多需要做的事情”（參考資料[4]）。

2020年12月23日在“推動 AI 前進：跨學(xué)科方法”為主題的《AI Debate 2》辯論會上，有十幾位頂尖的計算機科學(xué)家，對人工智能下一步發(fā)展，各抒己見。例如，斯坦福大學(xué)教授李飛飛指出：“在真實環(huán)境中感知與行動之間不斷循環(huán)互動，將引發(fā)人工智能的新一輪進化”。的確，所有復(fù)雜智能所需的智力發(fā)展，取決于與環(huán)境的相互作用。研究以及構(gòu)建這種具備互動學(xué)習(xí)能力的智能體是重要方向，這些智能體使用感知和驅(qū)動來學(xué)習(xí)和理解世界。加州大學(xué)洛杉磯分校教授朱迪亞·珀爾（Judea Pearl，圖靈獎得主）反對僅僅依賴數(shù)據(jù)的文化，提出了一套基于結(jié)構(gòu)的關(guān)于因果的數(shù)學(xué)語言和理論，作為因果科學(xué)是回答因果問題的推理引擎，他稱之為“深度理解”。該引擎的特點是 “Knowledge in, Knowledge out, Data in between（知識輸入，知識輸出，數(shù)據(jù)在中間）”。

在后工業(yè)化時期，人們試圖制造一臺機器，它像人類一樣進行各種活動。達到這個科學(xué)史上最為雄心勃勃的目標，還有很長的路要走。但是，即使未來實現(xiàn)了人工通用智能，也永遠不會和人類智能完全一樣。

參考資料

[1] Herbert L. Roitblat.Algorithms Are Not Enough:Creating General Artificial Intelligence.The MIT Press.2020

[2] Martin Ford.Architects of Intelligence: The truth about AI from the people building it. Packt Publishing.2018

[3] Gregory Piatetsky, When will AGI (Artificial General Intelligence) be reached? KDnuggets.2018

[4] A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49: 433-460.