為什么AI無(wú)法解決一般智能問(wèn)題？

為什么AI只在特定任務(wù)中表現(xiàn)優(yōu)異，但無(wú)法將其能力擴(kuò)展到其他領(lǐng)域？

數(shù)據(jù)科學(xué)家Herbert Roitblat在他的著作《 Algorithms Are Not Enough》中將AI的這種缺點(diǎn)歸納為：算法。具體而言，我們現(xiàn)在用AI處理的問(wèn)題，都是可以用數(shù)學(xué)公式表示出來(lái)，并且在很大程度上能夠求解此公式。

換句話(huà)說(shuō)，如果我們發(fā)現(xiàn)了一個(gè)問(wèn)題，并找到了其數(shù)學(xué)表達(dá)式，我們就可以以此創(chuàng)建一個(gè)人工智能算法去解決它，這種算法往往比我們自己去解決更有效率。然而，那些未被發(fā)現(xiàn)，以及無(wú)法用可計(jì)算的數(shù)字方式代表的問(wèn)題，仍然是我們無(wú)法觸及的空白領(lǐng)域。

當(dāng)前的一些人工智能探索思路，例如“神經(jīng)符號(hào)系統(tǒng)"、Bengio的系統(tǒng)2深度學(xué)習(xí)思想、LeCun提出的自監(jiān)督學(xué)習(xí)等雖然取得了不錯(cuò)的進(jìn)展，但是它們?nèi)匀簧婕霸陬A(yù)結(jié)構(gòu)化空間運(yùn)行，沒(méi)有一個(gè)思路能解決這個(gè)空間從何而來(lái)，因此也沒(méi)有解決從狹隘到一般智能的具體需求。

符號(hào)AI的表述

在人工智能的整個(gè)歷史中，科學(xué)家們經(jīng)常發(fā)明新的方法來(lái)利用計(jì)算機(jī)的進(jìn)步以巧妙的方式解決問(wèn)題。前幾十年的人工智能側(cè)重于符號(hào)系統(tǒng)。

人工智能的這一分支假定人類(lèi)思維基于符號(hào)的操縱，任何能夠“處理”符號(hào)的系統(tǒng)都是智能的。符號(hào) AI 要求人工開(kāi)發(fā)人員“仔細(xì)”定義計(jì)算機(jī)程序行為的規(guī)則、事實(shí)和結(jié)構(gòu)。符號(hào)系統(tǒng)可以解決很多問(wèn)題，如記憶信息、以超快的速度計(jì)算復(fù)雜的數(shù)學(xué)公式以及模擬專(zhuān)家決策。流行的編程語(yǔ)言和我們每天使用的大多數(shù)應(yīng)用程，其基礎(chǔ)都是符號(hào) AI 。

但符號(hào) AI只能局限于解決有著清晰“分步解決方案”的問(wèn)題。問(wèn)題是，人類(lèi)和動(dòng)物執(zhí)行的大多數(shù)任務(wù)不能用明確的規(guī)則來(lái)表示。

"智力任務(wù)，如下棋、化學(xué)結(jié)構(gòu)分析和微積分，在計(jì)算機(jī)中相對(duì)容易執(zhí)行。但是有些一歲的孩子甚至是老鼠都能做到的一些活動(dòng)對(duì)于計(jì)算機(jī)而言卻難以做到。這被稱(chēng)為“Moravec’s paradox”  （"莫拉韋茨的悖論"），以科學(xué)家Hans Moravec（漢斯·莫拉韋茨）的名字命名，他說(shuō)，與人類(lèi)相比，計(jì)算機(jī)可以用很少的算力執(zhí)行高水平的推理任務(wù)，但很難執(zhí)行一些人類(lèi)和動(dòng)物自然獲得的簡(jiǎn)單技能。

數(shù)百萬(wàn)年來(lái)，人類(lèi)大腦已經(jīng)進(jìn)化出機(jī)制，使我們能夠執(zhí)行基本的感應(yīng)運(yùn)動(dòng)功能。我們接球，我們識(shí)別面孔，我們判斷距離，一切似乎都毫不費(fèi)力。

另一方面，“智力活動(dòng)”是近年來(lái)才得到發(fā)展的新概念。我們經(jīng)常進(jìn)行大量的訓(xùn)練，并且非常努力的去完成各種各樣的任務(wù)。那么，我們能否問(wèn)這樣一個(gè)問(wèn)題：是能力讓我們產(chǎn)生了智力，還是智力讓我們產(chǎn)生了能力？

機(jī)器學(xué)習(xí)中的表述

但同樣，深度學(xué)習(xí)的威力在很大程度上取決于架構(gòu)和表現(xiàn)力。大多數(shù)深度學(xué)習(xí)模型需要標(biāo)記的數(shù)據(jù)，而且沒(méi)有一種通用的神經(jīng)網(wǎng)絡(luò)架構(gòu)可以用以解決所有可能的問(wèn)題。

在構(gòu)建模型的過(guò)程中，機(jī)器學(xué)習(xí)研究員必須首先定義要解決的問(wèn)題，然后“找”一個(gè)大型訓(xùn)練數(shù)據(jù)集，然后找出能夠解決該問(wèn)題的深度學(xué)習(xí)架構(gòu)。

在訓(xùn)練期間，從輸入到輸出，深度學(xué)習(xí)模型將調(diào)整數(shù)百萬(wàn)個(gè)參數(shù)。但是，它仍然需要機(jī)器學(xué)習(xí)工程師來(lái)決定神經(jīng)網(wǎng)絡(luò)的層次數(shù)和類(lèi)型、學(xué)習(xí)速率、優(yōu)化功能、損失功能和其他不可學(xué)習(xí)的方面。

與許多機(jī)器智能一樣，深度學(xué)習(xí)的威力來(lái)自系統(tǒng)的設(shè)計(jì)方式，而不是來(lái)自它的自主智能。只有巧妙的表述，包括巧妙的架構(gòu)，才能使機(jī)器智能變得聰明。

如果將深度學(xué)習(xí)網(wǎng)絡(luò)描述為學(xué)習(xí)自己的表述，那就錯(cuò)了。網(wǎng)絡(luò)的結(jié)構(gòu)決定了它能從其輸入中獲得什么表述。換句話(huà)說(shuō)，對(duì)于深度學(xué)習(xí)網(wǎng)絡(luò)和任何其他機(jī)器學(xué)習(xí)系統(tǒng)來(lái)說(shuō)，它如何表述輸入以及它如何表述解決問(wèn)題的過(guò)程同樣具有確定性。

機(jī)器學(xué)習(xí)的其他分支也遵循相同的規(guī)則。例如，無(wú)人監(jiān)督的學(xué)習(xí)不需要標(biāo)記示例。但是，它仍然需要一個(gè)明確的目標(biāo)，如網(wǎng)絡(luò)安全中的異常檢測(cè)、營(yíng)銷(xiāo)中的客戶(hù)細(xì)分、維度降低或嵌入表示。

強(qiáng)化學(xué)習(xí)是機(jī)器學(xué)習(xí)的另一個(gè)流行分支，與人類(lèi)和動(dòng)物智力的某些方面非常相似。似乎智能體在訓(xùn)練時(shí)不依賴(lài)標(biāo)簽示例。相反，它被賦予一個(gè)環(huán)境（例如棋或棋盤(pán)）和一組它可以執(zhí)行的動(dòng)作（例如移動(dòng)棋子，放置石頭）。在每一步，agent執(zhí)行一個(gè)操作，并以獎(jiǎng)勵(lì)和處罰的形式接收來(lái)自其環(huán)境的反饋。通過(guò)反復(fù)試驗(yàn)，強(qiáng)化學(xué)習(xí)智能體會(huì)發(fā)現(xiàn)產(chǎn)生更多回報(bào)的動(dòng)作序列。

計(jì)算機(jī)科學(xué)家Richard Sutton（理查德·薩頓）將強(qiáng)化學(xué)習(xí)描述為"第一個(gè)智能計(jì)算理論"。近年來(lái)，它已成為非常流行的解決復(fù)雜的問(wèn)題，如掌握計(jì)算機(jī)和棋盤(pán)游戲，并開(kāi)發(fā)多功能的機(jī)械手。

圖注：強(qiáng)化學(xué)習(xí)可以解決復(fù)雜的問(wèn)題，如游戲板和視頻游戲以及機(jī)器人操作

但強(qiáng)化學(xué)習(xí)環(huán)境通常非常復(fù)雜，智能體可以執(zhí)行的可能操作的數(shù)量非常大。因此，強(qiáng)化學(xué)習(xí)代理需要人類(lèi)智力的大量幫助來(lái)設(shè)計(jì)正確的獎(jiǎng)勵(lì)、簡(jiǎn)化問(wèn)題和選擇正確的架構(gòu)。例如掌握網(wǎng)絡(luò)游戲DotA 2的強(qiáng)化學(xué)習(xí)系統(tǒng)OpenAI 5，就依靠其設(shè)計(jì)師簡(jiǎn)化很多游戲規(guī)則，例如減少可用其角色的數(shù)量等。

除了瑣碎的系統(tǒng)之外，檢查所有可能導(dǎo)致獎(jiǎng)勵(lì)的行動(dòng)的所有可能組合幾乎是不可能的。與其他機(jī)器學(xué)習(xí)情況一樣，需要啟發(fā)式系統(tǒng)來(lái)將問(wèn)題簡(jiǎn)化為更易處理的問(wèn)題，即使這樣無(wú)法保證能夠產(chǎn)生最佳答案。

這恰恰也是當(dāng)前人工智能系統(tǒng)的缺陷：目前人工智能工作的方法，是在研究員已經(jīng)想出了如何構(gòu)建和簡(jiǎn)化問(wèn)題的基礎(chǔ)上開(kāi)發(fā)的，以便現(xiàn)有的計(jì)算機(jī)和流程能夠解決這些問(wèn)題。要擁有真正的一般智能，計(jì)算機(jī)需要擁有能夠定義和構(gòu)建自己的問(wèn)題的能力。

AI朝著正確的方向發(fā)展嗎？

有各種努力來(lái)應(yīng)對(duì)當(dāng)前人工智能系統(tǒng)的挑戰(zhàn)。一個(gè)比較流行的想法是繼續(xù)擴(kuò)大深度學(xué)習(xí)的規(guī)模。一般推理是，更大的神經(jīng)網(wǎng)絡(luò)最終將破解智能的“密碼”。畢竟，人腦有超過(guò)100萬(wàn)億個(gè)突觸。谷歌人工智能研究人員開(kāi)發(fā)的最大神經(jīng)網(wǎng)絡(luò)有一萬(wàn)億個(gè)參數(shù)。證據(jù)表明，在神經(jīng)網(wǎng)絡(luò)中添加更多的圖層和參數(shù)可以帶來(lái)漸進(jìn)式改進(jìn)，尤其是在 GPT-3 等語(yǔ)言模型中更為明顯。

但是，大型神經(jīng)網(wǎng)絡(luò)并不能解決一般智能的根本問(wèn)題。

雖然GPT-3語(yǔ)言模型的重大成就，但它們不是通常意義上智能。本質(zhì)上，他們只是抽象層面上的抄襲者，他們用一種語(yǔ)言模擬單詞的順序。給它一個(gè)提示，它會(huì)創(chuàng)建一個(gè)文本，但這些文本它并不像“真正的語(yǔ)言”一樣有著彼此之間的聯(lián)系。它和所有當(dāng)前的人工智能應(yīng)用程序一樣，都是只解決了一個(gè)特定的問(wèn)題。這正是它被宣傳為一種語(yǔ)言模式而不是通常意義上的智能的原因。

其他研究方向試圖為當(dāng)前的人工智能結(jié)構(gòu)添加結(jié)構(gòu)改進(jìn)。

例如，混合人工智能將符號(hào)AI和神經(jīng)網(wǎng)絡(luò)結(jié)合在一起，將前者推理能力與后者的模式識(shí)別能力相結(jié)合。混合人工智能（也稱(chēng)為"神經(jīng)符號(hào)系統(tǒng)"）已經(jīng)有幾個(gè)實(shí)際案例，表明混合系統(tǒng)需要的訓(xùn)練數(shù)據(jù)更少，在推理任務(wù)方面比純神經(jīng)網(wǎng)絡(luò)方法更穩(wěn)定。

系統(tǒng)2深度學(xué)習(xí)是深度學(xué)習(xí)先驅(qū)Yoshua Bengio（優(yōu)舒亞·本吉奧）提出的另一個(gè)研究方向，它試圖將神經(jīng)網(wǎng)絡(luò)超越統(tǒng)計(jì)學(xué)。系統(tǒng)2深度學(xué)習(xí)旨在使神經(jīng)網(wǎng)絡(luò)能夠?qū)W習(xí)"高級(jí)表示"，而無(wú)需明確嵌入象征性智能。

另一項(xiàng)研究工作是自我監(jiān)督學(xué)習(xí)，由另一位深度學(xué)習(xí)先驅(qū)、卷積神經(jīng)網(wǎng)絡(luò)發(fā)明者Yann LeCun提出。自我監(jiān)督的學(xué)習(xí)旨在學(xué)習(xí)任務(wù)，而不需要標(biāo)記的數(shù)據(jù)。

所有這些解決方案都為（路徑問(wèn)題）帶來(lái)了更強(qiáng)大的問(wèn)題解決方案，但沒(méi)有一個(gè)能解決這些解決方案是如何構(gòu)建或生成的問(wèn)題。它們?nèi)匀簧婕霸陬A(yù)結(jié)構(gòu)化空間運(yùn)行。沒(méi)有一個(gè)能解決這個(gè)空間從何而來(lái)的問(wèn)題。上述都是這些都是非常重要的想法，只是它們沒(méi)有解決從狹隘到一般智能的具體需求。

因此，人工智能是一項(xiàng)正在進(jìn)行中的工作。有些任務(wù)已經(jīng)比其他任務(wù)進(jìn)展得更遠(yuǎn)了，但是有些還有很長(zhǎng)的路要走。人工智能的缺陷往往是其創(chuàng)造者的缺陷，而不是計(jì)算決策的內(nèi)在屬性。它正在隨著時(shí)間的推移而進(jìn)步。

相關(guān)連接：https://bdtechtalks.com/2021/03/29/ai-algorithms-representations-herbert-roitblat/

?------------------------------------------------

雙一流大學(xué)研究生團(tuán)隊(duì)創(chuàng)建，專(zhuān)注于目標(biāo)檢測(cè)與深度學(xué)習(xí)，希望可以將分享變成一種習(xí)慣。

整理不易，點(diǎn)贊三連！