人工智能十問：AI會統(tǒng)治人類嗎？

摘要：即便是最先進(jìn)的人工智能系統(tǒng)也存在局限性，它們還不如一只貓聰明······

網(wǎng)絡(luò)圖片

人工智能常常被認(rèn)為是一項(xiàng)將要顛覆世界的技術(shù)，從這一概念誕生至今的65年中，無數(shù)電影與小說塑造了各種經(jīng)典的人工智能角色，AI（Artificial Intelligence）也很快成為人類未來世界藍(lán)圖中的重要組成部分。但在人工智能不斷拓寬我們對未來想象的同時，也不乏“AI 統(tǒng)治世界”、“AI 監(jiān)視隱私”等等一類的消極論調(diào)，那么，我們當(dāng)下討論的 AI 真的即將統(tǒng)治人類嗎？AI 真的在威脅著個人數(shù)據(jù)與隱私嗎？......又或者，AI 真的比我們更聰明嗎？

如果你也對這些問題心存疑慮，又想免于被互聯(lián)網(wǎng)上的各種言論牽著鼻子走，那么，圖靈獎得主楊立昆（Yann LeCun）的新書《科學(xué)之路：人，機(jī)器與未來》或許可以為你提供一份更科學(xué)、客觀且前沿的人工智能問題參考手冊。

在真正開始有關(guān) AI 的倫理思考之前，我們首先要弄清楚以下三個名詞的關(guān)系：人工智能、機(jī)器學(xué)習(xí)與深度學(xué)習(xí)。人工智能是試圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器。目前，開發(fā)新應(yīng)用最常用的人工智能技術(shù)之一就是機(jī)器學(xué)習(xí)，而深度學(xué)習(xí)是實(shí)現(xiàn)機(jī)器學(xué)習(xí)的重要方法之一，也被楊立昆以及其他許多科學(xué)家認(rèn)為是人工智能的未來。

楊立昆在書中對人工智能提出了10個問題并進(jìn)行了深入探討，讓我們更全面、更客觀的了解人工智能。

我們不了解讓出租車司機(jī)、工匠、醫(yī)生或航空公司飛行員完成他們的工作的神經(jīng)運(yùn)作機(jī)制，但我們會選擇相信他們。為什么要對一臺反應(yīng)更快、不知疲倦、從不分心的機(jī)器提出更高的要求呢？當(dāng)你可以證明它比人類更可靠時，為什么還要對它產(chǎn)生懷疑呢？

人工智能系統(tǒng)每天做出數(shù)萬億個決策，其中大多數(shù)都與查找、分類和過濾信息以及一些稍顯無聊的應(yīng)用程序有關(guān)，例如應(yīng)用于照片和視頻的效果。你是否真的愿意花時間和精力來詳細(xì)了解它們？人工智能的工作能夠帶來令人滿意的效果，這不就夠了嗎？

而且使用沒有深入了解其運(yùn)行機(jī)制的系統(tǒng)是一種常見的現(xiàn)象。許多常用藥物都是通過反復(fù)試錯獲得的，而我們對其作用機(jī)制了解甚少。比如，我們熟悉的且在日常生活中不可被替代的阿司匹林是有史以來使用最廣泛的藥物，它于1897 年首次被合成，可是直到1971 年我們才明確其作用機(jī)制。

我意識到，模擬人腦的想法可能會讓一些哲學(xué)家或有宗教信仰的人極力反對，但是有許多科學(xué)家認(rèn)為思維機(jī)制最終將會由可以學(xué)習(xí)的人工智能系統(tǒng)重現(xiàn)。

質(zhì)疑此觀點(diǎn)的人認(rèn)為，我們對生物、物理、量子和其他系統(tǒng)如何在人體內(nèi)結(jié)合以使大腦發(fā)揮作用的了解還遠(yuǎn)遠(yuǎn)不夠。的確，我們并不能理解這一切，但是我堅(jiān)信，哺乳動物或人類的大腦是可以“計算”的機(jī)器，并且這些計算原則上可以通過電子機(jī)器或計算機(jī)進(jìn)行再現(xiàn)。

我個人認(rèn)為意識是一種幻覺，它似乎在許多聰明的動物身上存在。人類的意識與注意力息息相關(guān)，當(dāng)面對特殊情況時，我們將注意力集中于此，此時我們會非常專注。當(dāng)我們玩益智游戲時、準(zhǔn)備新的烹飪食譜時、參加辯論時，我們的注意力將毫不猶豫地集中在這個不尋常的復(fù)雜任務(wù)上。它迫使我們開啟“世界模型”以規(guī)劃下一步行動。

對我來說，毫無疑問，未來的智能機(jī)器應(yīng)該具備某種形式的意識。也許與人類的不同，它們可以同時專注于多項(xiàng)任務(wù)。但它是無法培養(yǎng)意圖或發(fā)展意識的。我的同事安托萬·博茲總結(jié)道：“我們甚至沒有配方的原料去制造一臺既能夠制定戰(zhàn)略，又對世界有敏銳了解的真正智能機(jī)器。如今我們還缺乏一些基礎(chǔ)概念。”

因此，深度學(xué)習(xí)的能力十分強(qiáng)大卻又十分有限。目前的深度學(xué)習(xí)系統(tǒng)仍無法進(jìn)行邏輯推理，因?yàn)楫?dāng)前的邏輯與學(xué)習(xí)能力并不匹配，這是未來幾年的主要挑戰(zhàn)。只受過國際象棋訓(xùn)練的機(jī)器根本無法下圍棋，而且它完全不理解自己所做的事情，它只不過是機(jī)械化地執(zhí)行指令。如果以生物的智能做一把標(biāo)尺，人類的智能為 100，老鼠的智能為1 ，那么人工智能在標(biāo)尺上的位置可能更接近后者。

科學(xué)面臨的挑戰(zhàn)是巨大的，技術(shù)也是如此。

也許你要提起那些仿真機(jī)器人來反駁我了，比如“索菲亞”。索菲亞是一位面帶神秘微笑、長著一雙玻璃眼珠的美麗的光頭女人，“她”在2017 年的許多舞臺上都大放異彩。“她”動人的臉龐能夠呈現(xiàn)數(shù)十種不同的表情，在調(diào)侃一個記者關(guān)于地球上有太多機(jī)器人的擔(dān)憂時，“她”笑道：“您好萊塢電影看太多了 ！”這個經(jīng)典笑話讓她如此酷似人類，以至沙特阿拉伯在當(dāng)年授予了“她”沙特國籍。實(shí)際上，“她”只是一個由工程師預(yù)先設(shè)定好一系列標(biāo)準(zhǔn)答案的“木偶”。當(dāng)我們與“她”交流時，所有的談話內(nèi)容均會經(jīng)過匹配系統(tǒng)處理，并從得到的答案中選擇最合適的一個輸出。索菲亞欺騙了人們，“她” 只是一個完成度很高的塑料制品，只不過是我們（被這個激活了的物體所感動的人類）賦予了它某些智能。

所以，人工智能比人類聰明嗎？也許它們在執(zhí)行十分精確嚴(yán)密的特定任務(wù)時所表現(xiàn)出的性能遠(yuǎn)超人類。但至少目前，任何一種機(jī)器學(xué)習(xí)方法都沒有人類的學(xué)習(xí)更加有效。

網(wǎng)絡(luò)圖片

當(dāng)用于測量機(jī)器人電池電量的鏡頭元件產(chǎn)生了較高的成本而致使機(jī)器人開始尋找電源時，不正與饑餓的感覺相似嗎？

當(dāng)機(jī)器因成本高昂而避免采取行動時，或者由于成本低廉而執(zhí)行任務(wù)時，這是否已經(jīng)可以看作是一種情感的標(biāo)志？ 

當(dāng)計算饑餓的目標(biāo)函數(shù)的組成部分產(chǎn)生高成本時，它會觸發(fā)對食物的搜索。普遍地觀點(diǎn)認(rèn)為，這些行為是目標(biāo)模塊組件不滿意的結(jié)果。

我很清楚地意識到所有這些似乎都是可以簡化的。情感是人性的重要組成部分，因此人們不愿意將其數(shù)字化為簡單的數(shù)學(xué)函數(shù)計算，對將人類行為簡化為目標(biāo)函數(shù)的最小化也心存疑慮。但是，我在此提出的僅是關(guān)于智能系統(tǒng)的一般體系結(jié)構(gòu)的假設(shè)，沒有否認(rèn)目標(biāo)函數(shù)和世界模型的豐富性或復(fù)雜性。

如今的人工智能有一個悖論：它功能極其強(qiáng)大、極其專業(yè)化，卻沒有一點(diǎn)常識。

常識至關(guān)重要，它制約著我們與世界的聯(lián)系，它能填補(bǔ)空白，彌補(bǔ)隱含的信息。當(dāng)我們看到一個坐在桌子旁的人時，可能看不到他的腿，但我們知道他肯定有腿，因?yàn)槲覀儗θ祟愑幸欢ǖ某ＷR。我們的大腦還整合了物理學(xué)的基本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就會灑得滿桌子都是。我們知道如果不拿住某個東西，它就會掉下去。我們還能夠意識到時間流逝、萬物運(yùn)動。

目前，機(jī)器帶有的預(yù)測能力十分有限。當(dāng)然，如果給定一個有些刪減的文本，機(jī)器有能力給出一個可能的后續(xù)單詞列表。但是，如果這段文字是阿加莎·克里斯蒂(Agatha Christie)的小說，在最后一幕波羅探長宣布“兇手是......先生”，那么，為了完成這個句子需要讀者有很強(qiáng)的常識和對人性的了解。很顯然，沒有哪一臺機(jī)器能做到這一點(diǎn)。更不用提預(yù)測人類世界的未來了。

我們對機(jī)器人想要取得權(quán)力的恐懼主要來自人性特質(zhì)在機(jī)器上的投射。對大多數(shù)人來說，人類與智慧生物的唯一互動就是與其他人類的互動，正因如此，我們混淆了智力和人性。這是一個錯誤，因?yàn)檫€有其他形式的智力存在，即使在動物界也是如此。

人類同倭黑猩猩、黑猩猩、狒狒和其他一些靈長類動物一樣具有復(fù)雜且通常帶有等級制的社會組織，每個個體的生存（或舒適度）取決于它影響該物種其他成員的能力（統(tǒng)治只是影響的一種形式）。我們是社會性動物的事實(shí)解釋了我們?yōu)槭裁窗褜y(tǒng)治的渴望與智力聯(lián)系在一起。

除了對統(tǒng)治的渴望，為了人類物種（或基因）的生存，我們的許多沖動和情感已通過進(jìn)化建立了起來，其中包括好奇心，對探索的渴望，競爭力，屈服，渴望與我們的同類接觸，愛，仇恨，掠食，以及我們對家庭成員、我們的部族、我們的文化、我們的國家的偏愛，沒有這些沖動和情感的人、動物或機(jī)器也都可以是有智慧的。我們必須將這個問題說得清晰透徹：只有當(dāng)我們在智能機(jī)器中明確地建立了這種欲望時，它們才會渴望統(tǒng)治人類。但我們?yōu)槭裁匆@樣做呢？ 

電影《我，機(jī)器人》劇照

請記住，人工智能始終都是由人類開發(fā)出來為人類服務(wù)的工具，目的是放大人類的智能。

我們認(rèn)可的造福人類的所有技術(shù)革命都有其陰暗面，每一項(xiàng)技術(shù)都帶來了問題，而這些問題最終都得到了解決。

為了防止這些濫用，我?guī)椭鷦?chuàng)建了“ 人工智能伙伴關(guān)系” （PAI），這個組織匯集了約100名成員，包括大型公司、互聯(lián)網(wǎng)巨頭、學(xué)者社團(tuán)、人權(quán)組織（國際特赦組織、美國公民自由聯(lián)盟、電子前沿基金會）、媒體（《紐約時報》）、大學(xué)團(tuán)體和政府機(jī)構(gòu)等。我們討論道德問題，警告危險并發(fā)布建議。人工智能是一個新領(lǐng)域，其深度展開的后果并非總是可預(yù)測的，我們必須多加考慮。

那么，智能化武器是否會有滑向軍備競賽的危險？弗拉基米爾·普京（Vladimir Putin）在曾表示，“人工智能的領(lǐng)導(dǎo)者將成為世界的統(tǒng)治者”。面對人工智能推動的可能存在的軍事失控，危險是無比真實(shí)的。避免這些危險最重要的力量來自我們的國際機(jī)構(gòu)，堅(jiān)定捍衛(wèi)已有的保護(hù)措施比以往任何時候都更加有必要，因?yàn)樗鼈兪艿搅嗣翊庵髁x、民族主義和孤立主義的威脅。

自動化已經(jīng)取代了人類來完成重復(fù)性或艱巨的任務(wù)，而人工智能將在那些一定程度上需要加入感知、推理、決策和行動計劃等內(nèi)容的工作中取代人類。自動駕駛汽車會減少卡車、出租車和載客專車（VTC）的駕駛員的數(shù)量，因?yàn)樗鼈儠影踩ａt(yī)學(xué)圖像分析系統(tǒng)已經(jīng)走進(jìn)放射科醫(yī)生的日常工作中，患者也因此得到更可靠、更便宜的檢查。在以上這些健康和交通運(yùn)輸領(lǐng)域，人工智能將會挽救更多的生命。

所有的職業(yè)都將受到科技變化帶來的影響。有一件事是可以確定的：人工智能及其應(yīng)用無法參與競爭的東西會變得更有價值。

我們每個人都可以花不到2 歐元的低價或通過訂閱的方式聆聽最喜歡的音樂家的作品，然而如果要欣賞搖滾音樂會或歌劇，我們就需要支付50～300 歐元。區(qū)別在哪里？區(qū)別在于，獨(dú)特的事物賦予了生命獨(dú)特的時刻。一頓大餐，參觀自然景點(diǎn)或博物館，聽一場爵士樂音樂會—作為一個開明的業(yè)余愛好者，我因?yàn)槟軌蜃鲞@些事情而感到高興 ！—我們越來越重視創(chuàng)造力和獨(dú)到的體驗(yàn)，越來越不看重大眾化的產(chǎn)品。在健康、藝術(shù)、科學(xué)、教育、體育等領(lǐng)域的職業(yè)中，感性的方面在未來將占有重要的一席之地。

網(wǎng)絡(luò)圖片