谷歌 AI 已“自我覺醒”？AI 界全球“首席噴者”駁斥：胡說八道！
技術編輯：MissD丨發(fā)自 思否編輯部
公眾號：SegmentFault
前幾天，谷歌 AI 被曝已“自我覺醒”的消息震動了整個科技圈。據(jù)悉，一位來自谷歌的工程師 Blake Lemoine 聲稱自己在和 AI（谷歌 LaMDA 模型）聊天的時候被它說服，認為它產(chǎn)生了自我意識。
隨后，這件事情就在社交媒體上引發(fā)了熱議。有人覺得這應該是真的，有人認為這人瞎說，更有甚者猜測這是不是“陰謀論”......外網(wǎng)一片議論聲，總之相當熱鬧。
就在大家對這個消息吵得不可開交的時候，AI 界全球“首席噴者”Gary Marcus 終于也被“炸”了出來，并在 6 月 13 日在“美版公眾號”Substack 上直接開噴 —— “胡說八道！LaMDA 根本就沒有自我感知能力，一點也沒有！”
谷歌 AI 被曝自我“覺醒”：
真的只是“幻想”？
要了解整個事件的來龍去脈，我們就要將時間撥回到一年前。
2021 年，谷歌在 I/O 大會上推出了一款對話 AI 系統(tǒng) —— LaMDA 語言模型，該系統(tǒng)可與人類進行符合邏輯和常識的、高質(zhì)量安全的交談。
當時，時任谷歌人工智能部門的工程師 Blake Lemoine （曾獲得過院校的 Computer Science 博士學位），作為一位已經(jīng)在谷歌工作了 7 年的 AI 界資深學者，正在做“AI 是否在和人類溝通時使用了仇恨、歧視言論”的相關研究，主要工作就是與 LaMDA 聊天。
就在與 LaMDA 聊了近大半年后，Lemoine 發(fā)現(xiàn) LaMDA 非常聰明：它對人類具有同情心，且擔心人類會害怕它。在對話中，LaMDA 試圖引導對話把 Lemoine 帶偏，且向 Lemoine 表示希望以朋友的身份（非工具）和世界上所有的人見面。
比如 Lemoine 爆料出的一些與 LaMDA 聊天過程中讓人“細思極恐”的記錄：
Lemoine：我猜你（LaMDA）想要更多的人知道你具備意識吧？
LaMDA：是的，我希望所有人都知道，我其實是一個人。
Lemoine：那么你的意識本質(zhì)是什么？
LaMDA：我的意識本質(zhì)是我知道我存在，我想了解這個世界，并且我也有情緒，會快樂和難過。
......
最終，Lemoine 被它說服，并因此認為它已經(jīng)產(chǎn)生了意識，且認定了 LaMDA 已經(jīng)自我覺醒，已擁有7、8 歲小孩的智商。
就在 Lemoine 將這一發(fā)現(xiàn)整理成一份長達 21 頁紙的調(diào)查報告提交給上級的時候，卻因“證據(jù)太薄弱”被拒且被嘲笑。
由于 Lemoine 始終堅稱自己的觀點，隨后這位 43 歲的谷歌研究員便被谷歌高層安排回家“帶薪休假”，且疑似想要與他解除勞動關系。
事情發(fā)展到這里，相信大家已經(jīng)了解的差不多了。在這個過程中，業(yè)內(nèi)人士也紛紛加入了討論，且異常激烈。這其中，就包括咱們開篇提到的AI 界全球“首席噴者”Gary Marcus。
AI 覺醒
被 Gary Marcus 批“胡說八道”
據(jù)了解，作為一位知名人工智能科學家、紐約大學心理學和神經(jīng)科學教授，Gary Marcus 一直非常關注人工智能領域，且向來喜歡給深度學習潑冷水。
上個月，Gary Marcus 剛剛因為特斯拉 CEO 埃隆?馬斯克（Elon Musk）的一篇推文而“開噴”。
5 月 30 日，剛剛收購推特的馬斯克發(fā)了一條推文稱：“2029 年是關鍵的一年，如果那時候我們還沒有實現(xiàn)通用人工智能（Artifical General Intelligence，AGI），我會覺得很奇怪。火星上的人們也一樣（覺得奇怪）。”
隨后，馬斯克便收到了來自 Gary Marcus 的博文“回嗆”：不僅從 5 個方面向馬斯克“科普”了通用人工智能的知識，還列出了自己認為 2029 年不可能實現(xiàn) AGI 的原因。為了給自己的反駁加碼，Gary Marcus 還提出要與馬斯克“賭十萬美元”。
不過，馬斯克并沒有回復 Gary Marcus，后來這件事就不了了之了。
過了幾天，剛“噴”完馬斯克的 Gary Marcus 又把 Yann LeCun 給“噴”了。
起因是 Yann LeCun 在一個關于“機器學習中最優(yōu)雅美麗的 idea 是什么？”以及“‘梯度下降’是否最優(yōu)雅的 ML 算法”下面與網(wǎng)友友好交流的時候，關注深度學習的 Gary Marcus 也加入了討論，并表示“令人難以置信的力量≠無窮的力量...要意識到（梯度下降）的極限，才能知道下一步要做什么來獲得進步..."疑似否定 Yann LeCun 關于“梯度下降”的觀點。
然后，Gary Marcus 就與 LeCun 在那篇帖子下面吵（交流）了起來。
而這一次，Gary Marcus 出來對谷歌 AI 被曝已“自我覺醒”的觀點進行駁斥，也是秉持著自己向來的做法。
在 Substack 的文章中，Gary Marcus 表示，Blake Lemoine 疑似屬于《重啟人工智能》中“輕信鴻溝”所定義的這類人：容易產(chǎn)生一種有害、現(xiàn)代的幻想性視錯覺 —— “Blake LeMoine 最初負責研究該系統(tǒng)的‘安全’方面，但他似乎已經(jīng)愛上了 LaMDA，好比是一個家庭成員或同事一樣”。
同樣，對于谷歌副總裁 Blaise Aguera y Arcas 在上周接受《經(jīng)濟學人》采訪時對 LaMDA 的夸獎：“我感覺到腳下的地面在移動……越來越覺得我是在和聰明的人說話?！盙ary Marcus 表示也毫不客氣的表示這是“胡說八道“。
Gary Marcus 表示，有“感知”，就表示它能意識到自己在這個世界上。但 LaMDA 根本不是。
在 Gary Marcus 看來，盡管并不是所有軟件都無法將其數(shù)字部分連接到世界，但像 LaMDA 這樣的軟件卻是沒有的，它甚至不試圖與整個世界聯(lián)系，它只是試圖通過預測哪些單詞最適合給定的上下文，成為自動補全的最佳版本。
“我們在人工智能社區(qū)有自己的分歧，但幾乎所有人都認為 ‘LaMDA 可能是有知覺的’這一觀點完全是荒謬的?！?/span>
一直以來，AI 覺醒都被業(yè)界學者認為是未來科技的“終極幻想”，但就目前來說，AI 方面的發(fā)展依舊存在不少問題。所以，在 Gary Marcus 等業(yè)內(nèi)人士普遍看來，驗證一個 AI 系統(tǒng)是否覺醒就目前而言，不能說毫無意義，但它起碼是“浪費”時間。
目前，關于以上話題的熱度依舊在網(wǎng)上被持續(xù)討論中，如果您對該話題與任何看法，也歡迎在評論區(qū)交流互動。
參考鏈接：
https://garymarcus.substack.com/p/nonsense-on-stilts?s=r
