75歲圖靈獎得主Hinton離職谷歌!警告AI風(fēng)險,痛悔無法阻止人類AI大戰(zhàn)
本文經(jīng)AI新媒體量子位（ID：QbitAI）授權(quán)轉(zhuǎn)載，轉(zhuǎn)載請聯(lián)系出處
楊凈 明敏 發(fā)自 凹非寺
Breaking News！
深度學(xué)習(xí)三巨頭、神經(jīng)網(wǎng)絡(luò)之父Geoffrey Hinton已離職谷歌，結(jié)束十載生涯。
最新推文中透露了原因：為了自由地討論人工智能的風(fēng)險。
消息一出，整個科技圈炸了，人們震驚于AI已經(jīng)讓Hinton感到害怕了。
有網(wǎng)友直接懵住：到底發(fā)生了什么？還是我漏掉了什么？你不是曾說過GPT-4為人類的蝴蝶嗎？
不少人還認為Hinton此舉有待商榷，應(yīng)該將關(guān)注人工智能安全工作常態(tài)化而不是離職。
甚至還有人勸他理解AI，而不是通過延遲研究來限制。現(xiàn)在潘多拉魔盒已經(jīng)打開。
但Hinton的態(tài)度似乎十分堅定，在訪談中直言：對自己畢生的工作感到后悔。
而另一位巨頭LeCun這邊也表示，對Hinton的離職并不驚訝。
不少網(wǎng)友在底下已經(jīng)開始就AI的各種問題尋求Hinton的見解：
你對開源AI有什么看法？你覺得需要注意和避免的最大危險是什么？
“對自己畢生的工作感到后悔”
據(jù)《紐約時報》消息，Hinton的離職是在4月提出的。辭職的理由一言以蔽之，是對人工智能風(fēng)險的擔憂。
這種憂慮甚至讓這位深度學(xué)習(xí)之父表示：
我對自己畢生的工作，感到非常后悔。
我用一個借口來安慰自己，如果我沒有這么做，還會有其他人。
梳理來看，引發(fā)Hinton擔憂情緒的因素，有近期和遠期兩個方面。
先說近期影響，就是ChatGPT趨勢下的新一輪AI競爭。
在微軟將ChatGPT引入Bing后，挑戰(zhàn)了谷歌的核心業(yè)務(wù)搜索引擎，然后谷歌馬上推出了Bard作為應(yīng)對。這讓Hinton覺得，谷歌似乎不再扮演AI“好管家”的角色了。
而且科技巨頭們正在掀起一場無法停止的角逐。由此帶來的影響，將是生成式AI生產(chǎn)出非常多真假難辨的內(nèi)容。
而從長遠來看，Hinton認為，AI將會對就業(yè)市場造成巨大影響。如助理、翻譯等各行各業(yè)都可能被擾亂。
再進一步，AI或許也會對人類構(gòu)成威脅。
因為個人和企業(yè)不僅允許AI生成代碼，實際上AI也有能力運行這些代碼。因此Hinton認為有朝一日那種具有自主能力的殺手機器人，會成為現(xiàn)實。
他表示，AI實際上可以比人類擁有更聰明的想法——一些人相信這一點。但是他沒有預(yù)料到人工智能的發(fā)展速度會像過去7個月那樣快。
我曾以為這需要30-50年之久，但是現(xiàn)在我不這么想了。
這種想法，和之前十余位美國人工智能協(xié)會專家聯(lián)名發(fā)出的警告，有些相似之處。不過在那時，Hinton并沒有參與這項活動。
據(jù)《紐約時報》消息，離職前，谷歌CEO桑達爾·皮查伊和他通過電話，但具體內(nèi)容Hinton不愿透露。
這場離職風(fēng)暴中，谷歌研究首席科學(xué)家、谷歌高級副總裁Jeff Dean發(fā)表了一份聲明，表示：
我們?nèi)詴猿謱I采取負責任的態(tài)度。我們在不斷學(xué)習(xí)理解新出現(xiàn)的風(fēng)險時，也在大膽創(chuàng)新。
對于Hinton的離職，另一位深度學(xué)習(xí)三巨頭之一LeCun表示，Hinton并沒有和他透露要離開谷歌的打算，不過他對此并不感到十分驚訝。
OpenAI首席科學(xué)家是他學(xué)生
此番離職，或許對于Hinton來說，也是時候了。
ChatGPT、大模型讓全球?qū)τ谕ㄓ萌斯ぶ悄艿南胂蟾泳呦螅浔澈蟮陌踩c風(fēng)險等問題也被搬上日程。
一直以來，Hinton對于通用人工智能抱有贊嘆和期待。
早在GPT-3剛出爐，其他兩位圖靈獎得主LeCun和Bengio都持不看好態(tài)度時，Hinton卻表示，從GPT-3出色的性能可以推斷，生命、宇宙和萬物的答案“不過是4.398萬億個參數(shù)而已”。
直至ChatGPT出現(xiàn)時，他還將GPT-4比作人類的蝴蝶：
毛毛蟲提取營養(yǎng)物質(zhì)，然后轉(zhuǎn)化為蝴蝶。人們已經(jīng)提取了數(shù)十億的理解金塊，而 GPT-4 是人類的蝴蝶。
他驚嘆其效果的同時也透露出不少隱憂。
RLHF機制是在培養(yǎng)一個超常的早熟兒。
而現(xiàn)在，隨著ChatGPT風(fēng)暴席卷越來越多的行業(yè)，Hinton想要站出來承擔人工智能危機“敲鐘人”的角色，就已經(jīng)到了關(guān)鍵時刻。
值得一提的是，在通用人工智能探索的最前沿，Hinton的學(xué)生們?nèi)园缪葜匾巧?/span>
比如，現(xiàn)在OpenAI的首席科學(xué)家Ilya Sutskever。
當年，Hinton與他的兩位學(xué)生Ilya Sutskever和Alex Krizhevsky共同發(fā)明了卷積神經(jīng)網(wǎng)絡(luò)AlexNet，拿下當時最權(quán)威的人工智能大賽ImageNet第一名，而且精確度是第二名的兩倍。
后來，他們還一起成立了公司DNNResearch，后被谷歌4400萬美元收購。
Ilya Sutskever擔任Google Brain的研究科學(xué)家，并成為后來AlphaGO眾多合著者之一。直至2015年底他離開谷歌，加入OpenAI擔任聯(lián)合創(chuàng)始人以及首席科學(xué)家。
好了，期待Hinton大佬的新動向，對于他此番離職谷歌，你怎么看呢？
（如果你想更進一步了解Hinton是如何理解神經(jīng)網(wǎng)絡(luò)的，可以閱讀 Hinton：人類就是機器，絕妙的機器 ）
參考鏈接：
[1]https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings
[2]https://twitter.com/geoffreyhinton/with_replies
[3]https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
---END---