最快下月！地表最強語言模型GPT-4發(fā)布在即？CEO暗示：已通過圖靈測試
視學(xué)算法報道
視學(xué)算法報道
【導(dǎo)讀】千呼萬喚始出來！GPT-4，真要來了？
作為史上最受期待的AI模型，GPT-4真要來了？
這幾天，AI分析師羅梅羅的一篇專欄文章，一經(jīng)推出便迅速「引爆」了整個AI科技圈。
他表示，「GPT-4幾乎準(zhǔn)備就緒，并將于今年12月至明年2月的某個時間點發(fā)布」。
甚至還有傳言表示，GPT-4已經(jīng)先進(jìn)到「與人類無異」，甚至「通過了圖靈測試」。和以前相比，企業(yè)引進(jìn)成本也將大幅下降。
目前，整個AI界還沒有出現(xiàn)「正式且肯定」能通過圖靈測試的模型，因此GPT-4的推出——很可能成就AI史上又一個偉大的一年。
最快下月，第四代模型真快來了？
2020年6月，由埃隆·馬斯克等人創(chuàng)立的世界級人工智能研究機構(gòu)OpenAI發(fā)布了第三代生成式預(yù)訓(xùn)練模型GPT-3。
GPT-3擁有1750億個參數(shù)，是上一代模型GPT-2的100倍，也一舉將此前同類NLP模型的參數(shù)紀(jì)錄提升了10倍。
GPT-3的發(fā)布被業(yè)界視為重大進(jìn)展，也因此被《麻省理工科技評論》列為「2021十大突破性技術(shù)」。
巨大的性能飛躍，也讓所有人對OpenAI的下一代生成式預(yù)訓(xùn)練模型寄予厚望。
假如GPT-4之于GPT-3的進(jìn)步，就像GPT-3之于GPT-2一樣大，那么這又將是一個接近100倍的提升。
但近兩年來，OpenAI在談及GPT-4時卻一向非?！胳t腆」，甚至可以說大多數(shù)時間都保持著沉默。我們僅能從管理層不經(jīng)意間透露出的零星信息「管中窺豹」。
距離上一次GPT-4有消息流出，這還要追溯到今年年初。
當(dāng)時OpenAI的首席執(zhí)行官薩姆·阿爾特曼（Sam Altman）表示，GPT-4預(yù)計將在今年7月至8月發(fā)布。
然而近期，美國科技博主羅伯特·斯科布爾（Robert Scoble）卻表示：
「顛覆即將來臨。GPT-4比任何人的預(yù)期都要出類拔萃。它是將于明年推出的幾大AI產(chǎn)品之一。」
Cambrian AI公司分析師阿爾貝托·羅梅羅（Alberto Romero）也在《算法橋》的專欄文章中，援引了硅谷工程師伊戈爾-拜科夫（Igor Baikov）9月時的一條推文：
「OpenAI已經(jīng)在訓(xùn)練GPT-4，并計劃于12月-2月間發(fā)布?！?/span>
此外，包含1.17億個參數(shù)的第一代GPT，于2018年發(fā)布；2019年和2020年，我們分別迎來了GPT-2和GPT-3。
已然「矜持」了一年有余的OpenAI——或許也是時候推陳出新了。
「GPT-4能通過圖靈測試，我不會驚訝」
對于GPT-4，一位AI創(chuàng)業(yè)公司的代表分析稱，「GPT-4輕松通過了圖靈測試，或間接表明性能足夠高，已具備通過圖靈測試的潛力。」
OpenAI CEO阿爾特曼近期的一篇推文，似乎也曾側(cè)面印證了這個傳聞。
他上傳了一張星球大戰(zhàn)的照片，上面寫著一句話：
「不要為自己創(chuàng)造的『技術(shù)恐怖』而驕傲，通過圖靈測試的能力在『原力』面前無能為力?！?/span>
這是對電影星球大戰(zhàn)系列中著名角色達(dá)斯-維德 (Darth Vader) 經(jīng)典臺詞的模仿。
羅梅羅也在文章中表示：
「如果GPT-4能充分通過圖靈測試，我不會感到驚訝。」
圖靈測試是一種檢測方式，旨在了解計算機與人類交流的自然程度。
目前，AI界還沒有「正式且肯定」通過圖靈測試的AI模型。
盡管過去有一些人工智能模型聲稱已經(jīng)通過了圖靈測試，但因為其標(biāo)準(zhǔn)和規(guī)則并不明確，所以他們使用了一些「盲點」，并非全局通過了測試。
假如傳聞是真的，GPT-4能不受限制地通過圖靈測試，那它將成為當(dāng)之無愧的「歷史第一」。
訓(xùn)練成本顯著降低，商業(yè)化潛力巨大
AI圈對GPT-4的廣泛關(guān)注還有一個原因：據(jù)說未來商業(yè)服務(wù)引入GPT-4的實際門檻，將遠(yuǎn)低于現(xiàn)有的GPT-3模型。
與此同時，預(yù)計由于巨大的成本和所需要的基礎(chǔ)設(shè)施而無法使用AI技術(shù)的公司，也將有更多的空間使用GPT-4。
根據(jù)羅梅羅的預(yù)測，OpenAI將下一代模型的重點更多地放在優(yōu)化數(shù)據(jù)處理上，而不是參數(shù)大小上，因此GPT-4的規(guī)模很可能與GPT-3相似。
到目前為止，人工智能技術(shù)的進(jìn)步和模型尺寸的擴展是一起進(jìn)行的，但近期為輕量化模型增加功能被認(rèn)為是很有前景的。
GPT-4的模型訓(xùn)練成本有望比以前更低。羅梅羅寫道，「GPT-4的訓(xùn)練成本預(yù)計將顯著低于GPT-3」。
眾所周知，GPT-3僅在學(xué)習(xí)階段每節(jié)課就要花費數(shù)十萬。這也是為什么大公司無法輕而易舉為普通用戶發(fā)布基于GPT-3的人工智能服務(wù)。
在韓國，僅有SK Telecom公司的的個人人工智能服務(wù)「Adot」基于GPT-3。
羅梅羅還表示，GPT-4的每次訓(xùn)練成本有望降至100萬美元以下。
一位ICT公司官員表示：
「如果所有已知的信息都是真的，那么明年將會出現(xiàn)幾種聊天機器人服務(wù)。它們是如此自然，以至于用戶不知道他們是在與人交談還是在與計算機交談。」
「人工智能服務(wù)可能會增加?！?/span>
網(wǎng)友：需要警惕
對于OpenAI的下一代「滅霸」級模型，不少網(wǎng)友紛紛表示「太期待了」。
然而，著名AI學(xué)者、Robust.AI的創(chuàng)始人兼CEO蓋瑞·馬庫斯（Gary Marcus）卻再次唱衰了GPT-4的前景。
他在社媒表示：「有傳言說GPT-4即將到來。下面我的預(yù)測：它仍然會存在嚴(yán)重的虛構(gòu)/錯誤信息、毒性和偏見問題。」
馬庫斯對AI行業(yè)的關(guān)注眾所周知，但也發(fā)表過許多諸如「深度學(xué)習(xí)撞墻」和「GPT-3完全沒意義」等觀點，反對炒作AI。
也有網(wǎng)友對下一代模型的潛在「威力」，表示了擔(dān)心：
「如果這是真的，那『他』的智商，至少已經(jīng)達(dá)到了100?！?/span>
「這將是歷史上最偉大的技術(shù)革命之一，但社會需要立即重視起來。因為『他』的可應(yīng)用潛力是無限的?！?/span>
那么，對于即將到來的GPT-4，你怎么看呢？評論區(qū)說說看！
https://thealgorithmicbridge.substack.com/p/gpt-4-rumors-from-silicon-valley
https://towardsdatascience.com/4-things-gpt-4-will-improve-from-gpt-3-2b1e7a6da49f?sk=44d56e4f1ab27e3f8d2abbaf44ca3602
https://www.hankyung.com/it/article/202211150468i
點個在看 paper不斷！