突發(fā)！OpenAI超級對齊團隊老大自曝離職原因！牽出管理內幕

大數(shù)據(jù)文摘受權轉載自夕小瑤科技說
作者 | 付奶茶

最近幾天，隨著超級對齊團隊核心成員接連離職，以及首席科學家Ilya Sutskever在周二宣布離職，OpenAI的超級對齊團隊目前正面臨解散的危機！

昨晚，團隊領導者同時也是OpenAI聯(lián)合創(chuàng)始人的Jan Leike在社交平臺X上公開了他的離職原因，這是OpenAI高層首次公開承認公司在安全性和產(chǎn)品開發(fā)之間存在權衡問題。

Jan Leike指出，他決定離開的主要原因是與公司在關鍵的優(yōu)先事項和資源分配上存在顯著分歧。他表達了對于安全性和一致性的強烈關注；同時指出，超級對齊團隊在過去幾個月中遭遇了巨大挑戰(zhàn)，尤其是計算資源的緊張，這嚴重影響了研究工作的進行；他還提到，近年來公司的安全文化和流程似乎已經(jīng)被較為耀眼的產(chǎn)品開發(fā)所取代。

對此，OpenAI的聯(lián)合創(chuàng)始人兼首席執(zhí)行官Sam Altman進行了回應：

接下來，我們一起來看下Jan Leike 自述的離開原因吧～

Jan Leike公開離職原因：

昨晚，Jan Leike在推特上連續(xù)發(fā)布了13條消息，詳述了他離開公司的原因：

1. 昨天是我作為OpenAI的對齊負責人、超級對齊負責人及執(zhí)行官任職的最后一天。

   

2. 在過去的三年中，這是一段非常瘋狂而又精彩的經(jīng)歷。我的團隊在這期間推出了InstructGPT，這是我們首個使用RLHF的大型語言模型；我們發(fā)布了首個可擴展的大型語言模型監(jiān)督，并在自動化可解釋性及從弱到強的泛化能力上取得了突破。即將有更多激動人心的成果問世。

3. 我愛我的團隊。我非常感謝和我一起工作的許多了不起的人，包括超級對齊團隊內部和其他的人。OpenAI擁有如此多非常聰明、善良和高效的人才。

4. 離開這份工作是我做過的最艱難的事情之一，因為我們迫切需要弄清楚如何引導和控制比我們聰明得多的AI系統(tǒng)。

5. 我加入是因為我認為OpenAI將是世界上做這項研究最好的地方。然而，很長一段時間以來，我與OpenAI領導層對公司核心優(yōu)先事項的看法一直不合，直到我們終于到了臨界點。

6. 我認為，我們應該把更多的帶寬用于為下一代模型做好準備，包括安全性、監(jiān)控、準備、對抗魯棒性、（超級）一致性、保密性、社會影響和相關主題。

7. 這些問題很難解決，我擔心我們沒有走在到達那里的軌道上。

8. 過去幾個月里，我的團隊一直在逆風航行。有時我們在計算上很吃力，完成這項重要的研究變得越來越困難。

9. 開發(fā)比人類更智能的機器本身帶來了巨大的風險。作為OpenAI，我們承擔著對全人類的重大責任。然而，在過去幾年中，閃耀的產(chǎn)品已經(jīng)逐漸取代了對安全文化和流程的重視。我們早應更認真地考慮AGI的潛在影響，并應將預備措施置于首位。只有這樣，我們才能確保AGI能夠惠及全人類。OpenAI必須堅持安全優(yōu)先的原則，成為一家以AGI安全為核心的公司

10. 對所有OpenAI的同事們，我想說：去感受AGI的本質。在行為上要表現(xiàn)出對你們所創(chuàng)造之物的尊重與莊嚴。我相信你們有能力引領必要的文化變革。我依靠你們，全世界也同樣依靠你們。

在Jan Leike和Ilya Sutskever離職后，OpenAI的聯(lián)合創(chuàng)始人John Schulman可能會接手負責與高級AI模型相關的風險研究。

去年七月成立的超級對齊團隊原本由Leike和Sutskever領導，旨在解決控制超級智能AI的核心技術挑戰(zhàn)，但團隊并未達到預期的計算資源，最近更是出現(xiàn)了大量員工離職的情況。

OpenAI的發(fā)展如日中天

在OpenAI展示了其名為GPT-4o的全新“多模式”人工智能模型ChatGPT的最新版本不久后，Sutskever和Leike選擇了離職。這款更新后ChatGPT可以更自然、更人性化地與用戶互動，在發(fā)布會的演示中其模仿人類情緒并與用戶調情的能力非常優(yōu)異。

而且就在昨日，榜上OpenAI大腿的Reddit完成了14%的股價飆升！

這次合作預計會為這個社交媒體平臺帶來更多用戶和更多的廣告收入。Reddit通過這次合作，將OpenAI的技術融入到他們的平臺中，而OpenAI也將成為Reddit的廣告合作伙伴。這種合作是Reddit實現(xiàn)其IPO承諾的一種方式，即利用AI來增強用戶體驗和擴展內容使用。

OpenAI在讓我們失望？

在Jan Leike公開離職原因之后，網(wǎng)絡上的輿論幾乎一致認為OpenAI正在背離其公開宣稱的初衷和它應承擔的使命。

這些致力于超級對齊的科學家的離開反映出OpenAI內部對其核心使命的分歧：

是應該專注于發(fā)展AGI和超級對齊，還是應該擴展ChatGPT的服務。服務的擴展無疑需要占用更多計算資源，這會直接削減用于AGI安全研究的資源。

如果OpenAI僅僅是一個專注于研究的非營利組織，保障安全并為超級對齊投入資金理應簡單直接。

然而，現(xiàn)實情況是，OpenAI似乎更關注于超越競爭對手，推出新的企業(yè)和消費者服務，其目標是成為全球科技巨頭。

盡管Ilya堅信機器意識的覺醒即將到來，雖然我們無法確定這一天何時會到來，但我們必須保持開放和透明。這樣，我們才能確保在構建AGI的過程中的安全性，避免走上秘密的道路。

不幸的是，OpenAI似乎既不追求開源也不足夠重視超級對齊的原則。相反，它正在構建自己的壁壘，并全力推進AGI的發(fā)展。

參考資料

 [1]https://www.theinformation.com/briefings/openai-safety-leader-exits-after-reaching-breaking-point?rc=6ymh11
 [2]https://mp.weixin.qq.com/s/0f_kxCYMJn_ZIeUUhem2DA

租售GPU算力

租：4090/A800/H800/H100

售：現(xiàn)貨H100/H800

特別適合企業(yè)級應用

掃碼了解詳情?

點「在看」的人都變好看了哦