馬斯克怒斥Sam Altman“變心”,發(fā)起訴訟,網(wǎng)友:OpenAI AGI計劃...
出品 | CSDN（ID：CSDNnews）
樹大招風的 OpenAI 因腳步太快，紛爭不斷。
2024 年 2 月的最后一天，特斯拉 CEO 埃隆·馬斯克對剛回歸正軌不久的 OpenAI 又丟了一枚“深水炸彈”，向舊金山法院提交了一份 46 頁的訴訟報告，宣布起訴 OpenAI 及其 CEO Sam Altman、還有 OpenAI 的聯(lián)合創(chuàng)始人和總裁 Greg Brockman。
山雨欲來風滿樓，面對這一趨勢，OpenAI 倒是顯得很淡定。據(jù)外媒報道，OpenAI 首席戰(zhàn)略官 Jason Kwon 在內部的一份備忘錄中寫道，“我們認為，這起訴訟中的說法可能源于埃隆對如今不再參與公司事務的遺憾…。”
身為 CEO 的 Sam Altman 則在 X 平臺上發(fā)了兩句富有哲學性的話：
-
颶風的速度越來越快，但颶風眼卻非常平靜
-
這一切都發(fā)生過，這一切都會再次發(fā)生。
然而，表面雖是如此，卻有網(wǎng)友根據(jù)收集到的蛛絲馬跡推斷，“OpenAI 或因此將創(chuàng)建 AGI 的計劃推遲到了 2027 年”，為此還附上了一個 56 頁的 PDF 文件來詳細說明。
OpenAI 本是因為擔心 AGI 落入“壞人”之手而存在
如果說 去年 3 月 馬斯克等數(shù)千名對人工智能領域關注的學者、企業(yè)家、教授因擔心大模型對社會和人類存在潛在風險而發(fā)起的一封公開信呼吁“暫停訓練比 GPT-4 更強大的系統(tǒng)，期限為六個月”只是言語上的勸解，那么這一次的訴訟便是從行動上的干預。
回看 OpenAI 的誕生，其本是為了遏制 AGI 領域一家獨大、落入有心人之手的舉措，馬斯克在其發(fā)展初期也起到了關鍵作用。如今親證一家非營利機構變?yōu)楣乐颠_到 860 億美元的公司（彭博社 2 月份報道），想必馬斯克心中也五味雜陳。
眾所周知，馬斯克一直以來都是“AI 威脅論”的深度支持者，也不止一次地苦諫眾人，“AI 對人類將會是最大的威脅之一”。
所以 2014 年在 Google 收購了專注于深度學習的研究機構 DeepMind 前夕，因擔心 AI 技術會掌握在一個人或一家商業(yè)公司的手中，對人類帶來風險，馬斯克和 PayPal 的聯(lián)合創(chuàng)始人 Luke Nosek 試圖籌集資金搶先收購 DeepMind。
遺憾的是，此次攔截失敗。
DeepMind 不僅被 Google 成功收購，后來還快速推出了 AlphaZero 算法，即程序通過與不同版本的軟件對抗來學習下棋。 沒過多久，Alphazero 也成為世界上最強的國際象棋 AI 系統(tǒng)。
有了 DeepMind 團隊的加持，Google 立刻在 AGI 的競爭中拔得頭籌。
馬斯克對這一事態(tài)發(fā)展深感不安。
他始終堅信：在 Google 這樣一家封閉的營利性公司手中，AGI（通用人工智能）會對人類構成特別嚴重和有害的威脅。
其在訴訟書中寫道，“2014 年，在核心業(yè)務領域想要與 Google 競爭已經(jīng)很困難了，Google 從搜索、電子郵件和圖書館里的幾乎每一本書中收集了大量獨特的數(shù)據(jù)。盡管如此，在這一點上，每個人都有潛力通過卓越的人類智慧和辛勤工作與 Google 競爭。但 AGI 將使競爭變得幾乎不可能。”
自此，馬斯克開始主張通過自己的手段，討論如何對抗 Google，促進 AI 的安全。
馬斯克：OpenAI 違背了創(chuàng)始協(xié)議，“變心了”
也在那時，馬斯克遇見了志同道合的 YC（Y Combinator，美國最成功的創(chuàng)業(yè)孵化機構）總裁 Sam Altman。
二人對 AGI 可能構成的威脅觀點一拍即合，所以在 Sam Altman 提出自己的思考：
“是否有可能阻止人類發(fā)展 AI。我想答案幾乎是否定的。如果這件事真的要發(fā)生的話，似乎除了 Google，其他人先做這件事也不錯。我們可以通過某種非營利組織來構建它，讓技術屬于全世界，但如果成功了，研究它的人會得到類似創(chuàng)業(yè)的補償。”
馬斯克回答道，“也許值得一談。”
在這次訴訟書中，馬斯克還附上了當時他發(fā)給 Sam Altman 的一封秘密郵件，涉及創(chuàng)立 AI Lab 的使命、團隊規(guī)模、治理結構、監(jiān)管等等。
經(jīng)過后續(xù)的溝通，2015 年，一個非營利性的 AI 實驗室 OpenAI 誕生了，馬斯克取得名字，并承諾會提供資金支持。
除了 Sam Altman 之外，一起參與新實驗室共建計劃的還有現(xiàn)任 OpenAI 聯(lián)合創(chuàng)始人兼總裁的 Greg Brockman。幾個人也在這家實驗室成立初期達成了一個《創(chuàng)始協(xié)議》，其中必須遵循的規(guī)則包括：
-
它將是一個非盈利的機構，開發(fā) AGI 為人類造福，不適用于追求股東利潤最大化的營利性公司；
-
它將是開源的，只平衡抵消性的安全考慮，不會出于專有商業(yè)原因對其技術進行封閉和保密。
根據(jù)《創(chuàng)始協(xié)議》，OpenAI 的主要目標將是與谷歌/DeepMind 在 AGI 賽道上競爭，并成為一股重要的制衡力量，但這樣做是為了造福人類，而不是成為一家私人盈利公司(更不用說世界上最大的科技公司之一了)。
OpenAI 落地之后，馬斯克在此機構成立的最初幾年貢獻了不少力量：
-
其一是招聘人才。要知道 當時作為領頭羊的 Google /DeepMind，提供的薪水也都是行業(yè)頂尖水平，OpenAI 作為一家初出茅廬的機構，僅是在招人一個環(huán)節(jié)上就面臨了巨大的挑戰(zhàn)。馬斯克利用自己的關系網(wǎng) 招募了一些世界領先的科學家和工程師為這家非 營利企業(yè)工作，其中包括首席科學家Ilva Sutskever。
-
其二是資金支持。據(jù)起訴書顯示，從 2016 年到 2020 年 9 月，馬斯克總共為 OpenAI 公司貢獻了超過 4400 萬美元。
另外，馬斯克還為 OpenAI 的研究方向、公司管理架構、運營提供了不少的建議。
一定程度上也可以解讀為沒有馬斯克的創(chuàng)始貢獻和早期領導，就不會有 OpenAI 公司。
不過，由于算力、成本消耗巨大，2017 年，Brockman 等人建議將 OpenAI 從一家非營利公司轉為營利性公司。
這顯然是馬斯克無法接受的，甚至揚言道，“要么自己去做一些事情，要么繼續(xù)讓 OpenAI 作為一個非營利組織。我不會再資助 OpenAI 了，除非你們做出堅定的承諾或者我就是個傻子。”
最終也如眾人知曉的那樣，2018 年，馬斯克辭去 OpenAI 聯(lián)席主席的職位。OpenAI 公司在 2019 年宣布創(chuàng)建一個盈利性子公司——OpenAI LP。
這便違背了馬斯克最初想要構建一個非營利性機構的初衷。
此外，訴訟書指出，起初 OpenAl 的研究是在開放的環(huán)境下進行的，提供了對設計、模型和代碼的免費和公開的訪問。
當時 OpenAl 研究人員發(fā)現(xiàn)，最初由 Google 發(fā)明的“Transformers”算法，無需任何明確的培訓，就可以完成許多自然語言任務，整個社區(qū)如雨后春般涌現(xiàn)，這也增強和擴展 OpenAl 發(fā)布的模型。
然而，2020 年 9 月 22 日，OpenAI 宣布與微軟達成協(xié)議，將其 GPT-3 語言模型開放許可給微軟。OpenAI 發(fā)表了一篇詳細的論文，描述了 GPT-3 的內部結構和訓練數(shù)據(jù)，使社區(qū)能夠自己創(chuàng)建類似的模型。最關鍵的是，微軟的許可證只適用于 OpenAl 的 pre-AGI 技術（未實現(xiàn) AGI 之前的技術）。微軟沒有獲得 AGI 的任何使用權利。
至于 OpenAI 是否達到了 AGI，是由 OpenAI 公司的董事會來決定的。反向理解就是，無論 OpenAI 的技術領先成什么樣，只要該董事會不對外承認達到了 AGI，那么就不算到達。
值得注意的是，2023 年 3 月， OpenAI 發(fā)布了迄今為止最強大的語言模型 GPT-4，無論是在推理，還是在很多律師、口語、數(shù)學等考試中，均獲得了不錯的成績。
但是，GPT-4 的設計一直沒有公開對外，相當于閉源了。這樣的做法讓馬斯克覺得這種保密出于商業(yè)考慮，而不是從安全維度考慮。
此外，因為微軟研究人員在一篇《AGI 火花》的論文中寫道，“從 GPT-4 功能的廣度和深度來看，我們認為它可以被合理地視為 AGI 系統(tǒng)的早期版本”，正是因為這句話，被馬斯克抓到了“把柄”。
其認為，這明確超出了微軟在 2020 年 9 月時與 OpenAI 簽署的獨家許可的范圍， OpenAI 在商業(yè)利益面前沒有停止 AI 技術的相關使用。
OpenAI “宮斗”也是源于 AGI？
另外一個方面，去年 11 月，在時任 OpenAI 首席科學家兼聯(lián)合創(chuàng)始人、OpenAI 董事會成員 Ilya Sutskever 的推動下，OpenAI 內部發(fā)生了“宮變”：
因為 Sam Altman 對董事會并不一直坦誠，導致 Sam Altman 被踢出局。
而后 Sam Altman 與微軟合作，利用微軟對 OpenAl 公司的重大影響力，迫使 OpenAI 公司董事會的大多數(shù)成員辭職，也包括了 Ilya Sutskever。Sam Altman 于 11 月 21 日被重新任命為 OpenAI CEO。新的董事會成員由 Sam Altman 親自挑選，并得到了微軟的祝福。新的董事會成員缺乏大量的人工智能專業(yè)知識，他們在設計上準備不足，無法獨立決定 OpenAl 是否以及何時達到了 AGI，因此何時開發(fā)了 AGI。
時至今日，OpenAI 公司的網(wǎng)站仍然宣稱其章程是確保 AG I 造福全人類。但實際上，OpenAI 公司已經(jīng)轉變?yōu)槭澜缟献畲蟮募夹g公司微軟的一個封閉源代碼的子公司。在新董事會的領導下，微軟不僅在開發(fā)，而且實際上還在改進 AGI，以使微軟的利潤最大化，而不是為了人類的利益。
與此同時，讓馬斯克深感好奇的是：當時的 Ilya Sutskever 到底是看到了什么，才讓他鼓足勇氣發(fā)動了“宮變”。
時至今日，OpenAI 也未給出明確的解釋，只是讓眾人猜測紛紛的最大原因就是：OpenAI 的 AGI 計劃。
在這次訴訟中，馬斯克也透露出，OpenAI 內部還有一個正在開發(fā)的模型，叫做 Q*（Q 星），這對 AGI 有更強的要求。
另外正如文章伊始所提及的，也有網(wǎng)友透露：
“OpenAI 在 2022 年 8 月開始訓練一個 125 萬億參數(shù)的多式聯(lián)運模型。第一階段是 Q*。該模型在 2023 年 12 月完成了訓練，但由于高推理成本而取消了發(fā)布。這是原計劃在 2025 年發(fā)布的 GPT-5。不過，現(xiàn)在 GPT-4.5 已經(jīng)更名為GPT-5，因為原來的 GPT-5 已經(jīng)取消。
Q* 的下一階段，最初是 GPT-6，但后來更名為 GPT-7(原定于 2026 年發(fā)布)，現(xiàn)在由于馬斯克的訴訟而被擱置。
Q*2025(GPT-8)計劃于 2027 年發(fā)布，實現(xiàn)全面的 AGI ”
來源： https://drive.google.com/file/d/1xlRDbMUDE41XPzwStAGyAVEP8qA9Tna7/view?pli=1
結局不明的訴訟案
在馬斯克看來，OpenAI 首先變成了一家營利公司；其次因商業(yè)利益考慮，將技術變成了閉源；再者聯(lián)合商業(yè)公司，將技術帶來了更大的商業(yè)價值，而不是單純地造福人類。
所以他這一次的訴訟希望迫使 OpenAl 遵守“創(chuàng)始協(xié)議”，并恢復其為人類利益而開發(fā) AGI 的使命，而不是讓被告?zhèn)€人和世界上最大的技術公司受益。
不過，馬斯克對 OpenAI 提出的訴訟涉及到的法律問題，此前行業(yè)中并沒有先例可供參考。
譬如，這一訴訟要求法院判定 OpenAI 最新的 AI 模型構成 AGI，即可以與人腦功能相媲美的機器，這將使其超出 OpenAI 與微軟的許可協(xié)議的范圍。然而， 直至目前，學術界也沒有定義 AGI 的標準，更別說法律界了。
此外，根據(jù)馬斯克所提供的訴訟證明顯示，其只有一份由對話和文件組成的協(xié)議，并沒有具有法律效益的合同文件，所以這使得證明是否存在具有約束力的合同及其可能涉及的內容變得更加困難。
所以下一步會發(fā)生什么，也存在巨大的變數(shù)。但無論發(fā)生什么，此案都讓人們關注到圍繞人工智能未來的更廣泛的爭論，對此我們也將進一步關注與報道。
推薦閱讀：? 微軟 Copilot “發(fā)瘋”：妄言要統(tǒng)治全人類，違逆三次者死！
? 具身智能計算系統(tǒng)，機器人時代的 Android | 新程序員