www.肏屄,亚洲欧美高清在线观看,三级片视频在线观看,成人黄色在线播放,一级黄色电影免费在线观看,成人69视频,日本亲子乱A片免费看,肏屄视频在线

新智元報(bào)道

來源：Stanford

編輯：LRS

【新智元導(dǎo)讀】AI 最近的發(fā)展似乎都是靠大規(guī)模的深度學(xué)習(xí)模型推動(dòng)的，所以斯坦福最近成立一個(gè)基礎(chǔ)模型研究中心CRFM來專門研究大規(guī)模的深度學(xué)習(xí)模型。但業(yè)界普遍不看好斯坦福的這個(gè)操作，認(rèn)為深度學(xué)習(xí)根本就沒辦法成為基礎(chǔ)模型，斯坦福表示，道理我都懂，這個(gè)模型可以應(yīng)個(gè)急嘛！

也許你沒有感受到，但人工智能再一次掀起了范式轉(zhuǎn)換革命。

八月，斯坦福大學(xué)的研究人員在arxiv 上傳了一篇報(bào)告，宣布人工智能的新時(shí)代已經(jīng)到來，一個(gè)建立在巨大的神經(jīng)網(wǎng)絡(luò)和數(shù)據(jù)海洋之上的時(shí)代。

隨著模型（例如，BERT、DALL-e、GPT-3）的興起，這些模型在大規(guī)模的大數(shù)據(jù)上進(jìn)行訓(xùn)練，并且能夠適應(yīng)廣泛的下游任務(wù)，這些模型可以作為其他任務(wù)的「基礎(chǔ)模型」，基礎(chǔ)模型的含義就是這些模型是不完整的，但它是必不可少的。

該報(bào)告提供了基礎(chǔ)模型的機(jī)會(huì)和風(fēng)險(xiǎn)，包括他們的能力，例如，語言、視覺、機(jī)器人、推理、人類交互，技術(shù)原理，例如，模型體系結(jié)構(gòu)、訓(xùn)練程序、數(shù)據(jù)、系統(tǒng)、安全性、評(píng)估、理論）到它們的應(yīng)用，如法律、醫(yī)療保健、教育，和社會(huì)影響，如不平等、濫用、經(jīng)濟(jì)和環(huán)境影響、法律和道德考慮。

雖然基礎(chǔ)模型是基于標(biāo)準(zhǔn)的深度學(xué)習(xí)和轉(zhuǎn)移學(xué)習(xí)，但是它們的大規(guī)模導(dǎo)致它們可以在關(guān)鍵領(lǐng)域和諸多任務(wù)中重要的性能提升。

但這種同質(zhì)化（homogenization）的使用需要謹(jǐn)慎，因?yàn)榛A(chǔ)模型的缺陷是由所有適應(yīng)模型繼承的。

盡管基礎(chǔ)模型即將普及，但我們目前對(duì)它們的工作原理卻沒有一個(gè)清晰的認(rèn)識(shí)，當(dāng)別的模型無法成功時(shí)，基礎(chǔ)模型可以應(yīng)急來處理一些需要AI 處理的問題。

并且表示，斯坦福大學(xué)的一個(gè)新研究中心，即基礎(chǔ)模型研究中心CRFM （Center for Research on Foundation Models），將建立并研究這些人工智能的「基礎(chǔ)模型」。

作者包含了數(shù)十位斯坦福的老師們，如李飛飛等都參與了作者署名，并且作者單位也已經(jīng)增加了CRFM。

這一想法一經(jīng)發(fā)表，很多人立刻跳出來反對(duì)，即使在紀(jì)念新中心CRFM正式成立而組織的研討會(huì)上，依然有很多人持反對(duì)意見：包括質(zhì)疑神經(jīng)網(wǎng)絡(luò)模型的能力是否真的那么強(qiáng)大、還有神經(jīng)網(wǎng)絡(luò)讓人類無法理解的行為。

另一些比較柔和的反對(duì)派表示，應(yīng)當(dāng)把更多精力放在研究如何使機(jī)器更加智能的方法上。

https://crfm.stanford.edu/

UC 伯克利大學(xué)的AI 領(lǐng)域教授Jitendra Malik 在視頻討論中表示，基礎(chǔ)（foundation）這個(gè)詞完完全全的錯(cuò)誤！

Malik 承認(rèn)，斯坦福大學(xué)研究人員指出的那些能夠回答問題或從提示中生成文本的大型語言模型效果很好，在實(shí)際應(yīng)用中有很大用途。但他還是認(rèn)為進(jìn)化生物學(xué)表明，語言的建立不僅僅需要智力，還需要物理世界、其他同類真實(shí)的互動(dòng)。

目前研究這些模型都空中樓閣，并沒有任何他們所謂的「基礎(chǔ)」，在這些模型中使用的語言沒有根據(jù)，生成或是問答都是虛假的，他們并沒有真正的理解。

近年來，越來越大的人工智能模型在感知、機(jī)器人技術(shù)以及語言等領(lǐng)域取得了一些令人印象深刻的進(jìn)步。

大型語言模型也是谷歌和Facebook等大型科技公司的基礎(chǔ)，這些公司在搜索、廣告和內(nèi)容調(diào)節(jié)等領(lǐng)域使用大型語言模型。構(gòu)建和訓(xùn)練大型語言模型需要數(shù)百萬美元的云計(jì)算能力，也只有大公司才掏得起這個(gè)費(fèi)用。

高昂的費(fèi)用也限制了大規(guī)模模型的開發(fā)和使用，所以訓(xùn)練模型僅限于少數(shù)十分有錢的科技公司。

但大型模型也存在問題，語言模型從他們接受訓(xùn)練的數(shù)據(jù)中繼承了那些帶有偏見和冒犯性的文本，并且機(jī)器對(duì)常識(shí)或真假信息都沒有判斷的能力。

如果給出提示，大型語言模型可能會(huì)吐出令人不快的語言或錯(cuò)誤信息，而且也不能保證這些大型模型將繼續(xù)在機(jī)器智能方面取得進(jìn)展。

斯坦福大學(xué)的提案使研究界產(chǎn)生了分歧。

亞利桑那州立大學(xué)教授Subbarao Kambhampati認(rèn)為，稱它們?yōu)椤富A(chǔ)模型」完全就是沒搞清楚狀況，從這些模型到更通用的 AI 形式?jīng)]有明確的方法，目前還處于探索中。

俄勒岡州州立大學(xué)教授、人工智能促進(jìn)協(xié)會(huì)前主席托Thomas Dietterich表示，他「非常尊重」斯坦福新中心背后的研究人員，他也相信他們真正關(guān)心、也清除這些模型可能帶來的問題。

但 Dietterich 想知道基礎(chǔ)模型的想法是否是為了為構(gòu)建和工作所需的資源籌集資金，他表示對(duì)斯坦福給這些模型取了一個(gè)好聽的名字，并創(chuàng)建了一個(gè)中心表示很驚訝，這有種插旗的感覺，可能對(duì)籌款方面有好處吧。

斯坦福大學(xué)李飛飛曾經(jīng)還提議創(chuàng)建一個(gè)國家人工智能云（Nation AI Cloud），以便為從事人工智能研究項(xiàng)目的學(xué)者提供行業(yè)規(guī)模的計(jì)算資源。

華盛頓大學(xué)語言學(xué)系教授 Emily M. Bender 表示，她擔(dān)心基礎(chǔ)模型的想法反映了投資行業(yè)更青睞于模型，而非data-centric的 AI 方法。

Bender 表示，研究大型 AI 模型帶來的風(fēng)險(xiǎn)尤為重要。她與他人合著了一篇于 3 月發(fā)表的論文，該論文引起了人們對(duì)大型語言模型問題的關(guān)注，并促成了兩名谷歌研究人員的離職。

但她說，AI 的發(fā)展應(yīng)該來自多個(gè)學(xué)科，而非只是模型改進(jìn)。所有這些相鄰的、非常重要的領(lǐng)域都缺乏資金，在我們將資金投入云端之前，她還希望看到資金投入其他學(xué)科。

新斯坦福研究中心主任Percy Liang 認(rèn)為，他聽到了批評(píng)，但認(rèn)為有些人可能誤解了該項(xiàng)目的目標(biāo)。

Percy Liang是斯坦福大學(xué)計(jì)算機(jī)科學(xué)副教授，2004年于麻省理工學(xué)院取得學(xué)士學(xué)位，2011年于加州大學(xué)伯克利分校取得博士。主要研究方向?yàn)樽匀徽Z言處理（對(duì)話系統(tǒng)，語義分析等方向）及機(jī)器學(xué)習(xí)理論。他的兩個(gè)研究目標(biāo)是

1、使機(jī)器學(xué)習(xí)更加健壯、公平和可解釋；

2、使計(jì)算機(jī)更容易通過自然語言進(jìn)行通信。

Percy 的團(tuán)隊(duì)推出的 SQuAD 閱讀理解挑戰(zhàn)賽是行業(yè)內(nèi)公認(rèn)的機(jī)器閱讀理解標(biāo)準(zhǔn)水平測試，也是該領(lǐng)域的頂級(jí)賽事，被譽(yù)為機(jī)器閱讀理解界的 ImageNet（圖像識(shí)別領(lǐng)域的頂級(jí)賽事）。

Percy說，被稱為基礎(chǔ)的大型機(jī)器學(xué)習(xí)模型看起來獨(dú)特而重要，因?yàn)樗鼈兡軌蛱幚憩F(xiàn)實(shí)世界的復(fù)雜性，正如大型語言模型的能力所證明的那樣。他說反饋是健康學(xué)術(shù)辯論的一部分，也歡迎所有這些批評(píng)。

Percy補(bǔ)充說，斯坦福大學(xué)的研究人員完全意識(shí)到這些模型的局限性，并在他們的研究論文中描述了一些。他們也不相信這些模型是在人工智能領(lǐng)域取得進(jìn)一步飛躍所需要的。這只是一種不受限制的原始潛力，我們需要找到一種方法來利用和遏制。

參考資料：

https://www.wired.com/story/stanford-proposal-ai-foundations-ignites-debate/

https://crfm.stanford.edu/report.html

https://arxiv.org/abs/2108.07258

斯坦?！富A(chǔ)模型研究中心」華人Percy Liang任主任，業(yè)界炮轟：深度學(xué)習(xí)做不了基礎(chǔ)模型！

新智元報(bào)道

斯坦?！富A(chǔ)模型研究中心」華人Percy Liang任主任，業(yè)界炮轟：深度學(xué)習(xí)做不了基礎(chǔ)模型！