日批网站全免费,欧美性爱内射大奶美女,丝瓜视频污片,内射视频网站免费观看,www.4438久久,欧美性BBB槡BBB槡BBB,强欧美小嫩苞第一次免费视频,亚洲AV毛片在线观看

??新智元報(bào)道??

來(lái)源：Stanford

編輯：LRS

【新智元導(dǎo)讀】斯坦?；A(chǔ)模型研究中心僅僅成立兩個(gè)月就站在了風(fēng)口浪尖上，各個(gè)領(lǐng)域的學(xué)者都對(duì)基礎(chǔ)模型的研究產(chǎn)生質(zhì)疑，這究竟是「真理」還是斯坦福的一步「臭棋」，只能交給時(shí)間去檢驗(yàn)。最近實(shí)驗(yàn)室的主任華人Percy Liang發(fā)了一篇文章回應(yīng)，基礎(chǔ)模型只是研究的第一步，他的目標(biāo)是更美好的未來(lái)。

八月，斯坦福大學(xué)的研究人員在arxiv上傳了一篇報(bào)告，宣布人工智能的新時(shí)代已經(jīng)到來(lái)，一個(gè)建立在巨大的神經(jīng)網(wǎng)絡(luò)和數(shù)據(jù)海洋之上的時(shí)代。

依托于超大規(guī)模的預(yù)訓(xùn)練模型，例如，BERT、DALL-e、GPT-3，各種下游任務(wù)的性能都得到了飛速的發(fā)展。這類模型斯坦福也將其稱為「基礎(chǔ)模型」，即這些模型是不完整的，但它對(duì)于落地應(yīng)用來(lái)說(shuō)是必不可少的。

在論文中，斯坦福還宣稱將建立一個(gè)基礎(chǔ)模型研究中心CRFM（Center for Research on Foundation Models），主要研究和開(kāi)發(fā)這類基礎(chǔ)模型。

這篇論文一出，頓時(shí)引起了社會(huì)各界的反對(duì)聲音，有學(xué)者認(rèn)為這類研究是“騙經(jīng)費(fèi)的“，還有人認(rèn)為“深度學(xué)習(xí)不值得”。學(xué)術(shù)界的主要觀點(diǎn)似乎是深度學(xué)習(xí)確實(shí)很好用，但是浪費(fèi)如此大的資源來(lái)研究，實(shí)在是一件不劃算的事。

針對(duì)這種觀點(diǎn)，CRFM的主任、華人Percy Liang于10月18日發(fā)表了一篇文章，表達(dá)了對(duì)基礎(chǔ)模型的一些反思。

在建立基礎(chǔ)模型研究中心后，社會(huì)各界引起了廣泛反響，我們不光應(yīng)該討論一下基礎(chǔ)模型為什么這么重要，也需要反思一下為什么社會(huì)上的回應(yīng)。

Percy Liang希望最近發(fā)布的關(guān)于基礎(chǔ)模型的報(bào)告，以及建立的斯坦福大學(xué)基礎(chǔ)模型研究中心（CRFM）作為斯坦福人類中心人工智能研究所（Stanford Institute for Human-Centered AI, HAI）的一部分，并舉辦了一個(gè)研討會(huì)以促進(jìn)全社會(huì)對(duì)話。

這項(xiàng)工作在社會(huì)上受到了廣泛的關(guān)注，一些人公開(kāi)討論了他們的想法，我們認(rèn)為開(kāi)放式話語(yǔ)對(duì)于構(gòu)建正確的規(guī)范、最佳實(shí)踐和圍繞基礎(chǔ)模型的更廣闊的生態(tài)系統(tǒng)是必要的。

首先回答一個(gè)問(wèn)題，什么是基礎(chǔ)模型（Foundation models）？

基礎(chǔ)模型的定義為在廣泛的數(shù)據(jù)（通常使用大規(guī)模自監(jiān)督算法）上訓(xùn)練的模型，該模型可以適用于廣泛的下游任務(wù)。這些模型基于遷移學(xué)習(xí)的理念以及深度學(xué)習(xí)和大規(guī)模應(yīng)用的計(jì)算機(jī)系統(tǒng)的最新進(jìn)展，能夠證明他們具有通用性，并能夠大大提高了廣泛下游任務(wù)的性能。

鑒于這種潛力，我們可以看到基礎(chǔ)模型的范式已經(jīng)發(fā)生變化，其中許多跨領(lǐng)域人工智能系統(tǒng)將直接建立或整合基礎(chǔ)模型。

基礎(chǔ)模型鼓勵(lì)均質(zhì)化（homogenization），也就是說(shuō)同樣的幾個(gè)模型能夠作為其他實(shí)際應(yīng)用的基礎(chǔ)被重復(fù)使用。

但這種整合是一把雙刃劍，雖然集中化可以讓研究人員集中精力在一小部分模型上來(lái)提高穩(wěn)健性，減少偏差。但集中化還會(huì)將這些模型的單一故障點(diǎn)無(wú)限放大，并可能會(huì)對(duì)無(wú)數(shù)下游應(yīng)用程序造成諸如安全風(fēng)險(xiǎn)、社會(huì)偏見(jiàn)等危害。并且隨著越來(lái)越多的AI應(yīng)用被開(kāi)發(fā)出來(lái)，基礎(chǔ)模型在當(dāng)前的實(shí)踐下都表現(xiàn)出明顯和重大的社會(huì)風(fēng)險(xiǎn)。

這一背景下，CRFM在嘗試改變這些。

CRFM主要負(fù)責(zé)基礎(chǔ)模型的發(fā)展，并且是一種「負(fù)責(zé)任」的發(fā)展，研究中會(huì)特別關(guān)注不平等、濫用、環(huán)境影響、法律框架、規(guī)模倫理和經(jīng)濟(jì)后果。這些社會(huì)考慮能夠進(jìn)一步告知我們對(duì)技術(shù)基礎(chǔ)的討論，主要涵蓋模型（包括數(shù)據(jù)、架構(gòu)、目標(biāo)、系統(tǒng)、評(píng)估、理論），及它們對(duì)人工智能領(lǐng)域（機(jī)器人、視覺(jué)、推理）的影響，以及它們?cè)诟鱾€(gè)學(xué)科（法律、醫(yī)療、教育、生物醫(yī)學(xué)）中的應(yīng)用。

報(bào)告中還概述了現(xiàn)有做法應(yīng)該如何改變：如提出數(shù)據(jù)管理協(xié)議、尊重隱私、標(biāo)準(zhǔn)評(píng)估范式、干預(yù)和補(bǔ)償不公正的機(jī)制以及管理基礎(chǔ)模型的規(guī)范。一般來(lái)說(shuō)，在這個(gè)過(guò)程中，誰(shuí)控制這一發(fā)展趨勢(shì)，都將會(huì)影響基礎(chǔ)模型的發(fā)展，以至影響更廣泛的生態(tài)系統(tǒng)和社會(huì)。

報(bào)告的出發(fā)點(diǎn)在于，基礎(chǔ)模型的當(dāng)前軌跡不是不可避免的。基礎(chǔ)模型可以（而且越來(lái)越應(yīng)該）接觸到實(shí)際應(yīng)用中，在感知、互動(dòng)、真實(shí)世界中交互、獲取常識(shí)物理模型、心理理論以及獲取植根于這個(gè)世界的語(yǔ)言是人工智能的重要組成部分，所有這些都需要基礎(chǔ)模型提供技術(shù)支持。

此外，應(yīng)用落地還可以通過(guò)將基礎(chǔ)模型與AI中的其他方法結(jié)合來(lái)實(shí)現(xiàn)：PIGLeT 就是一個(gè)例子，它使用預(yù)訓(xùn)練的語(yǔ)言模型和語(yǔ)言的物理動(dòng)力學(xué)模型來(lái)編碼語(yǔ)言形式。也就是說(shuō)基礎(chǔ)模型不只是大型語(yǔ)言模型，基礎(chǔ)模型還可以使用圖像、視頻和其他感官和知識(shí)庫(kù)數(shù)據(jù)進(jìn)行訓(xùn)練。報(bào)告中也強(qiáng)調(diào)應(yīng)用落地對(duì)于基礎(chǔ)模型如何在計(jì)算機(jī)視覺(jué)和機(jī)器人學(xué)中發(fā)展至關(guān)重要。

并且目前基礎(chǔ)模型的發(fā)展通常沒(méi)有集中在人身上，而是集中在資源上。在基礎(chǔ)模型的發(fā)展過(guò)程，CRFM的目標(biāo)是識(shí)別和提升人在整個(gè)生態(tài)系統(tǒng)的基礎(chǔ)模型中的作用。人們創(chuàng)建的數(shù)據(jù)支持基礎(chǔ)模型，開(kāi)發(fā)基礎(chǔ)模型，適應(yīng)基礎(chǔ)模型的具體應(yīng)用，并與所得到的應(yīng)用程序交互。

更廣泛地應(yīng)該強(qiáng)調(diào)數(shù)據(jù)主題、創(chuàng)建者、策展人和管理者、基礎(chǔ)模型提供者、下游應(yīng)用開(kāi)發(fā)者、參與共同設(shè)計(jì)的硬件和軟件開(kāi)發(fā)者、惡意行動(dòng)者、邊緣群體，以及領(lǐng)域?qū)＜?、患者、訴訟當(dāng)事人和學(xué)生等等。

在研討會(huì)上還特別強(qiáng)調(diào)了多樣性，例如，代表性多樣性、制度多樣性和學(xué)科多樣性是必要的，但這些多樣性還遠(yuǎn)遠(yuǎn)足以使人們集中于比目前在基礎(chǔ)模型發(fā)展中更大的程度。在許多意義上的多樣性，包括方法和途徑，是健康研究社區(qū)的精髓。

CRFM的社區(qū)反映了這一點(diǎn)：因?yàn)檫@將會(huì)是具有不同學(xué)科背景的基礎(chǔ)模型的主題，并且所有人也在追求與基礎(chǔ)模型正交、互補(bǔ)或矛盾的研究。

例如，雖然基礎(chǔ)模型在數(shù)據(jù)結(jié)構(gòu)中是典型「自下而上」的研究，但諸如因果網(wǎng)絡(luò)、概率程序和正式系統(tǒng)等方法卻是「自上而下」的。

雖然這兩種研究模式似乎不兼容，但我們認(rèn)為這些方法可以互相協(xié)同。

自頂向下方法中的推理通常由于難以解決逆問(wèn)題而難以計(jì)算，但是基礎(chǔ)模型可以提供有助于推理的快速建議。基礎(chǔ)模型可以提供一種的快速、自動(dòng)、初步的推理，該系統(tǒng)可以與其他方法集成，用于慢速、分析、審議推理。

總之，CRFM的報(bào)告和更廣泛的研究議程中的目標(biāo)是提供一個(gè)測(cè)量基礎(chǔ)模型來(lái)識(shí)別他們的長(zhǎng)處和弱點(diǎn)。通過(guò)提請(qǐng)注意這些模式，我們?cè)噲D強(qiáng)調(diào)這些模式的巨大成功和迅速采用，同時(shí)也強(qiáng)調(diào)其存在的缺陷、持續(xù)的局限性以及社會(huì)關(guān)注的原因。

最終的目標(biāo)是幫助人類社會(huì)塑造一個(gè)更好的未來(lái)，讓這些模型得以開(kāi)發(fā)、部署，并影響到它們所處的更廣泛的生態(tài)系統(tǒng)。

參考資料：

https://crfm.stanford.edu/2021/10/18/reflections.html

斯坦福下了臭棋？Percy Liang發(fā)文辯解：基礎(chǔ)模型是人類社會(huì)的未來(lái)

??新智元報(bào)道??