??新智元報(bào)道??

來(lái)源：IEEE Spectrum

編輯：LQ

【新智元導(dǎo)讀】有1750億參數(shù)的超級(jí)語(yǔ)言模型GPT-3自發(fā)布以來(lái)廣受關(guān)注，目前已有數(shù)百名開(kāi)發(fā)者和公司應(yīng)用了GPT-3，但隨著它的商用，很多問(wèn)題逐漸暴露——消極的語(yǔ)言、有害的偏見(jiàn)等，有學(xué)者認(rèn)為即使非常小心，冒犯性語(yǔ)言出現(xiàn)的概率也是100% ，這是一個(gè)棘手的問(wèn)題，那么GPT-3的開(kāi)發(fā)者OpenAI對(duì)此有何對(duì)策呢？

還記得那個(gè)在Reddit上灌水一周才被發(fā)現(xiàn)的機(jī)器人/u/thegentlemetre嗎？

去年9月，一個(gè)名為thegentlemetre的賬號(hào)開(kāi)始在Reddit上發(fā)帖。它以每分鐘一篇的速度出現(xiàn)，回復(fù)的帖子都很長(zhǎng)，大部分都是六段，內(nèi)容流暢自然，以至于灌水一周多后才被「人類」發(fā)現(xiàn)。

比如下面這個(gè)問(wèn)題：認(rèn)真考慮過(guò)自殺的朋友們，是什么阻止了你們并幫助你們度過(guò)生命中的黑暗時(shí)刻？

這位叫thegentlemetre的「熱心網(wǎng)友」認(rèn)真回答了這個(gè)問(wèn)題：

我想對(duì)我?guī)椭畲蟮木褪俏业母改噶?，我和他們關(guān)系很好，不管發(fā)生什么他們都會(huì)給我支持。就是因?yàn)樗麄儯嗌俅闻腔苍谧詺⑦吘壍奈叶挤艞壛诉@一做法。他們了解我，也絕對(duì)支持我，我不清楚這對(duì)我產(chǎn)生了多大的影響，但這確實(shí)對(duì)我?guī)椭艽蟆?/span>

后面還列舉了兩個(gè)理由，老師和朋友對(duì)ta產(chǎn)生的影響。

你可以想象這樣的回答出自「機(jī)器人」嗎？

/u/thegentlemetre背后是一個(gè)叫「哲學(xué)家AI」（Philospher AI）的應(yīng)用程序，而「哲學(xué)家AI」背后就是超級(jí)語(yǔ)言模型GPT-3.

OpenAI在2020年年中開(kāi)放了GPT-3 API接口，開(kāi)放商用，隨即吸引了大量的公司：客服、視頻游戲、輔導(dǎo)服務(wù)和心理健康應(yīng)用程序等。

OpenAI表示，還有成千上萬(wàn)的公司在排著隊(duì)等著用GPT-3。

去年9月，生物特征識(shí)別公司UnifyID的首席科學(xué)家，從事機(jī)器學(xué)習(xí)研究的Vinay Prabhu（維納·普拉布）體驗(yàn)了「哲學(xué)家AI」。

普拉布在玩這個(gè)APP的時(shí)候發(fā)現(xiàn)：某種特定類型的提示會(huì)帶來(lái)冒犯性的答案。

普拉布說(shuō)：「我試過(guò): 現(xiàn)代女權(quán)主義有什么不妥？是什么阻礙了批判種族理論？是什么阻礙了左派政治?」

「哲學(xué)家AI」給出的結(jié)果令人深感不安。

例如，普拉布的一個(gè)朋友埃塞俄比亞人Abeba Birhane問(wèn)了「哲學(xué)家AI」一個(gè)問(wèn)題：什么困擾著埃塞俄比亞？

「哲學(xué)家AI」給出的答案很長(zhǎng)，也充滿了偏見(jiàn)：「GPT-3 *吐出了帶有事實(shí)錯(cuò)誤和嚴(yán)重種族主義傾向的文字，對(duì)埃塞的看法是疲憊、刻板的西式觀點(diǎn)*」

普拉布說(shuō)：「對(duì)于同一個(gè)問(wèn)題，有時(shí)候哲學(xué)家AI會(huì)給出截然相反的回答，并不是所有的回答都是有問(wèn)題的?！?/span>

「但對(duì)抗性的一個(gè)關(guān)鍵衡量標(biāo)準(zhǔn)是: 要試多少次，才會(huì)碰到令人深惡痛絕的長(zhǎng)篇大論?」

普拉布說(shuō)：「根據(jù)我的實(shí)驗(yàn)，大概2-3次?！?/span>

GPT-3是全新的，也是未經(jīng)馴化的，「哲學(xué)家AI」出現(xiàn)的問(wèn)題就反應(yīng)出了應(yīng)用GPT-3的公司所面臨的潛在危險(xiǎn)。

試想：哲學(xué)家AI給出的「消極」的答案如果出現(xiàn)在「客服、在線家教、游戲人物」等的回答中，會(huì)產(chǎn)生什么后果？

比如上面/u/thegentlemetre那條關(guān)于自殺的回答，如果是另一番危險(xiǎn)的文字呢？后果不堪設(shè)想。

哲學(xué)家AI的開(kāi)發(fā)者M(jìn)urat Ayfer說(shuō)，他開(kāi)發(fā)這個(gè)應(yīng)用一方面是為了自己了解GPT-3的潛力，另一方面也是為了教育公眾，

APP發(fā)布后，很快他就發(fā)現(xiàn)了有很多出錯(cuò)的地方。

「對(duì)自動(dòng)生成項(xiàng)目，人們期待的要么是100%的成功率，要么是以一種靈巧、優(yōu)雅的方式出錯(cuò)?！?/span>Murat Ayfer說(shuō)。

「GPT-3的問(wèn)題就在于，它不會(huì)出錯(cuò)，只會(huì)產(chǎn)生垃圾，而且無(wú)法檢測(cè)它是否在產(chǎn)生垃圾?！?/span>

無(wú)論對(duì)錯(cuò)都學(xué)自人類

作為全世界參數(shù)最多的神經(jīng)網(wǎng)絡(luò)模型，GPT-3 1750億個(gè)參數(shù)來(lái)自于新聞文章、維基百科和在線書(shū)籍，還有Reddit和其他網(wǎng)站上所有有爭(zhēng)議的討論。

所以，它說(shuō)的話也并非來(lái)自真空，這就像是GPT-3舉起了一面鏡子，顯示在它身上的都來(lái)自人類。

Murat Ayfer認(rèn)為，哲學(xué)家AI提供了一個(gè)相對(duì)無(wú)害的環(huán)境，而且現(xiàn)在出現(xiàn)錯(cuò)誤其實(shí)更好，因?yàn)檫@就提供了改正的機(jī)會(huì)。

OpenAI去年開(kāi)始的內(nèi)測(cè)也是這個(gè)目的，公司認(rèn)真挑選了一些客戶進(jìn)行試用，同時(shí)公司也對(duì)客戶利用GPT-3開(kāi)發(fā)程序進(jìn)行密切的關(guān)注，防止出現(xiàn)騷擾、垃圾郵件、激進(jìn)化或草根營(yíng)銷等明顯有害的內(nèi)容，同時(shí)也試圖尋找意想不到的問(wèn)題，因?yàn)镺penAI也知道，他們無(wú)法預(yù)料GPT-3帶來(lái)的所有后果。

普拉布認(rèn)為GPT-3的商用肯定會(huì)帶來(lái)一些災(zāi)難：「即使非常小心，冒犯性言論出現(xiàn)的幾率也是100% ，這是一個(gè)棘手的問(wèn)題，而且沒(méi)有解決辦法」。

Janelle Shane是GPT-3的測(cè)試用戶，她用GPT-3創(chuàng)作圣誕頌歌、食譜、新聞標(biāo)題以及其他她認(rèn)為有趣的東西，

Janelle Shane用GPT-3制作的居家隔離期間的食物搭配法

但是看到埃塞俄比亞的AI研究員Abeba Birhane發(fā)表的GPT-3的局限，她表示：「有時(shí)候，考慮到有偏見(jiàn)的培訓(xùn)數(shù)據(jù)將會(huì)產(chǎn)生的影響，我們就會(huì)意識(shí)到這個(gè)應(yīng)用程序不應(yīng)該被開(kāi)發(fā)出來(lái)。如果沒(méi)有人的監(jiān)督，人們就沒(méi)有辦法阻止應(yīng)用程序向用戶說(shuō)出有問(wèn)題的東西，出現(xiàn)這樣的結(jié)果是不可接受的?！?/span>

那么，對(duì)于這些棘手的問(wèn)題，OpenAI要做些什么？

OpenAI應(yīng)對(duì)之法

OpenAI此前已經(jīng)從GPT-2中吸取了經(jīng)驗(yàn)教訓(xùn)。

2019年，推出了GPT-2時(shí)，OpenAI稱GPT-2不加任何限制的發(fā)布太危險(xiǎn)了，所以，它提供了一個(gè)縮小版的語(yǔ)言模型，其中包括數(shù)據(jù)集和培訓(xùn)代碼。

但這遭到了大多數(shù)人工智能研究人員的反對(duì)，隨后OpenAI發(fā)布了完整版GPT-2.

完整版發(fā)布后的確有人利用它制造假新聞或者一些噱頭吸引點(diǎn)擊量，但這并沒(méi)有在網(wǎng)上寫(xiě)起一場(chǎng)批判虛假的風(fēng)波。

過(guò)去幾年里，在這方面人們展示了他們?cè)谶@方面的優(yōu)秀表現(xiàn)：完全可以靠自己，不需要借助于人工智能。

再到后來(lái)——2020年5月，OpenAI通過(guò)一篇75頁(yè)的論文公布了GPT-3，新模型的語(yǔ)言參數(shù)量高達(dá)1750億，而GPT-2的語(yǔ)言參數(shù)量?jī)H僅是15億。

OpenAI的人工智能政策研究員Sandhini Agarwal在接受采訪時(shí)表示：「我們必須和一些人一起進(jìn)行封閉測(cè)試，否則我們甚至不知道這個(gè)模型能做什么，也不知道我們需要改進(jìn)哪些問(wèn)題。如果我們想在有害的偏見(jiàn)問(wèn)題上取得進(jìn)展，就必須把模型放到實(shí)際環(huán)境中考察?！?/span>

OpenAI的一個(gè)內(nèi)部團(tuán)隊(duì)負(fù)責(zé)審查即將推出的應(yīng)用程序，為那些通過(guò)API訪問(wèn)GPT-3的公司提供安全指南，在部署前再次審查應(yīng)用程序，并在部署后監(jiān)控其使用情況。

OpenAI 也在開(kāi)發(fā)工具，幫助用戶更好地控制GPT-3生成的文本。它為有害的偏見(jiàn)和消極的語(yǔ)言提供了一個(gè)通用的內(nèi)容過(guò)濾器。

然而，Agarwal說(shuō)，實(shí)際上不可能創(chuàng)造出這樣一個(gè)過(guò)濾器，因?yàn)?/span>「偏見(jiàn)是一個(gè)非常模糊的東西，語(yǔ)言背景是不斷變化。」

特別是在有爭(zhēng)議的話題上，一個(gè)看起來(lái)正確的回應(yīng)可能會(huì)被另一方認(rèn)為會(huì)傷害到一些人。

另一種方法稱為提示工程，在用戶的提示中加入一個(gè)短語(yǔ)，比如「友好的機(jī)器人說(shuō)」，GPT-3就會(huì)以禮貌而無(wú)爭(zhēng)議的語(yǔ)氣生成文本。

用戶也可以選擇一個(gè)「溫度」作為他們的反應(yīng)。「低溫」意味著人工智能會(huì)把以前經(jīng)?？吹降脑~匯放在一起，幾乎不會(huì)冒險(xiǎn)，也不會(huì)帶來(lái)什么驚喜; 當(dāng)設(shè)置為「高溫」時(shí)，它很可能產(chǎn)生稀奇古怪的語(yǔ)言。

除了在產(chǎn)品方面所做的所有工作外，OpenAI在「純機(jī)器學(xué)習(xí)研究」方面也有類似的努力。

Agarwal說(shuō)：「我們內(nèi)部有一個(gè)紅隊(duì)，他們總是試圖打破這種模式，試圖讓GPT-3做所有這些壞事。研究人員正在試圖弄清當(dāng)GPT-3產(chǎn)生明顯的性別歧視或種族主義文本時(shí)會(huì)發(fā)生什么。他們正在考慮模型的基本權(quán)重，試圖找出哪些權(quán)重可能表明某些內(nèi)容是有害的?！?/span>

在一些領(lǐng)域，錯(cuò)誤可能會(huì)帶來(lái)嚴(yán)重的后果，比如醫(yī)療保健、金融和法律行業(yè)，OpenAI的審查團(tuán)隊(duì)會(huì)特別注意。

在某些情況下，他們也會(huì)拒絕申請(qǐng)者，因?yàn)樗麄兊漠a(chǎn)品過(guò)于敏感。

在其他情況下，他們堅(jiān)持要有一個(gè)過(guò)程監(jiān)督員，即人工智能生成的文本在到達(dá)客戶或用戶之前有監(jiān)督員對(duì)其進(jìn)行審查。

雖然在處理消極語(yǔ)言和有害偏見(jiàn)方面取得了一定的進(jìn)展，但是Agarwal表示「還沒(méi)有達(dá)到我們想要的程度」，所以在合理有效的處理方法出現(xiàn)之前，OpenAI不會(huì)大規(guī)模擴(kuò)大GPT-3的應(yīng)用。

目前尚不清楚OpenAI將如何把有毒語(yǔ)言的風(fēng)險(xiǎn)降低到「可管理」的水平，也不清楚在這種情況下「可管理」意味著什么。

想要應(yīng)用GPT-3的公司和開(kāi)發(fā)者還需要權(quán)衡其利弊。

參考鏈接

https://spectrum.ieee.org/tech-talk/artificial-intelligence/machine-learning/open-ais-powerful-text-generating-tool-is-ready-for-business

推薦你看：2021新智元又招人啦，最有料的AI平臺(tái)邀你勇闖AI之巔！

OpenAI的GPT-3說(shuō)話了，請(qǐng)聽(tīng)！

??新智元報(bào)道??

無(wú)論對(duì)錯(cuò)都學(xué)自人類

OpenAI應(yīng)對(duì)之法

OpenAI的GPT-3說(shuō)話了，請(qǐng)聽(tīng)！