谷歌：AI正在毀掉互聯(lián)網(wǎng)！

 Datawhale分享 

谷歌：最新研究，編輯：新智元

谷歌研究人員發(fā)表了一篇新論文，警告生成式人工智能正在用虛假內(nèi)容毀掉互聯(lián)網(wǎng)。

這篇論文由谷歌人工智能研究實(shí)驗(yàn)室DeepMind、安全智囊團(tuán)Jigsaw和慈善機(jī)構(gòu)Google.org的研究人員共同撰寫(xiě)，他們深入調(diào)查了關(guān)于生成式人工智能的研究報(bào)告，以及約200篇關(guān)于生成式人工智能濫用的新聞報(bào)道，對(duì)生成式AI工具被濫用的不同方式進(jìn)行了分類(lèi)。

最終得出結(jié)論：在現(xiàn)實(shí)世界的濫用案例中，篡改人類(lèi)肖像和偽造證據(jù)是最普遍的。這么做的意圖也很明確，無(wú)非是為了影響公眾輿論、詐騙，或牟取利益。

奧特曼和馬斯克都曾經(jīng)警告過(guò)AGI可能會(huì)帶來(lái)「生存性風(fēng)險(xiǎn)」，但谷歌這次的研究重點(diǎn)是生成式人工智能。

生成式人工智能的風(fēng)險(xiǎn)雖然還沒(méi)有上升到「威脅生存」的地步，但是卻更加迫近——這是當(dāng)下正在發(fā)生的事情，而且未來(lái)可能會(huì)變得更糟。

因?yàn)檫@種技術(shù)讓任何人都可以輕松地生成文本、音頻、圖像和視頻，互聯(lián)網(wǎng)上充斥著偽造或篡改的人工智能生成的內(nèi)容，「真實(shí)與虛假之間的界限被模糊掉了」。

研究人員發(fā)現(xiàn)，大多數(shù)GenAI濫用案例都是對(duì)系統(tǒng)的正常使用，并沒(méi)有「越獄」行為，這類(lèi)「常規(guī)操作」占了9成。

正如研究人員在論文后面所解釋的那樣，GenAI的廣泛可用性、可訪(fǎng)問(wèn)性和超現(xiàn)實(shí)性，使得層出不窮的、較低級(jí)別的濫用形式成為可能——生成虛假信息的成本實(shí)在是太低了！

閱讀完這篇論文之后，你可能會(huì)情不自禁產(chǎn)生這樣的感受：人們并沒(méi)有濫用GenAI，只不過(guò)是按照其產(chǎn)品設(shè)計(jì)正常使用而已。

人們使用生成式人工智能來(lái)制作大量虛假內(nèi)容，是因?yàn)樗緛?lái)就非常擅長(zhǎng)完成這項(xiàng)任務(wù)。

很多虛假內(nèi)容往往既沒(méi)有明顯的惡意，也沒(méi)有明確違反這些工具的內(nèi)容政策或服務(wù)條款，但其潛在的危害是巨大的。

這一觀察結(jié)果與404 Media之前的報(bào)道不謀而合。

那些利用人工智能冒充他人、擴(kuò)大不良內(nèi)容的規(guī)模和傳播范圍，或制作未經(jīng)同意的私密圖片（nonconsensual intimate images，NCII）的人，大多并沒(méi)有入侵或操縱他們正在使用的人工智能生成工具，他們是在允許的范圍內(nèi)使用這些工具。

很簡(jiǎn)單就能舉出2個(gè)例子：

AI工具的「圍欄」可以用一些提示巧妙避過(guò)，沒(méi)有什么能阻止用戶(hù)使用ElevenLabs的人工智能語(yǔ)音克隆工具高度逼真地模仿出同事或明星的聲音。

Civitai用戶(hù)可以創(chuàng)建人工智能生成的名人圖像，雖然該平臺(tái)有禁止NCII的政策，但同樣沒(méi)有什么能阻止用戶(hù)在自己的機(jī)器上使用GitHub上開(kāi)源的工具（如 Automatic1111 或 ComfyUI）來(lái)生成 NCII。

將這些AI生成的內(nèi)容發(fā)到Facebook可能違反了平臺(tái)的政策，但生成這個(gè)行為本身并沒(méi)有違反他們所使用的人工智能圖片生成器的政策。

媒體：GenAI的濫用只是冰山一角

因?yàn)楣雀璧难芯克夭拇罅縼?lái)自于媒體報(bào)道，這就帶來(lái)了一個(gè)問(wèn)題：這是否會(huì)讓研究結(jié)論帶有媒體的偏見(jiàn)？畢竟作為探照燈的媒體，在選題和報(bào)道上有自己的偏向。

那些聳人聽(tīng)聞的事件更容易被報(bào)道，這可能會(huì)導(dǎo)致數(shù)據(jù)集偏向特定類(lèi)型的濫用。

讓我們做一個(gè)推演，當(dāng)互聯(lián)網(wǎng)上充斥著人工智能生成的內(nèi)容，會(huì)發(fā)生什么？

最直接的后果是，互聯(lián)網(wǎng)上的混亂狀況會(huì)對(duì)人們辨別真假的能力帶來(lái)巨大的考驗(yàn)，我們將陷入一種經(jīng)常性的懷疑，「這是真的嗎」？

在互聯(lián)網(wǎng)剛剛出現(xiàn)的時(shí)代，流行的一句話(huà)是，「你不知道網(wǎng)線(xiàn)那頭是人是狗」，現(xiàn)在這種趨勢(shì)愈演愈烈了，人們被虛假的人工智能生成內(nèi)容所淹沒(méi)，越來(lái)越疲于應(yīng)對(duì)。

如果不加以解決，人工智能生成的內(nèi)容對(duì)公開(kāi)數(shù)據(jù)的污染還可能會(huì)阻礙信息檢索，扭曲對(duì)社會(huì)政治現(xiàn)實(shí)或科學(xué)共識(shí)的集體理解。

而且，這可能會(huì)成為一些知名人物的「擋箭牌」，在某些情況下，他們能夠?qū)?duì)自己不利的證據(jù)解釋為人工智能生成的，輕巧地將舉證的責(zé)任轉(zhuǎn)移出去。

對(duì)于生成式AI所帶來(lái)的虛假內(nèi)容的泛濫，谷歌起到了推波助瀾的作用，甚至可以說(shuō)是「始作俑者」也不為過(guò)，多年前射出的子彈，今日終于擊中了自己的眉心。

https://futurism.com/the-byte/google-researchers-paper-ai-internet