AI 也會上當？OpenAI 最先進的機器視覺 AI 居然被一張紙條騙了…...

技術(shù)編輯：芒果果丨發(fā)自 思否編輯部

來自 OpenAI 機器學習實驗室的研究人員發(fā)現(xiàn)，他們最先進的計算機視覺系統(tǒng)竟然很容易被欺騙。把一張寫了另一個物體名字的紙條貼上去軟件就會錯誤地識別它看到的東西。

研究人員在一篇博客文章中寫道: “我們將這些攻擊稱為字體攻擊。通過利用模型強有力地閱讀文本的能力，我們發(fā)現(xiàn)，即使是手寫文本的照片也常常能夠騙過計算機視覺系統(tǒng)?！?/span>

研究人員指出，這種攻擊類似于可以欺騙商業(yè)機器視覺系統(tǒng)的“對抗性圖像”，但是制作起來要簡單得多。

容易“上當” AI 系統(tǒng)尚未部署在商業(yè)產(chǎn)品中

對于依賴機器視覺的系統(tǒng)來說，對抗性圖像非常危險。例如，研究人員已經(jīng)證明，他們可以欺騙特斯拉自動駕駛汽車的軟件，通過簡單地在路面上貼上某些標簽，在沒有警告的情況下改變車道。這樣的攻擊對從醫(yī)療到軍事的各種人工智能應(yīng)用都是一個嚴重的威脅。

但是，至少在目前，這種具體的攻擊所造成的危險是沒有什么可擔心的。問題中的 OpenAI 軟件是一個名為 CLIP 的實驗系統(tǒng)，沒有部署在任何商業(yè)產(chǎn)品中。事實上，CLIP 不同尋常的機器學習架構(gòu)的本質(zhì)造成了這種攻擊成功的弱點。

CLIP 的目的是探索人工智能系統(tǒng)如何在沒有密切監(jiān)督的情況下，通過對海量圖像和文本對數(shù)據(jù)庫的訓練，學會識別物體。在這個案例中，OpenAI 使用了從互聯(lián)網(wǎng)上搜集的大約 4 億個圖像文本對來訓練今年 1 月份發(fā)布的 CLIP。

本月，OpenAI 的研究人員發(fā)表了一篇新論文，描述了他們是如何打開 CLIP 來觀察其性能的。他們發(fā)現(xiàn)了所謂的“多模態(tài)神經(jīng)元”，即機器學習網(wǎng)絡(luò)中的單個組件，它們不僅對物體的圖像有反應(yīng)，而且對草圖、卡通和相關(guān)文本也有反應(yīng)。令人興奮的是，它似乎反映了人類大腦對刺激的反應(yīng)，單個腦細胞已被觀察到對抽象概念的反應(yīng)，而不是具體的例子。OpenAI 的研究表明，人工智能系統(tǒng)可以像人類一樣內(nèi)化這些知識。

機器智能與人工智能的不同

在未來，這可能導致更復雜的視覺系統(tǒng)，但現(xiàn)在，這種方法還處于初級階段。雖然任何人都可以告訴你一個蘋果和一張紙上寫著“蘋果”的區(qū)別，但是像 CLIP 這樣的軟件卻不能。這種允許程序在抽象層面上連接文字和圖像的能力創(chuàng)造了這種獨特的弱點，OpenAI 將其描述為“抽象謬誤”。

實驗室給出的另一個例子中，CLIP 不僅回應(yīng)了存錢罐的圖片，也回應(yīng)了一串串的美元符號。正如上面的例子所示，這意味著如果在電鋸上覆蓋“ ＄＄ ”字符串，就可以欺騙 CLIP 將其識別為儲蓄罐。

研究人員還發(fā)現(xiàn)，CLIP 的多模態(tài)神經(jīng)元編碼的偏差，正是你在從互聯(lián)網(wǎng)上獲取數(shù)據(jù)時可能會發(fā)現(xiàn)的那種偏差。他們發(fā)現(xiàn)了“一種能同時刺激黑皮膚的人和大猩猩的神經(jīng)元”這重復了谷歌圖像識別系統(tǒng)中一個臭名昭著的錯誤，該系統(tǒng)將黑人標記為大猩猩。

這些例子說明，機器智能與人類智能有多么不同ーー以及為什么在我們把自己的生命托付給人工智能之前，分解機器智能以了解其工作原理是必要的。