用深度學(xué)習(xí)技術(shù)造假巨星短視頻，狂攬幾十萬粉絲

技術(shù)編輯：宗恩丨發(fā)自 思否編輯部

三天前，一個(gè)名為@deeptomcruise的TikTok賬號(hào)開始發(fā)布好萊塢巨星湯姆-克魯斯的視頻片段，從打高爾夫到在意大利的一家男裝店里被絆倒后講笑話，再到用硬幣表演魔術(shù)。在這三段視頻中，克魯斯每一段都會(huì)發(fā)出他標(biāo)志性的狂笑，不過雖然所有這些視頻中的人看起來都和湯姆-克魯斯如此相像，但這些都不是克魯斯，而是用深度偽造視頻技術(shù)「deepfake」制作的假視頻。

如果仔細(xì)觀察就可以發(fā)現(xiàn)一些疑點(diǎn)，首先視頻里的湯姆-克魯斯看起來要比58歲年輕很多，而且也要比真人高出很多。此外，他的聲音也有明顯的不同。

不過大多數(shù)網(wǎng)友并沒有注意到這些，這個(gè)名為@deeptomcruise賬號(hào)已經(jīng)積累了23.6萬名粉絲，并且粉絲數(shù)還在不斷增加中。目前TikTok官方?jīng)]有發(fā)表上傳使用「deepfakes」技術(shù)的視頻是否違反了服務(wù)條款，但有不少用戶已經(jīng)感覺事情的嚴(yán)重性，并且有人建議：每個(gè)公眾人物都應(yīng)該在那里注冊一個(gè)經(jīng)過驗(yàn)證的賬號(hào)，即使他們不發(fā)布內(nèi)容，這樣更容易讓用戶識(shí)別假冒的賬號(hào)。

麻省理工學(xué)院的研究人員對這項(xiàng)技術(shù)進(jìn)行了詳細(xì)的解釋，@deeptomcruise 正在使用 「deepfakes」技術(shù)，這是一個(gè)結(jié)合了 「深度學(xué)習(xí) 」和 「假貨 」的術(shù)語，一種特殊的合成媒體，在這種媒體中，圖像或視頻中的一個(gè)人與另一個(gè)人的肖像進(jìn)行了交換。

為了制作一個(gè)深度偽造視頻，制作者使用面部識(shí)別算法和一個(gè)稱為變異自動(dòng)編碼器[VAE]的深度學(xué)習(xí)計(jì)算機(jī)網(wǎng)絡(luò)，將一個(gè)人的臉換成另一個(gè)人的臉。VAE被訓(xùn)練成將圖像編碼成低維表示，然后將這些表示解碼回圖像。例如，如果你想將任何視頻轉(zhuǎn)化為影星尼古拉斯-凱奇的「深度偽造」，你需要兩個(gè)自動(dòng)編碼器，一個(gè)是在演員臉部的圖像上訓(xùn)練的，另一個(gè)是在多種臉部的圖像上訓(xùn)練的。

這兩個(gè)訓(xùn)練集所使用的人臉圖像可以通過對視頻幀應(yīng)用面部識(shí)別算法來策劃，以捕捉自然發(fā)生的不同姿勢和照明條件。一旦完成這種訓(xùn)練，你就可以將在多樣化的人臉上訓(xùn)練的編碼器與在尼古拉斯-凱奇的臉上訓(xùn)練的解碼器結(jié)合起來，從而在別人的身體上形成演員的臉。

這項(xiàng)技術(shù)早在2017年就出現(xiàn)公眾視野中，那時(shí)有很多美國前總統(tǒng)特朗普的追隨者發(fā)布了大量假新聞，在2019年的電影《愛爾蘭人》中這項(xiàng)技術(shù)也被大量使用，人們對這項(xiàng)技術(shù)的評價(jià)非常兩極化，喜歡的人覺得這將開啟一個(gè)電影新時(shí)代，討厭的人覺得會(huì)有人用它來進(jìn)行「犯罪」。

目前來說@deeptomcruise賬號(hào)里發(fā)布的視頻并沒有任何危害，但還是希望視頻平臺(tái)加速制定「deepfakes」制作視頻發(fā)布規(guī)則，避免有用戶上當(dāng)受騙。