手把手教你使用 TensorFlow 生成對抗樣本 | 附源碼

本文來源于云棲社區(qū)，原文請點擊這里。

如果說卷積神經(jīng)網(wǎng)絡是昔日影帝的話，那么生成對抗已然成為深度學習研究領域中一顆新晉的耀眼新星，它將徹底地改變我們認知世界的方式。

對抗學習訓練為指導人工智能完成復雜任務提供了一個全新的思路，生成對抗圖片能夠非常輕松的愚弄之前訓練好的分類器，因此如何利用生成對抗圖片提高系統(tǒng)的魯棒性是一個很有研究的熱點問題。

神經(jīng)網(wǎng)絡合成的對抗樣本很容易讓人大吃一驚，這是因為對輸入進行小巧精心制作的擾動就可能導致神經(jīng)網(wǎng)絡以任意選擇的方式對輸入進行錯誤地分類。

鑒于對抗樣本轉移到物質世界，可以使其變得非常強大，因此這是一個值得關注的安全問題。

比如說人臉識別，若一張對抗圖像也被識別為真人的話，就會出現(xiàn)一些安全隱患及之后帶來的巨大損失。

對生成對抗圖像感興趣的讀者可以關注一下最近的Kaggle挑戰(zhàn)賽NIPS，相關的信息可以參看博主的另外一篇：
《Kaggle首席技術官發(fā)布——(Kaggle)NIPS 2017對抗學習挑戰(zhàn)賽起步指南》
在這篇文章中，將手把手帶領讀者利用TensorFlow實現(xiàn)一個簡單的算法來合成對抗樣本，之后使用這種技術建立一個魯棒的對抗性例子。
本文是一個可執(zhí)行的Jupyter notebook：可以下載并自己實驗操作一下示例！