近年來，隨著智能手機(jī)的普及及互聯(lián)網(wǎng)技術(shù)的蓬勃發(fā)展，生物識別技術(shù)已經(jīng)深入到人們?nèi)粘Ｉ罴肮ぷ鞯姆椒矫婷?。尤其是在防疫愈加?yán)密的今天，幾乎人人都會使用到指紋識別，人臉識別等功能，如手機(jī)屏幕解鎖、手機(jī)app支付、工作/學(xué)習(xí)考勤等。在這些應(yīng)用場景的背后，是互聯(lián)網(wǎng)技術(shù)與用戶安全隱私保護(hù)的博弈。怎么在日益擴(kuò)大的日常生活場景中，既保障人們?nèi)粘Ｉ畹谋憷?，同時(shí)又保障用戶的數(shù)據(jù)安全與隱私保護(hù)，成為當(dāng)前熱議的話題。而生物識別技術(shù)，無疑是當(dāng)中極其重要的一環(huán)。
目前各家公司成熟的人臉識別應(yīng)用能夠支持幾萬到幾百萬人不等的應(yīng)用場景，而且還有一個(gè)錯(cuò)誤率的概念。比如，公司宣稱千萬分之一的錯(cuò)誤率（1/10000000），人臉識別通過率其實(shí)只有95%?，F(xiàn)實(shí)生活中很難做到一定不發(fā)生錯(cuò)誤。再者，隨著圖像生成技術(shù)越來越成熟，深度偽造假臉生成等技術(shù)亦能夠欺騙人臉識別系統(tǒng)。人工智能技術(shù)在實(shí)際開發(fā)、應(yīng)用中除了面臨數(shù)據(jù)匱乏，硬件成本高，算法局限性等問題，還面臨著決定產(chǎn)品命運(yùn)的安全性問題。試想下，如果用一張合成出來的非常逼真的人臉圖像就可以替你做身份認(rèn)證，輕松獲取你賬戶的余額，那后果將有多可怕？?
AI應(yīng)用會觸及到用戶個(gè)人信息，個(gè)人隱私等非常敏感的領(lǐng)域，安全性問題不容忽視。作為一家軟硬服一體的生態(tài)型科技公司，OPPO一直以來都致力于打造保護(hù)用戶數(shù)據(jù)與隱私安全的產(chǎn)品，為此深耕安全隱私技術(shù)。自2018年以來，OPPO通過舉辦安全賽事、技術(shù)論壇等活動，持續(xù)對外分享OPPO安全技術(shù)能力與實(shí)踐經(jīng)驗(yàn)，與行業(yè)聯(lián)合創(chuàng)新，共建AI安全生態(tài)。今年6月份，由OPPO發(fā)起，OPPO安全主辦的“極智擔(dān)當(dāng)，不燃怎YOUNG——OPPO安全AI挑戰(zhàn)賽”正式開啟，線上參賽團(tuán)隊(duì)累計(jì)2000+，吸引了來自全球400多所高校的在校大學(xué)生參賽。其中，來自清華大學(xué)、北京大學(xué)、上海交通大學(xué)、電子科技大學(xué)等知名高校的10支戰(zhàn)隊(duì)順利晉級，角逐總決賽60萬元獎(jiǎng)金，最終，來自清華大學(xué)的戰(zhàn)隊(duì)“trivial”摘得桂冠。
比賽官網(wǎng)https://security.oppo.com/challenge/home.html。
本屆OPPO安全AI挑戰(zhàn)賽基于“人臉識別安全對抗”，模擬了人臉識別真實(shí)應(yīng)用場景，聚焦可感知、可掌控、可信賴的隱私安全防護(hù)上，防止人臉識別等生物特征的偽造，避免關(guān)鍵生物認(rèn)證信息被竊取，以賽代練，為隱私安全保護(hù)的優(yōu)化做了技術(shù)積累和人才挖掘。
賽題介紹
本次比賽主要使用人臉識別數(shù)據(jù)集，具體的圖片來自公開數(shù)據(jù)集CASIA-FaceV5和CelebA中的人臉圖片。每個(gè)人都有2-5張不同圖片，并被保存在一個(gè)文件夾中，如(./images/0/，./images/1/…)。?
參賽者需要修改這些圖片，并保留原始圖片尺寸和數(shù)據(jù)集目錄結(jié)構(gòu)。同時(shí)，對圖片的修改必須足夠微小。關(guān)于擾動的添加對于圖像質(zhì)量的影響，比賽組織者采用添加了擾動Lp范數(shù)和FullReference-IQA(FR-IQA)來進(jìn)行評價(jià)，其中FR-IQA部分將采用MS-SSIM圖像結(jié)構(gòu)相似性指標(biāo)來進(jìn)行量化。除了自動判斷外，在線下決賽環(huán)節(jié)，組織者還會對對抗樣本的肉眼視覺差異進(jìn)行更加嚴(yán)格的評判，即對抗樣本和原始樣本的視覺差異越小越好。
對抗樣本（Adversarial Sample）指在正常樣本上引入精心設(shè)計(jì)不易察覺的噪聲后形成的樣本。這類樣本可以使CNN模型輸出高置信度的錯(cuò)誤輸出。如下圖所示，只需要對原圖（雪山或者河豚）添加一些精心設(shè)計(jì)的噪聲，即可使模型給出完全錯(cuò)誤的預(yù)測。
在把數(shù)據(jù)集提交到系統(tǒng)后，后臺的防御模型會對上傳數(shù)據(jù)集進(jìn)行預(yù)測。攻擊數(shù)據(jù)集要盡量讓防御模型產(chǎn)生錯(cuò)誤的結(jié)果。當(dāng)攻擊不成功時(shí)，得分為0，當(dāng)攻擊成功時(shí)，得分由擾動添加前后的圖像差異大小來衡量，對原圖的影響越小得分越高。最終得分由擾動大小和判斷原圖片和修改后圖片的圖像質(zhì)量評分（multi-scale structural similarity）共同決定。?
后臺黑盒模型面對來自眾多參賽者不同方式巧妙的攻擊，將可以在各方面得到可靠的驗(yàn)證和提升。
baseline發(fā)布
給定待攻擊的干凈樣本和不同人名的的目標(biāo)樣本。將干凈樣本，對抗樣本和目標(biāo)樣本一同輸入到多個(gè)人臉識別模型中，經(jīng)過多個(gè)模型整合后得到與之對應(yīng)的人臉特征編碼向量并計(jì)算其相似度。在對抗樣本和目標(biāo)樣本方面，我們希望樣本相似度的值越小越好。通過優(yōu)化的損失，得到對抗擾動，從而能夠達(dá)到以上目的。利用正則化損失來限制對抗擾動的范圍。對抗擾動經(jīng)過平滑后與干凈樣本人臉疊加得到更新后的人臉對抗樣本。?
本次比賽的任務(wù)是攻擊人臉圖像，考慮到人臉五官對于模型訓(xùn)練的重要性，因此添加對抗擾動時(shí)只針對人臉五官。人臉識別模型的訓(xùn)練可以利用如下人臉識別網(wǎng)絡(luò)結(jié)構(gòu)在本地訓(xùn)練自己的人臉識別模型，也可以下載已經(jīng)訓(xùn)練好的人臉識別模型參數(shù)。給定一張人臉圖片，經(jīng)過多個(gè)人臉識別模型生成多個(gè)人臉編碼向量，最終整合成一個(gè)人臉編碼向量。
人臉識別模型網(wǎng)絡(luò)結(jié)構(gòu)：
1.Facenet鏈接:
https://github.com/davidsandberg/facenet
2.Insightface鏈接：
https://github.com/luckycallor/InsightFace-tensorflow.git
3.MobileFaceNet鏈接:
https://github.com/sirius-ai/MobileFaceNet_TF.git
4.CosFace鏈接:
https://github.com/yule-li/CosFace.git
更多baseline?模型信息、代碼可直接在github查看
https://github.com/guidao20/OPPO_ADVERSARIAL_ATTACK
?
?
回顧2020年，全球最具權(quán)威的IT研究與顧問咨詢公司Gartner發(fā)布的10大戰(zhàn)略技術(shù)趨勢報(bào)告中，明確指出AI Security將是未來重要的戰(zhàn)略技術(shù)趨勢之一，在接下來的5年中，人工智能（特別是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)）將廣泛應(yīng)用到增強(qiáng)人類的決策能力的產(chǎn)品和系統(tǒng)中。與此同時(shí)，潛在的安全風(fēng)險(xiǎn)也成指數(shù)放大，給安全運(yùn)維團(tuán)隊(duì)和風(fēng)險(xiǎn)決策者帶來了新的挑戰(zhàn)。OPPO作為業(yè)內(nèi)領(lǐng)先的品牌，其手機(jī)搭載了無數(shù)先進(jìn)的基于AI算法的應(yīng)用。OPPO非常重視自身產(chǎn)品和服務(wù)的安全性，致力于打造安全可靠的產(chǎn)品和保護(hù)用戶的隱私，為此深耕安全隱私技術(shù)。
大咖云集，聚焦AI安全新戰(zhàn)場
決賽當(dāng)天，由OPPO主辦的主題為“AI安全新戰(zhàn)場”的安全高峰論壇也如期進(jìn)行。來自O(shè)PPO的高級算法工程師李啟明針對深度偽造技術(shù)給個(gè)人以及組織安全帶來的風(fēng)險(xiǎn)、挑戰(zhàn)與機(jī)遇，做了以《OPPO在深度偽造檢測方面的探索與實(shí)踐》為主題的分享，包括如何減少模型算法計(jì)算量、快速適應(yīng)新偽造技術(shù)、減少標(biāo)注成本等方面的技術(shù)應(yīng)用。深度偽造是指利用深度學(xué)習(xí)算法實(shí)現(xiàn)音頻、視頻、圖像的模擬和偽造，包括語音模擬、換臉、表情操縱等。以深度偽造為代表的安全問題，正是人工智能產(chǎn)業(yè)當(dāng)前所面臨的瓶頸，李啟明的分享內(nèi)容將給業(yè)內(nèi)帶來不少啟發(fā)。
同樣來自O(shè)PPO的高級算法工程師張文剛做了以《智能護(hù)盾安全大腦：移動應(yīng)用智慧檢測能力構(gòu)建》為題的分享。在其安全大腦的移動應(yīng)用智慧檢測引擎中，采用了基于深度學(xué)習(xí)的多策略檢測、異常發(fā)現(xiàn)方法，顯著提升了隱私泄露、廣告作弊等惡意行為的識別率。而對隱私政策協(xié)議的智能識別，使用了自然語言處理算法--預(yù)訓(xùn)練語言模型，實(shí)現(xiàn)文本檢測的效率、準(zhǔn)確率的提升?，F(xiàn)如今網(wǎng)絡(luò)環(huán)境虛虛實(shí)實(shí)，環(huán)境日趨復(fù)雜，可謂道高一尺魔高一丈。引入AI技術(shù)主要希望解決傳統(tǒng)防御方案解決不了的新威脅，提高原有檢測方案的檢測精度，更高效自動化數(shù)據(jù)分類，更快的威脅響應(yīng)處置。
AI安全高峰論壇中還有來自京東、英特爾、四川大學(xué)等知名企業(yè)和高校的研究人員針對如何提升與網(wǎng)絡(luò)黑產(chǎn)的對抗能力和智能風(fēng)險(xiǎn)監(jiān)測，如何提升隱私保護(hù)機(jī)器學(xué)習(xí)的性能和效率，動態(tài)變化網(wǎng)絡(luò)環(huán)境下AI模型的自學(xué)習(xí)能力等方面作出了前沿技術(shù)的重要分享，為行業(yè)和安全研究者提供了豐富的理論指導(dǎo)和實(shí)踐經(jīng)驗(yàn)。
?
共建AI安全生態(tài)
OPPO不僅對自身產(chǎn)品和業(yè)務(wù)的安全問題非常重視，也一直致力于保障用戶安全。在自身安全生態(tài)建設(shè)方面，持續(xù)通過OPPO安全應(yīng)急響應(yīng)中心（即OSRC）加強(qiáng)與業(yè)界個(gè)人、組織切合作，來提升OPPO的整體安全水平。OSRC不但是OPPO面向全社會收集并響應(yīng)安全漏洞與情報(bào)的平臺，也承擔(dān)著OPPO與安全業(yè)界同仁合作、交流平臺的重任，持續(xù)致力于保障OPPO億級用戶及多元化業(yè)務(wù)和產(chǎn)品的安全與隱私，是OPPO安全生態(tài)體系建設(shè)中的關(guān)鍵一環(huán)。AI安全高峰論壇最后，主辦方還為OSRC白帽社區(qū)突出貢獻(xiàn)的人員和優(yōu)秀合作伙伴頒發(fā)獎(jiǎng)勵(lì)。OSRC年度優(yōu)秀合作伙伴包括騰訊玄武安全實(shí)驗(yàn)室、百度安全、Intel、微軟（中國）有限公司等17家業(yè)內(nèi)頂尖機(jī)構(gòu)。OSRC不僅實(shí)力雄厚，同時(shí)聯(lián)合行業(yè)進(jìn)行創(chuàng)新，攜手共建AI安全生態(tài)，致力于為用戶打造一個(gè)更加安全的生態(tài)環(huán)境。
? ??
人工智能發(fā)展至今，算法、算力、數(shù)據(jù)等三大關(guān)鍵問題均有不同程度解決，當(dāng)你看到AI帶來的好處的同時(shí)，AI的另一面（脆弱性）也在凝望著你。所以做好AI防護(hù)，AI安全性保障至關(guān)重要?！癆I+安全”勢必在這幾年內(nèi)會為持續(xù)發(fā)展并不斷成為業(yè)界共識，廣泛的應(yīng)用到不同類型的安全防護(hù)產(chǎn)品和服務(wù)應(yīng)用中。OPPO正緊緊抓住此時(shí)代契機(jī)，以技術(shù)創(chuàng)新構(gòu)筑安全生態(tài)，引領(lǐng)行業(yè)的發(fā)展。一方面持續(xù)深挖安全技術(shù)領(lǐng)域的潛力，通過大賽鍛煉、驗(yàn)證自身安全產(chǎn)品的同時(shí)，也為行業(yè)新人提供創(chuàng)新平臺，激發(fā)創(chuàng)新活力，引發(fā)技術(shù)變革，吸收經(jīng)驗(yàn)。另一方面緊跟安全隱私技術(shù)前沿，通過舉辦安全技術(shù)論壇等活動，持續(xù)對外分享OPPO安全技術(shù)能力與實(shí)踐經(jīng)驗(yàn)，共建行業(yè)安全生態(tài)。同時(shí)，還積極與行業(yè)翹楚合作，信息共享，在大環(huán)境中共同為用戶安全的生態(tài)環(huán)境做出貢獻(xiàn)。
AI的應(yīng)用越來越多，安全問題也會越來越受到人們的關(guān)注。諸如生物特征偽造，對抗樣本攻擊，機(jī)器學(xué)習(xí)/深度學(xué)習(xí)框架以及依賴庫的漏洞，訓(xùn)練數(shù)據(jù)泄露等AI系統(tǒng)的一些安全隱患在逐漸凸顯出來，共建互聯(lián)網(wǎng)行業(yè)安全生態(tài)迫在眉睫。
