熟女作爱一区二区三区免费,操逼91视频,翔田千里一区二区三区Av,日韩美毛片三级片视频,操逼网站进入国产,人人草人人搞,天天天做夜夜夜夜爽无码,欧美色电影网

新智元報(bào)道

編輯：好困 Aeneas

【新智元導(dǎo)讀】知道嗎？你的每一次點(diǎn)擊，背后都發(fā)生了一場(chǎng)「世界大戰(zhàn)」。

在網(wǎng)絡(luò)世界，假相和騙局防不勝防。

看看這段澳洲課堂上老師播放的特朗普和蓬萊奧合唱《我愛(ài)你中國(guó)》的視頻就知道，技術(shù)就是工具，它可以造假，也可能「失控」。

原視頻：UFO上的書(shū)蟲(chóng)

技術(shù)雖然成就了互聯(lián)網(wǎng)，但它也正在被利用生成新的隱患。

今年9月7日，中科大網(wǎng)絡(luò)信息中心的老師們向全校師生發(fā)放4萬(wàn)封「免費(fèi)送月餅」的釣魚(yú)郵件，測(cè)試師生們的反詐騙能力。結(jié)果，3100余位學(xué)生、400余位教職工中招。

可以肯定的一點(diǎn)是，網(wǎng)絡(luò)風(fēng)險(xiǎn)正在從黑客們專(zhuān)業(yè)的「網(wǎng)絡(luò)攻擊」擴(kuò)展到普通人關(guān)心的方方面面，普通人已經(jīng)難敵技術(shù)帶來(lái)的假象和騙局。隨著安全風(fēng)險(xiǎn)正在成為網(wǎng)絡(luò)世界的頭號(hào)隱患，我們的生活，也正在因?yàn)榧夹g(shù)安全的博弈而發(fā)生著巨大的變化。

為了應(yīng)對(duì)這些挑戰(zhàn)，阿里巴巴、騰訊集團(tuán)、螞蟻集團(tuán)、360等各大互聯(lián)網(wǎng)公司大力發(fā)展安全科技。

一方面，這些實(shí)驗(yàn)室的安全專(zhuān)家在注重人工智能本身的技術(shù)安全性，大力發(fā)展可信AI；另一方面，他們?cè)谕ㄟ^(guò)將人工智能技術(shù)與安全技術(shù)融合來(lái)實(shí)現(xiàn)安全防護(hù)，安全科技已經(jīng)傳統(tǒng)的系統(tǒng)安全升級(jí)為多元的安全技術(shù)體系。其中，以安全實(shí)驗(yàn)室為主體，這些互聯(lián)網(wǎng)企業(yè)正在實(shí)現(xiàn)安全科技上的巨大突破。

例如，360的Vulcan Team、追影實(shí)驗(yàn)室、Sky-Go Team、0kee Team等，在網(wǎng)絡(luò)犯罪研究、黑灰產(chǎn)打擊、反網(wǎng)絡(luò)詐騙、挖掘安全漏洞等方面都成績(jī)斐然。

360安全實(shí)驗(yàn)室（部分）

螞蟻的9大安全實(shí)驗(yàn)室，聚焦智能風(fēng)控、數(shù)字身份、數(shù)據(jù)安全隱私保護(hù)等領(lǐng)域的前沿安全技術(shù)，構(gòu)建了「魯棒性、可解釋性、隱私保護(hù)、公平性」為核心特征的可信AI技術(shù)架構(gòu)，在反詐反洗錢(qián)等方面取得重要成效。

螞蟻9大安全實(shí)驗(yàn)室

AI是否可信，是個(gè)大問(wèn)題

人工智能發(fā)展至今，已經(jīng)有60多年的歷史了。

在以前，AI是靠知識(shí)驅(qū)動(dòng)、數(shù)據(jù)驅(qū)動(dòng)，而現(xiàn)在，行業(yè)走到了以安全可控為核心的階段。

而人工智能技術(shù)與安全技術(shù)的融合，也代表了安全領(lǐng)域進(jìn)入了一個(gè)新的階段——可信AI。

為什么可信AI如此重要？

自從谷歌人工智能?chē)遘浖嗀lphaGo橫掃人類(lèi)世界冠軍，標(biāo)志著AI的無(wú)所不能。隨著AI廣泛落地到各個(gè)領(lǐng)域中，安全隱患也隨之而來(lái)。

2015年2月，英國(guó)進(jìn)行了首例機(jī)器人心瓣修復(fù)手術(shù)。期間，濺到攝像頭上的血液，讓機(jī)器人「瞎了眼」，一把戳穿了大動(dòng)脈。最終，患者在術(shù)后一周去世。

2016年9月，一輛處于「定速」?fàn)顟B(tài)的特斯拉，因未能識(shí)別躲閃而撞上前車(chē)，造成駕駛員身亡。而這也被認(rèn)為是國(guó)內(nèi)首起特斯拉自動(dòng)駕駛功能使用中發(fā)生的車(chē)禍致死案例。

隨著類(lèi)似的事件越來(lái)越多，人類(lèi)對(duì)于人工智能產(chǎn)生了「信任危機(jī)」。

可以看到，雖然當(dāng)前深度學(xué)習(xí)的算法準(zhǔn)確率已經(jīng)達(dá)到了99%，但是當(dāng)它在現(xiàn)實(shí)中落地時(shí)，即使是1%的錯(cuò)誤，也是我們無(wú)法承受的。當(dāng)前基于神經(jīng)網(wǎng)絡(luò)的AI技術(shù)具有不可解釋、魯棒性差、過(guò)于依賴(lài)數(shù)據(jù)等通病。

行業(yè)界從2017年開(kāi)始關(guān)注這個(gè)問(wèn)題。

IEEE在2017年12月提出了《人工智能的倫理設(shè)計(jì)準(zhǔn)則》，緊接著澳洲、美國(guó)、新加坡等都提出了相關(guān)的政策、指南或白皮書(shū)；國(guó)內(nèi)，何積豐院士于2017年11月香山科學(xué)會(huì)議上首次提出了「可信人工智能」的概念；在此之后，京東、螞蟻、騰訊等互聯(lián)網(wǎng)大廠企業(yè)紛紛入場(chǎng)「可信AI」。

「簡(jiǎn)單來(lái)說(shuō)，『可信AI』包含四大基本原則：隱私保護(hù)、魯棒性/穩(wěn)定性、可解釋性和公平性」，螞蟻安全天筭實(shí)驗(yàn)室負(fù)責(zé)人王維強(qiáng)這樣定義。

這四個(gè)原則，都有相應(yīng)的理由。

首先是公平性。AI的偏見(jiàn)是從何而來(lái)呢？我們訓(xùn)練AI，是通過(guò)「喂」給模型大量的真實(shí)數(shù)據(jù)，然而AI被訓(xùn)練后，卻可能因?yàn)閿?shù)據(jù)采集中的偏見(jiàn)，而不公平地對(duì)待人類(lèi)。

比如亞馬遜的機(jī)器學(xué)習(xí)專(zhuān)家曾發(fā)現(xiàn)，他們的招聘算法對(duì)包含「女性」一詞的技術(shù)職位的簡(jiǎn)歷進(jìn)行了降級(jí)，并「懲罰」了兩所全女性大學(xué)的畢業(yè)生。而該算法是根據(jù)亞馬遜10年來(lái)的招聘數(shù)據(jù)進(jìn)行的訓(xùn)練，其中技術(shù)崗位的人員大多為男性。沒(méi)錯(cuò)，AI就是這樣「打臉」了人類(lèi)：你們的偏見(jiàn)無(wú)所不在。

其次是魯棒性。現(xiàn)在的黑產(chǎn)有很多針對(duì)AI模型的攻擊方式，比如中毒攻擊、對(duì)抗攻擊、后門(mén)攻擊等。如果模型不夠魯棒，哪怕模型特別簡(jiǎn)單，都很快會(huì)被黑產(chǎn)打穿。曾有人測(cè)試過(guò)，在路牌上貼一張貼紙，自動(dòng)駕駛汽車(chē)的AI就識(shí)別不出來(lái)了，這也會(huì)造成嚴(yán)重的后果。

像支付寶這樣的互聯(lián)網(wǎng)支付平臺(tái)，每天都會(huì)受到上億次的黑產(chǎn)攻擊。如果速度比黑產(chǎn)慢，成千上萬(wàn)的支付寶用戶資金安全就會(huì)受到威脅。這時(shí)，風(fēng)控模型與算法魯棒性就變得至關(guān)重要。

第三是可解釋性。我們都知道，以深度學(xué)習(xí)為代表的機(jī)器學(xué)習(xí)算法，可以看成是一個(gè)端到端的黑箱。我們不理解AI為何會(huì)有這么高的性能，不明白AI是怎樣做決策的。如果可解釋性比較差，用戶交互或者給監(jiān)管解釋時(shí)就會(huì)有比較大的挑戰(zhàn)。

最后一個(gè)是隱私保護(hù)。隱私泄露的危害，我們?cè)谏衔睦镆呀?jīng)看到了。顯然，現(xiàn)在隨著數(shù)據(jù)泄露導(dǎo)致的風(fēng)險(xiǎn)越來(lái)越大，我們需要仔細(xì)思考，如何在「數(shù)據(jù)保護(hù)」與「數(shù)據(jù)驅(qū)動(dòng)的AI研究」中取得兩全。

天筭實(shí)驗(yàn)室是螞蟻安全實(shí)驗(yàn)室中專(zhuān)注于可信AI與智能風(fēng)控研究的主力軍。為了讓AI算法更加安全可信，天筭實(shí)驗(yàn)室還研發(fā)了「蟻鑒」平臺(tái)，并把這個(gè)能力開(kāi)放了出來(lái)。這也成為可信AI這個(gè)領(lǐng)域，在今年里一個(gè)「大事」。

這是一個(gè)面向工業(yè)場(chǎng)景全數(shù)據(jù)類(lèi)型的AI安全檢測(cè)平臺(tái)。它融入了博弈理論、邏輯推理、隱私計(jì)算，可以通過(guò)系統(tǒng)化、標(biāo)準(zhǔn)化、智能化檢測(cè)提前發(fā)現(xiàn)模型的潛在漏洞，提升AI模型的風(fēng)險(xiǎn)識(shí)別和風(fēng)險(xiǎn)防御能力。

這樣，通過(guò)一系列的測(cè)試，就可以確保模型上線之前，能夠避免那些常見(jiàn)的攻擊，從而提升模型的魯棒性。未來(lái)，這個(gè)平臺(tái)還將逐步增加AI可解釋、公平、隱私的相關(guān)檢測(cè)。

「如果我們能讓人工智能在這四個(gè)方面的「可信」度量上都達(dá)到很高的共識(shí)水平，或許就有機(jī)會(huì)從根源上消除制約AI技術(shù)的弊端，使AI對(duì)人類(lèi)來(lái)說(shuō)更加值得信任」，王維強(qiáng)這樣說(shuō)。

這是一個(gè)相殺相愛(ài)的過(guò)程。面向未來(lái)更大規(guī)模的智能化，人類(lèi)和AI的合作剛剛開(kāi)始，人類(lèi)和AI的對(duì)抗也剛剛開(kāi)始。

用技術(shù)對(duì)抗詐騙，用AI對(duì)抗AI

而當(dāng)可信AI遇上風(fēng)控，各大安全實(shí)驗(yàn)室都在深耕以「魯棒性、可解釋性、隱私保護(hù)、公平性」這幾個(gè)原則為核心特征的智能風(fēng)控技術(shù)架構(gòu)。

比如螞蟻安全實(shí)驗(yàn)室，就把以可信AI為基礎(chǔ)的IMAGE風(fēng)控體系作為抵御數(shù)字時(shí)代風(fēng)險(xiǎn)的核心能力。

要說(shuō)到數(shù)字時(shí)代的風(fēng)險(xiǎn)，就不得不提到電信詐騙。

如今的我們，對(duì)于「電信詐騙」可謂是耳熟能詳，而這有一個(gè)令人唏噓的起因。

在2016年8月，18歲的山東女生徐玉玉遭遇電信詐騙被騙走了9900元學(xué)費(fèi)，傷心過(guò)度，引發(fā)心臟驟停去世。這場(chǎng)悲劇，令社會(huì)對(duì)由來(lái)已久的電信詐騙的憤怒達(dá)到頂峰。

而2016年也成為標(biāo)志性的一年，國(guó)內(nèi)外多家專(zhuān)業(yè)機(jī)構(gòu)的研究顯示，電子支付平臺(tái)的風(fēng)險(xiǎn)以2016年為分水嶺。這一年，也認(rèn)為是全社會(huì)防電信詐騙的元年。

在此之前，各家支付平臺(tái)面臨的風(fēng)險(xiǎn)挑戰(zhàn)主要以直接盜取賬戶、盜取銀行卡等為主，而在此之后利用信息網(wǎng)絡(luò)、AI技術(shù)的電信網(wǎng)絡(luò)詐騙、跨境賭博為代表的新型網(wǎng)絡(luò)犯罪上升為風(fēng)險(xiǎn)的主流。風(fēng)險(xiǎn)的技術(shù)含量在升級(jí)，對(duì)抗這些風(fēng)險(xiǎn)的技術(shù)也必須變革。最明顯的體現(xiàn)是：大規(guī)模智能化技術(shù)用于防詐騙，取代了人工。

反詐騙到底是什么？首先，它是一場(chǎng)技術(shù)與心智的對(duì)抗賽。

它是一場(chǎng)心理學(xué)和機(jī)器學(xué)習(xí)之間的碰撞。

在大部分人的認(rèn)知里，反詐騙是安全專(zhuān)家與騙子之間的較量。比如，為了防止支付寶賬戶被盜刷，支付寶就需要建立更堅(jiān)固的防護(hù)墻。

但是如今的反詐，早已不是那般簡(jiǎn)單。現(xiàn)在的電信網(wǎng)絡(luò)詐騙中，騙子就是「演員」，用戶就是「觀眾」。一旦演員抓住觀眾的心理，讓觀眾入了戲，他就會(huì)深陷劇情之中，而騙子接下來(lái)的得逞就易如反掌了。

所以，現(xiàn)在的反詐，不止要建立防護(hù)墻將騙子攔在門(mén)外，還要想辦法“喚醒”用戶「心智」，將用戶拉出騙子的劇情，幫助他主動(dòng)識(shí)別騙局。

現(xiàn)在，螞蟻集團(tuán)的智能風(fēng)控技術(shù)，就是在用主動(dòng)交互式風(fēng)控技術(shù)，讓用戶意識(shí)到自己被騙了。

開(kāi)始，螞蟻采用的是智能彈窗。后來(lái)，在2019年，螞蟻推出了「叫醒熱線」，AI機(jī)器人會(huì)主動(dòng)致電用戶，進(jìn)行更有感情的語(yǔ)音交互。在近期，螞蟻還開(kāi)發(fā)了「安全保鏢」機(jī)器人，通過(guò)圖文互動(dòng)進(jìn)行風(fēng)險(xiǎn)揭示。

王維強(qiáng)介紹，在交互的過(guò)程中，系統(tǒng)就會(huì)采用一些AI技術(shù)，比如語(yǔ)言學(xué)習(xí)里的對(duì)比學(xué)習(xí)，去判斷這個(gè)用戶的話語(yǔ)中是否有前后不一致的問(wèn)題，來(lái)識(shí)別他是否深度被騙。

有的用戶被騙子騙得太深，已經(jīng)很難制止了，對(duì)于這種用戶，系統(tǒng)識(shí)別到后會(huì)對(duì)受騙者進(jìn)行強(qiáng)制「冷靜」。

截至目前，螞蟻交互式風(fēng)控技術(shù)已經(jīng)取得了不斐的成績(jī)。據(jù)螞蟻發(fā)布的《2022年反詐治理半年報(bào)》顯示，螞蟻AI叫醒熱線電話日均交互4.3萬(wàn)人次，平均語(yǔ)音溝通時(shí)長(zhǎng)大于90s，AI的理解和溝通能力越來(lái)越好，用戶與AI交流的意愿更強(qiáng)，時(shí)間也更長(zhǎng)了。

另外，為了喚醒用戶心智，反詐方自己得有快速識(shí)別詐騙團(tuán)伙的能力。

在以前，很多詐騙以盜號(hào)的形式，由于是非本人操作，所以有很多可查的痕跡。但現(xiàn)在，當(dāng)用戶本人受騙，攻防的難度很大，因?yàn)檫@個(gè)賬戶不是被黑產(chǎn)控制，而是被用戶本人操作。所以在系統(tǒng)視角下，就是用戶自己想轉(zhuǎn)一筆錢(qián)。

而且，現(xiàn)在的詐騙團(tuán)伙作案手段越來(lái)越狡猾，詐騙過(guò)程非常隱性。

舉個(gè)例子，在最后的付款階段，騙子為了躲閃風(fēng)控，有時(shí)也不會(huì)直接和被害人進(jìn)行轉(zhuǎn)賬。而是先讓他轉(zhuǎn)給一個(gè)或多個(gè)正常的賬戶，然后再經(jīng)過(guò)一系列看起來(lái)非常正常的操作之后，最終讓這筆錢(qián)來(lái)到詐騙團(tuán)伙的手里。

更有甚者，當(dāng)騙子發(fā)現(xiàn)自己的賬號(hào)被管控之后，還會(huì)假裝好人給一些公益基金會(huì)捐款，試圖借此騙過(guò)檢測(cè)系統(tǒng)。

技術(shù)就是在這樣復(fù)雜的環(huán)境里進(jìn)行風(fēng)險(xiǎn)識(shí)別和風(fēng)險(xiǎn)阻止。

為了應(yīng)對(duì)這些狡猾的黑灰產(chǎn)，各家互聯(lián)網(wǎng)科技企業(yè)也是絞盡腦汁，畢竟風(fēng)險(xiǎn)發(fā)生的地方在這類(lèi)平臺(tái)居多。

為此，螞蟻安全實(shí)驗(yàn)室經(jīng)過(guò)數(shù)年的研發(fā)和實(shí)踐打造了這套安全體系IMAGE，它是以可信AI為基礎(chǔ)打造的一個(gè)智能風(fēng)控體系。

IMAGE實(shí)際是5項(xiàng)技術(shù)首字母的合稱(chēng)：

I代表的是交互式主動(dòng)風(fēng)控。因?yàn)樵谫€博、欺詐過(guò)程中，心智非常難對(duì)抗，不能依靠單一的決策過(guò)程，因此，專(zhuān)家通過(guò)交互式主動(dòng)風(fēng)控，將這個(gè)過(guò)程拓展到和用戶多次對(duì)話的交互過(guò)程中，并在過(guò)程中識(shí)別其意圖，然后實(shí)現(xiàn)自動(dòng)勸阻/喚醒。通過(guò)這項(xiàng)技術(shù)，對(duì)用戶是否受騙的識(shí)別率大大提升。

M代表的是多方安全風(fēng)控。專(zhuān)家將螞蟻多年積累的先進(jìn)的隱私計(jì)算能力，運(yùn)用到風(fēng)控領(lǐng)域，實(shí)現(xiàn)了多方參與下數(shù)據(jù)不出域，但又能夠提供風(fēng)控的提升。從實(shí)踐中可以看出，對(duì)比單方風(fēng)控，多方風(fēng)控的風(fēng)險(xiǎn)識(shí)別率提升了40%。

A是博弈對(duì)抗智能。這種技術(shù)把博弈理論和機(jī)器學(xué)習(xí)結(jié)合，不僅僅是打造一個(gè)防護(hù)盾牌，同時(shí)也在磨一把刀，這把刀足夠的鋒利，可以自動(dòng)生成腳本，生成路徑，和盾相互進(jìn)行攻防，從而提升盾的防御水平。應(yīng)用后，有效縮短了訓(xùn)練AI模型以投入實(shí)戰(zhàn)的20%訓(xùn)練時(shí)間。

G是全圖風(fēng)控。專(zhuān)家把圖計(jì)算和風(fēng)控結(jié)合起來(lái)，打造了螞蟻風(fēng)險(xiǎn)一張圖，它提高了檢測(cè)效率，特別是對(duì)隱示特征的挖掘效率，提升到45%以上。目前，在線查詢(xún)耗時(shí)控制在10ms以?xún)?nèi)，對(duì)黑產(chǎn)團(tuán)伙檢測(cè)準(zhǔn)確率達(dá)到95%以上。

E是端邊云協(xié)同風(fēng)控。螞蟻的思路是：風(fēng)險(xiǎn)發(fā)生在哪里，最好就在哪里進(jìn)行處置。目前端邊云風(fēng)控的體系，覆蓋了99%以上的支付寶日常交易場(chǎng)景，在大促的放行率也達(dá)到了90%以上。

目前，IMAGE智能安全體系已應(yīng)用于支付寶及合作伙伴，保障了超10億用戶的安全。在該體系支撐下，支付寶2021年資損率低于億分之0.98，交易風(fēng)險(xiǎn)判定0.01秒內(nèi)即可完成。

這套技術(shù)有多厲害呢？今年世界人工智能大會(huì)上，基于這套安全體系開(kāi)發(fā)的「智能風(fēng)險(xiǎn)感知與響應(yīng)聯(lián)合反詐系統(tǒng)」獲得了大會(huì)的最高獎(jiǎng)項(xiàng)「SAIL之星」獎(jiǎng)。

風(fēng)控技術(shù)的突破可以說(shuō)如履薄冰，永遠(yuǎn)沒(méi)有盡頭。因?yàn)閷?duì)手一直在那里，而且在變化。

技術(shù)本身是否安全，也需要檢測(cè)

假如你的手機(jī)落入到了騙子的手里，風(fēng)險(xiǎn)又加了一層。

2019年，一位英國(guó)的朋友發(fā)現(xiàn)，自己不僅能用手指解鎖老婆某型號(hào)的安卓手機(jī)，甚至還能登上手機(jī)銀行。

經(jīng)過(guò)一番分析之后他們發(fā)現(xiàn)，女主當(dāng)初在錄入指紋的時(shí)候，是隔著手機(jī)外面套著的那層硅膠的。也就是說(shuō)，女主的指紋與硅膠套紋路存在重疊，而當(dāng)男主再進(jìn)行指紋識(shí)別時(shí)，也會(huì)與硅膠套紋路有重疊。

于是，bug就出現(xiàn)了——只要是隔著這層膜，隨便找一個(gè)人都能解鎖這臺(tái)手機(jī)……

問(wèn)題一經(jīng)發(fā)現(xiàn)，各家銀行、微信以及支付寶紛紛關(guān)閉了相關(guān)機(jī)型的指紋服務(wù)。

除了指紋之外，當(dāng)時(shí)在人臉識(shí)別上出現(xiàn)的漏洞，甚至讓手機(jī)連性別也無(wú)法區(qū)分。

同樣是在2019年，荷蘭的消費(fèi)者協(xié)會(huì)發(fā)現(xiàn)，在110部被測(cè)試的智能手機(jī)中，有42部只需一張機(jī)主的照片就能解鎖。這些機(jī)器都來(lái)自安卓陣營(yíng)。

保障智能終端里的生物識(shí)別技術(shù)本身的安全性，很迫切。

谷歌也不是沒(méi)有準(zhǔn)備。

谷歌在安卓6.0時(shí)，提供了開(kāi)放的指紋識(shí)別相關(guān)的API。

在2017年的安卓8.0中，除了此前使用的錯(cuò)誤接受率（FAR）和錯(cuò)誤拒絕率（FRR）這兩種度量外，谷歌在生物識(shí)別方面又引入了欺騙接受率（SAR）和偽裝接受率（IAR）。

通過(guò)分析這兩個(gè)維度的信息，可以更有效地識(shí)別出用戶所輸入的生物識(shí)別數(shù)據(jù)是否是攻擊者通過(guò)欺騙或偽裝攻擊進(jìn)行的未認(rèn)證訪問(wèn)。

到了2019年的安卓9.0時(shí)，谷歌再次對(duì)生物識(shí)別的認(rèn)證策略進(jìn)行了改進(jìn)。

在手機(jī)出廠之前，各大廠商和主流實(shí)驗(yàn)室都是會(huì)對(duì)手機(jī)進(jìn)行安全性測(cè)試的。但是存在一些問(wèn)題，譬如，測(cè)試效率比較低，試用的對(duì)抗樣本很可能不夠全面。

通過(guò)智能化的檢測(cè)，去識(shí)別技術(shù)本身是不是安全，這就為終端設(shè)備上的生物識(shí)別技術(shù)安裝了一道必經(jīng)的閘門(mén)。

谷歌是這樣做的。2020年，它找到了專(zhuān)攻智能設(shè)備生物核身技術(shù)安全性的螞蟻安全天璣實(shí)驗(yàn)室，合作了聯(lián)合檢測(cè)實(shí)驗(yàn)室。

憑借著十余年的生物安全攻防經(jīng)驗(yàn)，天璣實(shí)驗(yàn)室自研了一套智能設(shè)備自動(dòng)化生物安全檢測(cè)認(rèn)證體系，包含對(duì)抗樣本生成、對(duì)抗檢測(cè)環(huán)境空間、對(duì)抗測(cè)試標(biāo)準(zhǔn)，依托自動(dòng)化檢測(cè)執(zhí)行工具「機(jī)械臂」，可以在毫米級(jí)的測(cè)試精度下，為每臺(tái)智能設(shè)備提供超過(guò)20萬(wàn)次的測(cè)試。

期間，「機(jī)械臂」會(huì)在過(guò)程中自行調(diào)整測(cè)試變量，如光線、角度、假體材質(zhì)，以及攻擊方式等等，完全不需要人工進(jìn)行干預(yù)。

2021年4月，谷歌為這套檢測(cè)系統(tǒng)頒發(fā)了全球第一個(gè)，也是目前唯一一個(gè)官方合作的「安卓生物識(shí)別安全檢測(cè)」實(shí)驗(yàn)室的認(rèn)證。同時(shí)，這也是國(guó)內(nèi)第一個(gè)從攻擊視角切入的生物識(shí)別安全性檢測(cè)系統(tǒng)，全球70%的安卓手機(jī)出廠前都要通過(guò)這套系統(tǒng)的安全性檢測(cè)。

這樣一整套評(píng)估的實(shí)現(xiàn)，依托的是融合了智能安全技術(shù)、計(jì)算機(jī)視覺(jué)、機(jī)器人技術(shù)的「對(duì)抗智能」生物安全檢測(cè)技術(shù)。

以對(duì)面部識(shí)別技術(shù)的安全檢測(cè)為例，實(shí)驗(yàn)室定義了上百種不同級(jí)別的攻擊方法和假體制作工藝，比如生成活化視頻（基于一張平面照片，自動(dòng)化生成張嘴眨眼的動(dòng)態(tài)視頻），融合臉（將目標(biāo)的特征遷移到另一個(gè)人身上，讓算法識(shí)別但人類(lèi)誤判），老化臉（特征不變但人類(lèi)可以察覺(jué)的變化）等等檢測(cè)樣本。

在檢測(cè)過(guò)程中，「機(jī)械臂」不僅需要智能路徑規(guī)劃算法和深度視覺(jué)算法去尋找和定位目標(biāo)手機(jī)，還需要對(duì)機(jī)器人的高精度控制，通過(guò)引入強(qiáng)化學(xué)習(xí)算法及機(jī)器人技術(shù)等，可以讓系統(tǒng)根據(jù)實(shí)時(shí)檢測(cè)調(diào)整呈現(xiàn)距離、角度、光照強(qiáng)度、色溫等條件，在上億種可能快速找到成功率最高、最佳的呈現(xiàn)攻擊組條件。

在前段時(shí)間的云棲大會(huì)上，天璣實(shí)驗(yàn)室直接把最新的「機(jī)械臂」搬到了現(xiàn)場(chǎng)，給大家來(lái)了一波演示。

升級(jí)之后的生物識(shí)別安全測(cè)評(píng)體系，在高精度測(cè)評(píng)結(jié)果、智能對(duì)抗缺陷挖掘、全方位攻擊方式和全覆蓋測(cè)評(píng)場(chǎng)景等多個(gè)方面，都實(shí)現(xiàn)了「SOTA」的效果：

? 全鏈路測(cè)評(píng)：行業(yè)首個(gè)實(shí)現(xiàn)「模型魯棒性」、「防偽全面性」、「鏈路安全性」、「隱私合規(guī)性」的全鏈路測(cè)評(píng)。

? 對(duì)抗化檢測(cè)：引入人工智能攻防對(duì)抗技術(shù)，全面挖掘被測(cè)產(chǎn)品的漏洞與缺陷，實(shí)現(xiàn)缺陷不遺漏檢測(cè)。

? 自動(dòng)化檢測(cè)：通過(guò)「模型安全檢測(cè)平臺(tái)」、「智能機(jī)械臂」、「實(shí)驗(yàn)室大腦」和「無(wú)人運(yùn)測(cè)機(jī)器人」的結(jié)合，提高了檢測(cè)速度，并實(shí)現(xiàn)全鏈路測(cè)評(píng)的全自動(dòng)化。

這些不明覺(jué)厲的技術(shù)檢測(cè)，能夠讓手機(jī)廠商在產(chǎn)品發(fā)布之前，發(fā)現(xiàn)漏洞，從而為手機(jī)帶的生物識(shí)別技術(shù)加一道安全閘門(mén)。

對(duì)抗，是安全的本質(zhì)

說(shuō)了那么多，相信大家也可以看出來(lái)，網(wǎng)絡(luò)安全的本質(zhì)，就是對(duì)抗。

而一部安全發(fā)展史，其實(shí)就是對(duì)抗的進(jìn)階史。當(dāng)某個(gè)安全事件為人所知時(shí)，基本上意味著對(duì)抗失敗了。這一點(diǎn)在網(wǎng)絡(luò)攻防上，尤為顯著。

時(shí)間回到2017年，當(dāng)時(shí)「WannaCry」勒索病毒席卷全球。這也是第一次，大眾對(duì)網(wǎng)絡(luò)安全有了如此廣泛的認(rèn)知。

此后，2018年，平昌冬奧會(huì)遭到黑客攻擊；2020年，委內(nèi)瑞拉國(guó)家電網(wǎng)遭到黑客攻擊，全國(guó)大面積停電；2021年，Log4j日志框架被爆出嚴(yán)重漏洞，影響大量使用該日志框架的服務(wù)……各種類(lèi)似的事件從未間斷。

今年9月，國(guó)家計(jì)算機(jī)病毒應(yīng)急處理中心連發(fā)兩份「調(diào)查報(bào)告」，詳細(xì)解析了「西北工業(yè)大學(xué)遭美國(guó)NSA網(wǎng)絡(luò)攻擊事件」的始末。讓網(wǎng)絡(luò)安全這個(gè)概念，再一次「出圈」。

那么，這和我們有什么關(guān)系呢？

就拿WannaCry來(lái)說(shuō)吧，當(dāng)你的電腦中招之后，它便會(huì)利用「EnternalBlue」（永恒之藍(lán)）漏洞安裝后門(mén)。一旦執(zhí)行后門(mén)，就會(huì)釋放一個(gè)名為Wana Crypt0r敲詐者病毒，從而加密用戶機(jī)器上所有的文檔文件。然后，黑客會(huì)非常貼心地讓你的電腦彈出一個(gè)附有詳細(xì)講解的界面，還是多語(yǔ)言的。

簡(jiǎn)單來(lái)說(shuō)就是——給錢(qián)，不然就刪你文件。

沒(méi)想到，這么一番兜兜轉(zhuǎn)轉(zhuǎn)之后，還是回到了「錢(qián)」上。

同樣的，這些安全事件的本質(zhì)也在兜兜轉(zhuǎn)轉(zhuǎn)之后，來(lái)到了「漏洞」二字上。當(dāng)一個(gè)有漏洞的產(chǎn)品被大量部署在整個(gè)行業(yè)當(dāng)中時(shí)，沒(méi)有人能夠獨(dú)善其身。

既然問(wèn)題出現(xiàn)在「漏洞」上，那么又該如何對(duì)抗呢？于是，各大互聯(lián)網(wǎng)公司的安全實(shí)驗(yàn)室，便肩負(fù)起了提升生態(tài)安全水位的這個(gè)重任。

首先，我們可以在黑產(chǎn)得手之前，提前發(fā)現(xiàn)并處理掉這些漏洞，讓他們無(wú)洞可入。而這涉及到的技術(shù)，就是「漏洞挖掘」了。

以專(zhuān)注安全攻防研究的螞蟻安全天穹實(shí)驗(yàn)室和光年實(shí)驗(yàn)室舉例，為了提高效率他們自研了一套自動(dòng)化漏洞挖掘工具Ant-Fuzz，并在漏洞挖掘的數(shù)量和質(zhì)量上，實(shí)現(xiàn)了全球領(lǐng)先的水平。

「Ant-Fuzz對(duì)當(dāng)今主流的Fuzz方法體系進(jìn)行了吸收融合，在易用性和接入能力上面也有很大的改善」，天穹實(shí)驗(yàn)室和光年實(shí)驗(yàn)室負(fù)責(zé)人王嘉水介紹，在安全研究員篩選出一些可能的攻擊面的基礎(chǔ)上，Ant-Fuzz會(huì)針對(duì)特定攻擊面自動(dòng)化生成高質(zhì)量的Fuzz Driver，再通過(guò)定制化的種子以及變異算法的選取，來(lái)進(jìn)行高效漏洞挖掘。

基于此，在2020年，這兩個(gè)實(shí)驗(yàn)室僅用了三個(gè)季度的時(shí)間，就累計(jì)拿下蘋(píng)果47次漏洞致謝，位列當(dāng)年全球致謝數(shù)排行榜第一。在47次漏洞致謝中，包含了系統(tǒng)庫(kù)、瀏覽器、內(nèi)核等多個(gè)維度層面，幾乎都是高危漏洞，部分漏洞評(píng)分達(dá)到了「嚴(yán)重」級(jí)別。

在剛剛結(jié)束的GeekPwn 2022國(guó)際極客破解大賽上，天穹實(shí)驗(yàn)室還憑借自己挖掘的虛擬機(jī)產(chǎn)品漏洞，成功挑戰(zhàn)網(wǎng)安領(lǐng)域公認(rèn)的超高技術(shù)難度項(xiàng)目《越獄-逃出虛擬機(jī)》項(xiàng)目，獲評(píng)「年度極客榜冠軍」，以6.04分創(chuàng)該賽事歷年得分最高紀(jì)錄。此外，該隊(duì)伍還憑借另一參賽項(xiàng)目《特洛伊文檔》，獲評(píng)「年度卓越極客獎(jiǎng)」。

然而，并不是所有的漏洞都能被提前發(fā)現(xiàn)，那么這時(shí)就需要想辦法在盡可能短的時(shí)間內(nèi)完成封堵，從而減少可能產(chǎn)生的損失。比如去年臨近雙十二時(shí)爆出的Log4j，如果采用傳統(tǒng)的方式來(lái)進(jìn)行修復(fù)，由于需要在打完安全補(bǔ)丁之后進(jìn)行測(cè)試和灰度部署，通常需要數(shù)周的時(shí)間。

那么，如何在幾個(gè)小時(shí)之內(nèi)完成安全「止血」工作呢？

針對(duì)這一點(diǎn)，螞蟻集團(tuán)提出了一種全新安全防護(hù)體系「安全平行切面」。

這套體系的核心原理是，安全和應(yīng)用雖然在同一個(gè)執(zhí)行空間里，但同時(shí)又是平行解耦的。如此一來(lái)，安全組件便可以精細(xì)地看到業(yè)務(wù)每一個(gè)數(shù)據(jù)的流轉(zhuǎn)，從而精確地發(fā)現(xiàn)攻擊，并及時(shí)進(jìn)行安全管控。

從效果來(lái)看，螞蟻在雙十二時(shí)頂著來(lái)自國(guó)際的各種攻擊流量，完成了所有訂單交易，沒(méi)產(chǎn)生任何一起安全事故，或者運(yùn)營(yíng)事故。

由于「平行內(nèi)生型」安全架構(gòu)的部署并不復(fù)雜，對(duì)于那些有需要的企業(yè)來(lái)說(shuō)，是可以很快地讓自己具備能夠快速大規(guī)模部署的精準(zhǔn)的安全感知與干預(yù)能力。特別是，這套體系能夠?yàn)槔吓f應(yīng)用系統(tǒng)提供內(nèi)生安全能力，實(shí)現(xiàn)了安全攻防與治理領(lǐng)域能力與效率的跨越式提升。

此外，除了事前的漏洞挖掘，和事后的應(yīng)急處理以外，企業(yè)還需提升業(yè)務(wù)及技術(shù)架構(gòu)的風(fēng)險(xiǎn)應(yīng)對(duì)能力。

為此，螞蟻在2016年開(kāi)始，便探索并建立了「紅藍(lán)對(duì)抗」機(jī)制。

在對(duì)抗演習(xí)中，紅軍作為企業(yè)防守方，通過(guò)安全加固、攻擊監(jiān)測(cè)、應(yīng)急處置等手段來(lái)保障企業(yè)安全。而藍(lán)軍作為攻擊方，以發(fā)現(xiàn)安全漏洞，獲取業(yè)務(wù)權(quán)限或數(shù)據(jù)為目標(biāo)，利用各種攻擊手段，繞過(guò)紅軍層層防護(hù)。

與傳統(tǒng)滲透測(cè)試對(duì)比，紅藍(lán)對(duì)抗中的攻防對(duì)抗更加接近實(shí)戰(zhàn)，能較好地體現(xiàn)出企業(yè)面臨的真實(shí)威脅，也能更好地發(fā)現(xiàn)企業(yè)在安全正向建設(shè)中的不足。

舉例來(lái)說(shuō)，螞蟻天穹實(shí)驗(yàn)室，則會(huì)用實(shí)戰(zhàn)攻防演練，持續(xù)檢驗(yàn)紅軍安全防護(hù)、威脅檢測(cè)、風(fēng)控策略、應(yīng)急響應(yīng)機(jī)制等安全建設(shè)的有效性，預(yù)判黑產(chǎn)攻擊鏈路，減少系統(tǒng)性風(fēng)險(xiǎn)，推動(dòng)攻防兩端持續(xù)升級(jí)。

而百度智能云會(huì)以AI安全能力為核心，構(gòu)建攻防一體的完整演練體系。火山引擎云會(huì)利用最新的APT技術(shù)，并隱蔽攻擊行蹤來(lái)模擬不同級(jí)別的對(duì)手。順便提升一下「內(nèi)部員工」的安全意識(shí)，防止陷入騙局。

而這不僅僅是對(duì)企業(yè)內(nèi)部，對(duì)生態(tài)內(nèi)的其他伙伴，這些大廠的安全實(shí)驗(yàn)室也會(huì)提供同樣高水平的服務(wù)，通過(guò)全棧級(jí)別的大型技術(shù)攻防演練，從而達(dá)到增強(qiáng)團(tuán)隊(duì)?wèi)?yīng)急處理能力和系統(tǒng)防護(hù)水平的目的。

圖源：默安科技

總結(jié)來(lái)說(shuō)，不管是全鏈路檢測(cè)系統(tǒng)，還是挖掘其他廠商的漏洞，再或是聯(lián)合生態(tài)里的伙伴。其實(shí)都是各方基于攻防能力內(nèi)外協(xié)力，為提升整個(gè)產(chǎn)業(yè)的安全水位所做出的努力。

這一仗，互聯(lián)網(wǎng)大廠和他們打了18年

新智元報(bào)道

【新智元導(dǎo)讀】知道嗎？你的每一次點(diǎn)擊，背后都發(fā)生了一場(chǎng)「世界大戰(zhàn)」。