最新解讀:歐盟委員會(huì)2021年《人工智能法》提案

北京師范大學(xué)網(wǎng)絡(luò)法治國(guó)際中心執(zhí)行主任、博導(dǎo)

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任

胡然

北京師范大學(xué)網(wǎng)絡(luò)法治國(guó)際中心研究助理

2021年4月21日，為了將歐洲變成值得全球信賴的人工智能中心，加強(qiáng)整個(gè)歐盟范圍內(nèi)對(duì)于人工智能的使用、投資和創(chuàng)新，歐盟委員會(huì)通過(guò)了《人工智能法》提案，旨在建立關(guān)于人工智能技術(shù)的統(tǒng)一規(guī)則。

提案不僅對(duì)人工智能技術(shù)在諸如汽車自動(dòng)駕駛、銀行貸款、社會(huì)信用評(píng)分等一系列日?；顒?dòng)中的應(yīng)用設(shè)定了限制，而且還對(duì)歐盟內(nèi)部的執(zhí)法系統(tǒng)和司法系統(tǒng)使用人工智能的情形提出了相應(yīng)的問題規(guī)制路徑。

值得注意的是，此次歐盟針對(duì)人工智能領(lǐng)域作出的關(guān)鍵立法，意味著對(duì)該領(lǐng)域的數(shù)字治理問題提出了新的要求，側(cè)面反映了人工智能技術(shù)的治理與發(fā)展應(yīng)當(dāng)在《通用數(shù)據(jù)保護(hù)條例》（GDPR）的有效監(jiān)管下進(jìn)行，即按照與GDPR一致的方式進(jìn)行統(tǒng)一部署。

總體而言，此份提案作為歐盟早前發(fā)布的《人工智能白皮書》中的前沿立法，其采用具體法律框架的形式與各成員國(guó)實(shí)施的協(xié)調(diào)計(jì)劃積極結(jié)合，以保障公眾和企業(yè)的隱私安全和基本權(quán)利為主要出發(fā)點(diǎn)，進(jìn)一步明確了人工智能技術(shù)在不斷更新和發(fā)展的同時(shí)，應(yīng)當(dāng)滿足于當(dāng)前世界范圍內(nèi)對(duì)于符合社會(huì)基本價(jià)值觀與發(fā)展新興技術(shù)兩者間的平衡要求，從而使歐洲公眾能夠加強(qiáng)對(duì)人工智能技術(shù)所提供的產(chǎn)品和服務(wù)的信任。

01

歐盟委員會(huì)《人工智能法》提案的出臺(tái)背景與制度設(shè)計(jì)

在過(guò)去的十年里，人工智能技術(shù)經(jīng)歷了快速的發(fā)展。已經(jīng)獲得了堅(jiān)實(shí)的科學(xué)基礎(chǔ)，并形成了許多成功的應(yīng)用模式，其為經(jīng)濟(jì)、社會(huì)和文化發(fā)展、能源可持續(xù)性、更好的醫(yī)療保健和知識(shí)傳播提供了豐富的機(jī)會(huì)。

但與此同時(shí)，這些機(jī)會(huì)伴隨著潛在的風(fēng)險(xiǎn)，如失業(yè)、不平等、就業(yè)歧視、社會(huì)排斥、不知情的監(jiān)督和操縱等?？紤]到這些潛在風(fēng)險(xiǎn)的存在，歐盟委員會(huì)自人工智能技術(shù)問世以來(lái)，持續(xù)促進(jìn)和加強(qiáng)歐盟各地在人工智能技術(shù)方面的合作，在符合歐盟價(jià)值觀的背景下以提高其技術(shù)競(jìng)爭(zhēng)力為主要目標(biāo)。

根據(jù)歐盟委員會(huì)的定義，人工智能技術(shù)是指采用官方所列明的一種或多種技術(shù)和方法開發(fā)的軟件，并且能夠針對(duì)特定人群或具體目標(biāo)產(chǎn)生諸如內(nèi)容、預(yù)測(cè)、建議或決定等一系列影響其交互環(huán)境的輸出技術(shù)。

關(guān)于人工智能技術(shù)在歐盟的發(fā)展現(xiàn)狀與前景，歐盟委員會(huì)數(shù)據(jù)執(zhí)行副主席Margrethe Vestager表示：

“在人工智能領(lǐng)域，公眾信任是必須存在的，而對(duì)其進(jìn)行監(jiān)管和規(guī)制是建立這些信任的最佳方式。只有存在具有里程碑式的監(jiān)管規(guī)則，才能確保人工智能值得信任。歐盟對(duì)人工智能技術(shù)采取的規(guī)則將面向未來(lái)的創(chuàng)新與進(jìn)步，并在歐盟公民的安全和基本權(quán)利受到威脅時(shí)進(jìn)行干預(yù)?！?/blockquote>

基于此種觀點(diǎn)，《人工智能法》提案應(yīng)運(yùn)而生，鮮明體現(xiàn)了歐盟在人工智能領(lǐng)域積極引領(lǐng)制定新的全球規(guī)范的意圖。

提案的總體目標(biāo)在于為全球范圍內(nèi)人工智能技術(shù)的應(yīng)用與發(fā)展制定詳細(xì)標(biāo)準(zhǔn)，及為符合道德和法律雙重標(biāo)準(zhǔn)的人工智能技術(shù)鋪平道路，并確保歐盟在此過(guò)程中保持技術(shù)競(jìng)爭(zhēng)力，從而有效加強(qiáng)歐洲作為全球卓越人工智能中心的地位，使歐洲人工智能技術(shù)的發(fā)展符合歐盟的總體價(jià)值觀和規(guī)則。

關(guān)于提案的適用對(duì)象，其明確指出了幾類主體范圍，分別為

• 將人工智能系統(tǒng)投放市場(chǎng)或投入使用的供應(yīng)商

• 歐盟領(lǐng)域內(nèi)人工智能系統(tǒng)的使用者

• 位于第三國(guó)的人工智能系統(tǒng)的供應(yīng)商和使用者

基于歐盟意識(shí)到人工智能技術(shù)對(duì)歐洲價(jià)值觀和基本權(quán)利及原則的風(fēng)險(xiǎn)的影響，提案對(duì)人工智能采取了考慮風(fēng)險(xiǎn)但總體審慎的方法，將人工智能技術(shù)可能帶來(lái)的風(fēng)險(xiǎn)劃分為四個(gè)層級(jí)：

▌不可接受的風(fēng)險(xiǎn)

此類風(fēng)險(xiǎn)被歐盟認(rèn)為將會(huì)對(duì)公民的安全、日常生活和基本權(quán)利構(gòu)成明顯威脅，故予以明令禁止，如操縱人類行為來(lái)規(guī)避用戶的自由意愿的人工智能技術(shù)或應(yīng)用程序，最典型的例子為使用智能語(yǔ)音輔助的玩具來(lái)鼓勵(lì)未成年人從事危險(xiǎn)行為。

▌高風(fēng)險(xiǎn)

提案未對(duì)人工智能技術(shù)高風(fēng)險(xiǎn)的具體含義進(jìn)行說(shuō)明，但將人工智能技術(shù)可能發(fā)生高風(fēng)險(xiǎn)的覆蓋領(lǐng)域詳細(xì)歸納為：關(guān)鍵基礎(chǔ)設(shè)施、公民教育、產(chǎn)品的安全組件、公民就業(yè)、公共服務(wù)、涉權(quán)型執(zhí)法、出入境問題、司法和民主進(jìn)程等八類。

此外，提案強(qiáng)調(diào)了所有遠(yuǎn)程生物識(shí)別系統(tǒng)都應(yīng)被劃入高風(fēng)險(xiǎn)的范圍。部分成員國(guó)業(yè)已出臺(tái)法律對(duì)該系統(tǒng)進(jìn)行限制的，應(yīng)當(dāng)與此份提案所規(guī)定的內(nèi)容保持一致。

對(duì)于遠(yuǎn)程生物識(shí)別系統(tǒng)的禁止情形，提案特別規(guī)定了相應(yīng)的豁免條款，即原則上禁止在公眾可進(jìn)入的空間和場(chǎng)所內(nèi)使用遠(yuǎn)程生物識(shí)別系統(tǒng)，但出于執(zhí)法目的的某些例外情況可經(jīng)司法或其他獨(dú)立機(jī)構(gòu)授權(quán)予以使用，如在非常緊急的情況下搜尋失蹤兒童，防止迫在眉睫的恐怖主義威脅，偵查、定位、識(shí)別或起訴嚴(yán)重刑事犯罪的犯罪嫌疑人等，但必須對(duì)在時(shí)間、地理范圍和搜索的數(shù)據(jù)庫(kù)方面進(jìn)行適當(dāng)限制。

除此之外，提案還詳細(xì)規(guī)定了存在高風(fēng)險(xiǎn)的人工智能技術(shù)在投放市場(chǎng)之前必須履行七種嚴(yán)格義務(wù)，而這些義務(wù)在人工智能系統(tǒng)投放市場(chǎng)或投入使用前以及在整個(gè)生命周期內(nèi)都要接受審查，具體包括：

• 完備的風(fēng)險(xiǎn)評(píng)估系統(tǒng)；

• 向系統(tǒng)提供高質(zhì)量的數(shù)據(jù)集，以將風(fēng)險(xiǎn)和歧視性結(jié)果降至最低；

• 記錄活動(dòng)以確保結(jié)果的可追溯性；

• 提供有關(guān)系統(tǒng)及其目的的所有必要信息，以供當(dāng)局評(píng)估其合規(guī)性；

• 向用戶提供清晰、充分的信息；

• 采取適當(dāng)?shù)娜藶楸O(jiān)督措施，將風(fēng)險(xiǎn)降至最低；

• 高水平的安全性和準(zhǔn)確性。

▌?dòng)邢薜娘L(fēng)險(xiǎn)

此類風(fēng)險(xiǎn)具體指包含特定透明度義務(wù)的人工智能系統(tǒng)。因特定透明度義務(wù)的存在，故當(dāng)用戶使用人工智能系統(tǒng)時(shí)，能夠意識(shí)到其本身正在與人工智能系統(tǒng)進(jìn)行交互，即在用戶知情的情況下提供給用戶方?jīng)Q定繼續(xù)運(yùn)行或中止的權(quán)利。

▌極小的風(fēng)險(xiǎn)

如提案允許免費(fèi)使用人工智能視頻游戲或垃圾郵件過(guò)濾器等應(yīng)用程序等。絕大多數(shù)人工智能系統(tǒng)都屬于此類風(fēng)險(xiǎn)。值得一提的是，歐盟認(rèn)為這些人工智能系統(tǒng)對(duì)公民的權(quán)利或安全產(chǎn)生的風(fēng)險(xiǎn)極小，甚至無(wú)法產(chǎn)生風(fēng)險(xiǎn)，故提案并未對(duì)極小的風(fēng)險(xiǎn)進(jìn)行干預(yù)。

在人工智能的治理主體方面，提案指出人工智能系統(tǒng)的設(shè)計(jì)和開發(fā)應(yīng)當(dāng)保證在使用過(guò)程中能夠受到公民的監(jiān)督，故其規(guī)定由國(guó)家主管市場(chǎng)監(jiān)督機(jī)構(gòu)監(jiān)督新規(guī)則，在未來(lái)可以建立一個(gè)歐洲人工智能委員會(huì)來(lái)促進(jìn)新規(guī)則的實(shí)施和推動(dòng)人工智能標(biāo)準(zhǔn)的制定，并由其來(lái)承擔(dān)各種復(fù)雜的任務(wù)，如協(xié)助國(guó)家主管市場(chǎng)監(jiān)督機(jī)構(gòu)來(lái)確保提案的一致適用、發(fā)布就人工智能技術(shù)發(fā)展的相關(guān)意見和建議、在成員國(guó)之間收集和分享最佳實(shí)踐等。

為此，提案還提出了鼓勵(lì)不屬于高風(fēng)險(xiǎn)范圍的人工智能技術(shù)的提供者制定行為守則，促進(jìn)自愿采納適用于高風(fēng)險(xiǎn)人工智能技術(shù)的強(qiáng)制性要求，并提出了監(jiān)管沙盒模式以促進(jìn)人工智能領(lǐng)域的創(chuàng)新。

在人工智能技術(shù)規(guī)制措施的執(zhí)行方面，提案規(guī)定由各成員國(guó)根據(jù)各國(guó)不同情況予以嚴(yán)格執(zhí)行。對(duì)于創(chuàng)建和應(yīng)用人工智能技術(shù)的公司或企業(yè)，提案規(guī)定了在八種高風(fēng)險(xiǎn)領(lǐng)域范圍內(nèi)使用人工智能技術(shù)，將會(huì)有嚴(yán)格的防護(hù)機(jī)制，若企業(yè)違反規(guī)定將處以高達(dá)3000萬(wàn)歐元的行政罰款或者其全球年度總營(yíng)業(yè)額的2%至6%，取兩者之中較高金額進(jìn)行處罰。

目前，提案已經(jīng)提交給歐洲議會(huì)和歐洲理事會(huì)進(jìn)行進(jìn)一步的審議和分析，若經(jīng)通過(guò)，將會(huì)在歐盟官方公報(bào)上公布二十天后生效，并將在生效后的兩年內(nèi)持續(xù)適用。鑒于人工智能技術(shù)涉及到大量的利益相關(guān)者，存在一定的爭(zhēng)議性，所以歐盟方認(rèn)為該提案具體落實(shí)于公民現(xiàn)實(shí)生活的過(guò)程仍然道阻且長(zhǎng)。

02

歐盟委員會(huì)《人工智能法》提案與《通用數(shù)據(jù)保護(hù)條例》（GDPR）

眾所周知，人工智能技術(shù)與個(gè)人數(shù)據(jù)長(zhǎng)期保持著較為緊密的聯(lián)系。

人工智能的應(yīng)用程序在處理個(gè)人數(shù)據(jù)時(shí)，一方面?zhèn)€人數(shù)據(jù)有助于建立其算法模型，另一方面這些算法模型也可以應(yīng)用于個(gè)人數(shù)據(jù)，從而判斷有關(guān)特定個(gè)體的差異性。人工智能對(duì)個(gè)人數(shù)據(jù)產(chǎn)生了日益強(qiáng)烈的需要，而這種需要刺激了數(shù)據(jù)收集并促進(jìn)了大量數(shù)據(jù)集的創(chuàng)建。

人工智能與大數(shù)據(jù)的融合可以為經(jīng)濟(jì)、科學(xué)和社會(huì)的進(jìn)步帶來(lái)諸多好處，借助于人工智能，各種個(gè)人數(shù)據(jù)都可以用來(lái)分析、預(yù)測(cè)和影響人類行為，這是一個(gè)將這些數(shù)據(jù)及其處理結(jié)果轉(zhuǎn)化為有價(jià)值商品的機(jī)會(huì)。特別在許多情況下，自動(dòng)化的預(yù)測(cè)和決策不僅成本更低，而且比人類的預(yù)測(cè)和決策更精確、更公正，因?yàn)槿斯ぶ悄芟到y(tǒng)可以避免人類心理的典型謬誤，并且可以受到嚴(yán)格的控制。

與保護(hù)個(gè)人數(shù)據(jù)的GDPR相聯(lián)系，歐盟委員會(huì)《人工智能法》提案規(guī)定的內(nèi)容意味著對(duì)人工智能技術(shù)在收集和掌握個(gè)人數(shù)據(jù)方面將會(huì)產(chǎn)生積極意義，從而有效作用于GDPR中個(gè)人數(shù)據(jù)的使用和保護(hù)。

盡管GDPR中沒有明確提到人工智能一詞，但GDPR中的許多條款與人工智能相關(guān)。有些條款確實(shí)受到人工智能技術(shù)所采用的新型個(gè)人數(shù)據(jù)處理方式的挑戰(zhàn)， 如GDPR允許開發(fā)人工智能和大數(shù)據(jù)應(yīng)用程序，成功地平衡數(shù)據(jù)保護(hù)和其他社會(huì)經(jīng)濟(jì)利益，但它對(duì)如何實(shí)現(xiàn)這一目標(biāo)僅提供了有限的指導(dǎo)。

作為歐盟范圍內(nèi)保護(hù)個(gè)人數(shù)據(jù)的重要條例，GDPR確實(shí)充斥著模糊的條款和開放的標(biāo)準(zhǔn)，而這些條款和標(biāo)準(zhǔn)的應(yīng)用往往需要平衡相互競(jìng)爭(zhēng)的利益。在人工智能應(yīng)用中，技術(shù)的新穎性、復(fù)雜性以及其個(gè)人和社會(huì)影響的廣泛性加劇了不確定性。顯然，《人工智能法》提案的出臺(tái)將會(huì)在此方面予以明確和規(guī)制，從而有效保護(hù)人工智能使用和發(fā)展過(guò)程中個(gè)人數(shù)據(jù)的流通與收集。

此外，《人工智能法》提案特別規(guī)定了從事人工智能處理的控制者應(yīng)當(dāng)采取負(fù)責(zé)任和風(fēng)險(xiǎn)導(dǎo)向的方法，同時(shí)鑒于問題的復(fù)雜性以及GDPR中存在的模糊性，不應(yīng)讓控制者單獨(dú)參與這項(xiàng)工作，力求在最大程度上與GDPR所倡導(dǎo)的價(jià)值觀相契合。此舉可以通過(guò)與現(xiàn)有技術(shù)和經(jīng)濟(jì)盈利能力相兼容的方式來(lái)實(shí)現(xiàn)，或者在公共當(dāng)局處理的情況下以可持續(xù)的方式來(lái)實(shí)現(xiàn)公共利益。

總之，隨著《人工智能法》提案的問世，歐盟各機(jī)構(gòu)仍可能會(huì)繼續(xù)促進(jìn)對(duì)人工智能應(yīng)用的廣泛討論，并進(jìn)一步提供高水平的指示。歐盟數(shù)據(jù)保護(hù)當(dāng)局需要積極參與和所有利益相關(guān)者的對(duì)話，包括人工智能系統(tǒng)的控制者、處理者和社會(huì)公民，以便根據(jù)共同的價(jià)值觀和有效的技術(shù)制定適當(dāng)?shù)膽?yīng)對(duì)措施。

當(dāng)GDPR所規(guī)定的數(shù)據(jù)保護(hù)原則的一致應(yīng)用與有效使用人工智能技術(shù)的能力相結(jié)合時(shí)，可以通過(guò)《人工智能法》提案所指出的產(chǎn)生信任和預(yù)防風(fēng)險(xiǎn)的方式，為人工智能在未來(lái)的成功應(yīng)用做出貢獻(xiàn)。

03

歐盟委員會(huì)《人工智能法》提案與《人工智能白皮書》

2020年2月19日，歐盟委員會(huì)發(fā)布了《人工智能白皮書》，旨在通過(guò)提升歐洲在人工智能領(lǐng)域的創(chuàng)新能力，防范和處理人工智能技術(shù)帶來(lái)的各類風(fēng)險(xiǎn)，從而推動(dòng)道德和可信賴人工智能的發(fā)展。

就白皮書的總體框架而言，其提出利用人工智能技術(shù)來(lái)實(shí)現(xiàn)“單一數(shù)據(jù)市場(chǎng)”的愿景，希望將人工智能技術(shù)和產(chǎn)業(yè)優(yōu)勢(shì)、高質(zhì)量的數(shù)字基礎(chǔ)設(shè)施以及符合其基本價(jià)值觀的監(jiān)管相結(jié)合，以此成為數(shù)字經(jīng)濟(jì)及其應(yīng)用創(chuàng)新領(lǐng)域的全球領(lǐng)導(dǎo)者。

此外，白皮書就人工智能技術(shù)的重要戰(zhàn)略意義作出了高度評(píng)價(jià)，其指出人工智能技術(shù)的發(fā)展趨勢(shì)已不可阻擋，將會(huì)迎來(lái)新一輪數(shù)據(jù)浪潮機(jī)遇。不可否認(rèn)，當(dāng)前數(shù)字市場(chǎng)的演進(jìn)十分迅速，在人工智能帶來(lái)大量好處的同時(shí)也意味著可能會(huì)對(duì)經(jīng)濟(jì)和社會(huì)造成不穩(wěn)定的影響，如導(dǎo)致勞動(dòng)力剩余、個(gè)人信息失去控制、在線平臺(tái)加劇壟斷現(xiàn)象等，而僅僅依靠市場(chǎng)力量很難及時(shí)有效地處理上述這些問題。

為了在世界范圍內(nèi)的人工智能技術(shù)發(fā)展中取得領(lǐng)先地位，歐盟希望通過(guò)政策監(jiān)管與增加資金投入兩種措施促進(jìn)人工智能發(fā)展并解決其帶來(lái)的風(fēng)險(xiǎn)問題。顯而易見，《人工智能法》提案作為白皮書中政策監(jiān)管措施的積極踐行，體現(xiàn)了歐盟正在采取實(shí)際立法行動(dòng)對(duì)人工智能技術(shù)的風(fēng)險(xiǎn)予以規(guī)制。而在增加資金投入方面，白皮書也指出將在未來(lái)十年里，每年吸引兩百億歐元的投資。

申言之，此次《人工智能法》提案的出臺(tái)，標(biāo)志著歐盟正在積極為去年發(fā)布的《人工智能白皮書》建立具體的規(guī)制立法，從而取得監(jiān)管與限制人工智能技術(shù)所帶來(lái)的潛在風(fēng)險(xiǎn)與不良影響的合法性基礎(chǔ)，并輔之以具體的執(zhí)行措施，以應(yīng)對(duì)未來(lái)在人工智能領(lǐng)域可能會(huì)層出不窮的風(fēng)險(xiǎn)和問題。

此外，白皮書還曾指出為了應(yīng)對(duì)人工智能的挑戰(zhàn)，歐洲需要一個(gè)全面涵蓋商業(yè)和公共管理的戰(zhàn)略部署，除了為人工智能的發(fā)展創(chuàng)設(shè)有利環(huán)境外，還必須基于廣泛認(rèn)可的價(jià)值觀和原則來(lái)建立全球監(jiān)管規(guī)范和框架，以保證人工智能的發(fā)展以人為本。

值得注意的是，《人工智能法》提案重申了該內(nèi)容，即符合社會(huì)基本價(jià)值觀與發(fā)展新興技術(shù)兩者之間應(yīng)當(dāng)取得有效平衡，并進(jìn)一步規(guī)定了諸多措施和辦法力圖使人工智能技術(shù)的不良影響降至最低。

總而言之，《人工智能法》提案的出臺(tái)，是《人工智能白皮書》實(shí)施計(jì)劃中的重要一環(huán)，預(yù)示著歐盟已經(jīng)開始針對(duì)人工智能領(lǐng)域的規(guī)制和監(jiān)管采取了積極的立法措施，并在《人工智能白皮書》的引導(dǎo)和指示下不斷增強(qiáng)對(duì)潛在風(fēng)險(xiǎn)的預(yù)警和處理，積極明確提案的規(guī)制對(duì)象與規(guī)制范圍。

可以預(yù)見，未來(lái)歐盟將會(huì)持續(xù)加大對(duì)人工智能技術(shù)的投資，并會(huì)嚴(yán)格按照《人工智能法》與《人工智能白皮書》所規(guī)定的內(nèi)容進(jìn)行嚴(yán)格的規(guī)制和監(jiān)管，使人工智能技術(shù)在符合歐洲基本價(jià)值觀的前提下進(jìn)一步加強(qiáng)其技術(shù)研究與應(yīng)用實(shí)踐。

-------------??往期回顧??-------------

喜歡本文？快點(diǎn)亮右下角“在看”