【行業(yè)資訊】解讀：歐盟委員會2021年《人工智能法》提案
正文共：5079字-7圖
預(yù)計閱讀時間：13分鐘
提案不僅對人工智能技術(shù)在諸如汽車自動駕駛、銀行貸款、社會信用評分等一系列日?；顒又械膽?yīng)用設(shè)定了限制，而且還對歐盟內(nèi)部的執(zhí)法系統(tǒng)和司法系統(tǒng)使用人工智能的情形提出了相應(yīng)的問題規(guī)制路徑。
值得注意的是，此次歐盟針對人工智能領(lǐng)域作出的關(guān)鍵立法，意味著對該領(lǐng)域的數(shù)字治理問題提出了新的要求，側(cè)面反映了人工智能技術(shù)的治理與發(fā)展應(yīng)當(dāng)在《通用數(shù)據(jù)保護條例》（GDPR）的有效監(jiān)管下進行，即按照與GDPR一致的方式進行統(tǒng)一部署。
總體而言，此份提案作為歐盟早前發(fā)布的《人工智能白皮書》中的前沿立法，其采用具體法律框架的形式與各成員國實施的協(xié)調(diào)計劃積極結(jié)合，以保障公眾和企業(yè)的隱私安全和基本權(quán)利為主要出發(fā)點，進一步明確了人工智能技術(shù)在不斷更新和發(fā)展的同時，應(yīng)當(dāng)滿足于當(dāng)前世界范圍內(nèi)對于符合社會基本價值觀與發(fā)展新興技術(shù)兩者間的平衡要求，從而使歐洲公眾能夠加強對人工智能技術(shù)所提供的產(chǎn)品和服務(wù)的信任。
在過去的十年里，人工智能技術(shù)經(jīng)歷了快速的發(fā)展。已經(jīng)獲得了堅實的科學(xué)基礎(chǔ)，并形成了許多成功的應(yīng)用模式，其為經(jīng)濟、社會和文化發(fā)展、能源可持續(xù)性、更好的醫(yī)療保健和知識傳播提供了豐富的機會。
但與此同時，這些機會伴隨著潛在的風(fēng)險，如失業(yè)、不平等、就業(yè)歧視、社會排斥、不知情的監(jiān)督和操縱等?？紤]到這些潛在風(fēng)險的存在，歐盟委員會自人工智能技術(shù)問世以來，持續(xù)促進和加強歐盟各地在人工智能技術(shù)方面的合作，在符合歐盟價值觀的背景下以提高其技術(shù)競爭力為主要目標(biāo)。
根據(jù)歐盟委員會的定義，人工智能技術(shù)是指采用官方所列明的一種或多種技術(shù)和方法開發(fā)的軟件，并且能夠針對特定人群或具體目標(biāo)產(chǎn)生諸如內(nèi)容、預(yù)測、建議或決定等一系列影響其交互環(huán)境的輸出技術(shù)。
關(guān)于人工智能技術(shù)在歐盟的發(fā)展現(xiàn)狀與前景，歐盟委員會數(shù)據(jù)執(zhí)行副主席Margrethe Vestager表示：
“在人工智能領(lǐng)域，公眾信任是必須存在的，而對其進行監(jiān)管和規(guī)制是建立這些信任的最佳方式。只有存在具有里程碑式的監(jiān)管規(guī)則，才能確保人工智能值得信任。歐盟對人工智能技術(shù)采取的規(guī)則將面向未來的創(chuàng)新與進步，并在歐盟公民的安全和基本權(quán)利受到威脅時進行干預(yù)。”
提案的總體目標(biāo)在于為全球范圍內(nèi)人工智能技術(shù)的應(yīng)用與發(fā)展制定詳細標(biāo)準(zhǔn)，及為符合道德和法律雙重標(biāo)準(zhǔn)的人工智能技術(shù)鋪平道路，并確保歐盟在此過程中保持技術(shù)競爭力，從而有效加強歐洲作為全球卓越人工智能中心的地位，使歐洲人工智能技術(shù)的發(fā)展符合歐盟的總體價值觀和規(guī)則。
關(guān)于提案的適用對象，其明確指出了幾類主體范圍，分別為
將人工智能系統(tǒng)投放市場或投入使用的供應(yīng)商 歐盟領(lǐng)域內(nèi)人工智能系統(tǒng)的使用者 位于第三國的人工智能系統(tǒng)的供應(yīng)商和使用者
基于歐盟意識到人工智能技術(shù)對歐洲價值觀和基本權(quán)利及原則的風(fēng)險的影響，提案對人工智能采取了考慮風(fēng)險但總體審慎的方法，將人工智能技術(shù)可能帶來的風(fēng)險劃分為四個層級：
▌不可接受的風(fēng)險
提案未對人工智能技術(shù)高風(fēng)險的具體含義進行說明，但將人工智能技術(shù)可能發(fā)生高風(fēng)險的覆蓋領(lǐng)域詳細歸納為：關(guān)鍵基礎(chǔ)設(shè)施、公民教育、產(chǎn)品的安全組件、公民就業(yè)、公共服務(wù)、涉權(quán)型執(zhí)法、出入境問題、司法和民主進程等八類。
此外，提案強調(diào)了所有遠程生物識別系統(tǒng)都應(yīng)被劃入高風(fēng)險的范圍。部分成員國業(yè)已出臺法律對該系統(tǒng)進行限制的，應(yīng)當(dāng)與此份提案所規(guī)定的內(nèi)容保持一致。
對于遠程生物識別系統(tǒng)的禁止情形，提案特別規(guī)定了相應(yīng)的豁免條款，即原則上禁止在公眾可進入的空間和場所內(nèi)使用遠程生物識別系統(tǒng)，但出于執(zhí)法目的的某些例外情況可經(jīng)司法或其他獨立機構(gòu)授權(quán)予以使用，如在非常緊急的情況下搜尋失蹤兒童，防止迫在眉睫的恐怖主義威脅，偵查、定位、識別或起訴嚴(yán)重刑事犯罪的犯罪嫌疑人等，但必須對在時間、地理范圍和搜索的數(shù)據(jù)庫方面進行適當(dāng)限制。
除此之外，提案還詳細規(guī)定了存在高風(fēng)險的人工智能技術(shù)在投放市場之前必須履行七種嚴(yán)格義務(wù)，而這些義務(wù)在人工智能系統(tǒng)投放市場或投入使用前以及在整個生命周期內(nèi)都要接受審查，具體包括：
完備的風(fēng)險評估系統(tǒng)； 向系統(tǒng)提供高質(zhì)量的數(shù)據(jù)集，以將風(fēng)險和歧視性結(jié)果降至最低； 記錄活動以確保結(jié)果的可追溯性； 提供有關(guān)系統(tǒng)及其目的的所有必要信息，以供當(dāng)局評估其合規(guī)性； 向用戶提供清晰、充分的信息； 采取適當(dāng)?shù)娜藶楸O(jiān)督措施，將風(fēng)險降至最低； 高水平的安全性和準(zhǔn)確性。
▌有限的風(fēng)險
在人工智能的治理主體方面，提案指出人工智能系統(tǒng)的設(shè)計和開發(fā)應(yīng)當(dāng)保證在使用過程中能夠受到公民的監(jiān)督，故其規(guī)定由國家主管市場監(jiān)督機構(gòu)監(jiān)督新規(guī)則，在未來可以建立一個歐洲人工智能委員會來促進新規(guī)則的實施和推動人工智能標(biāo)準(zhǔn)的制定，并由其來承擔(dān)各種復(fù)雜的任務(wù)，如協(xié)助國家主管市場監(jiān)督機構(gòu)來確保提案的一致適用、發(fā)布就人工智能技術(shù)發(fā)展的相關(guān)意見和建議、在成員國之間收集和分享最佳實踐等。
為此，提案還提出了鼓勵不屬于高風(fēng)險范圍的人工智能技術(shù)的提供者制定行為守則，促進自愿采納適用于高風(fēng)險人工智能技術(shù)的強制性要求，并提出了監(jiān)管沙盒模式以促進人工智能領(lǐng)域的創(chuàng)新。
在人工智能技術(shù)規(guī)制措施的執(zhí)行方面，提案規(guī)定由各成員國根據(jù)各國不同情況予以嚴(yán)格執(zhí)行。對于創(chuàng)建和應(yīng)用人工智能技術(shù)的公司或企業(yè)，提案規(guī)定了在八種高風(fēng)險領(lǐng)域范圍內(nèi)使用人工智能技術(shù)，將會有嚴(yán)格的防護機制，若企業(yè)違反規(guī)定將處以高達3000萬歐元的行政罰款或者其全球年度總營業(yè)額的2%至6%，取兩者之中較高金額進行處罰。
目前，提案已經(jīng)提交給歐洲議會和歐洲理事會進行進一步的審議和分析，若經(jīng)通過，將會在歐盟官方公報上公布二十天后生效，并將在生效后的兩年內(nèi)持續(xù)適用。鑒于人工智能技術(shù)涉及到大量的利益相關(guān)者，存在一定的爭議性，所以歐盟方認(rèn)為該提案具體落實于公民現(xiàn)實生活的過程仍然道阻且長。
人工智能的應(yīng)用程序在處理個人數(shù)據(jù)時，一方面?zhèn)€人數(shù)據(jù)有助于建立其算法模型，另一方面這些算法模型也可以應(yīng)用于個人數(shù)據(jù)，從而判斷有關(guān)特定個體的差異性。人工智能對個人數(shù)據(jù)產(chǎn)生了日益強烈的需要，而這種需要刺激了數(shù)據(jù)收集并促進了大量數(shù)據(jù)集的創(chuàng)建。
人工智能與大數(shù)據(jù)的融合可以為經(jīng)濟、科學(xué)和社會的進步帶來諸多好處，借助于人工智能，各種個人數(shù)據(jù)都可以用來分析、預(yù)測和影響人類行為，這是一個將這些數(shù)據(jù)及其處理結(jié)果轉(zhuǎn)化為有價值商品的機會。特別在許多情況下，自動化的預(yù)測和決策不僅成本更低，而且比人類的預(yù)測和決策更精確、更公正，因為人工智能系統(tǒng)可以避免人類心理的典型謬誤，并且可以受到嚴(yán)格的控制。
與保護個人數(shù)據(jù)的GDPR相聯(lián)系，歐盟委員會《人工智能法》提案規(guī)定的內(nèi)容意味著對人工智能技術(shù)在收集和掌握個人數(shù)據(jù)方面將會產(chǎn)生積極意義，從而有效作用于GDPR中個人數(shù)據(jù)的使用和保護。
盡管GDPR中沒有明確提到人工智能一詞，但GDPR中的許多條款與人工智能相關(guān)。有些條款確實受到人工智能技術(shù)所采用的新型個人數(shù)據(jù)處理方式的挑戰(zhàn)， 如GDPR允許開發(fā)人工智能和大數(shù)據(jù)應(yīng)用程序，成功地平衡數(shù)據(jù)保護和其他社會經(jīng)濟利益，但它對如何實現(xiàn)這一目標(biāo)僅提供了有限的指導(dǎo)。
作為歐盟范圍內(nèi)保護個人數(shù)據(jù)的重要條例，GDPR確實充斥著模糊的條款和開放的標(biāo)準(zhǔn)，而這些條款和標(biāo)準(zhǔn)的應(yīng)用往往需要平衡相互競爭的利益。在人工智能應(yīng)用中，技術(shù)的新穎性、復(fù)雜性以及其個人和社會影響的廣泛性加劇了不確定性。顯然，《人工智能法》提案的出臺將會在此方面予以明確和規(guī)制，從而有效保護人工智能使用和發(fā)展過程中個人數(shù)據(jù)的流通與收集。
此外，《人工智能法》提案特別規(guī)定了從事人工智能處理的控制者應(yīng)當(dāng)采取負(fù)責(zé)任和風(fēng)險導(dǎo)向的方法，同時鑒于問題的復(fù)雜性以及GDPR中存在的模糊性，不應(yīng)讓控制者單獨參與這項工作，力求在最大程度上與GDPR所倡導(dǎo)的價值觀相契合。此舉可以通過與現(xiàn)有技術(shù)和經(jīng)濟盈利能力相兼容的方式來實現(xiàn)，或者在公共當(dāng)局處理的情況下以可持續(xù)的方式來實現(xiàn)公共利益。
總之，隨著《人工智能法》提案的問世，歐盟各機構(gòu)仍可能會繼續(xù)促進對人工智能應(yīng)用的廣泛討論，并進一步提供高水平的指示。歐盟數(shù)據(jù)保護當(dāng)局需要積極參與和所有利益相關(guān)者的對話，包括人工智能系統(tǒng)的控制者、處理者和社會公民，以便根據(jù)共同的價值觀和有效的技術(shù)制定適當(dāng)?shù)膽?yīng)對措施。
當(dāng)GDPR所規(guī)定的數(shù)據(jù)保護原則的一致應(yīng)用與有效使用人工智能技術(shù)的能力相結(jié)合時，可以通過《人工智能法》提案所指出的產(chǎn)生信任和預(yù)防風(fēng)險的方式，為人工智能在未來的成功應(yīng)用做出貢獻。
就白皮書的總體框架而言，其提出利用人工智能技術(shù)來實現(xiàn)“單一數(shù)據(jù)市場”的愿景，希望將人工智能技術(shù)和產(chǎn)業(yè)優(yōu)勢、高質(zhì)量的數(shù)字基礎(chǔ)設(shè)施以及符合其基本價值觀的監(jiān)管相結(jié)合，以此成為數(shù)字經(jīng)濟及其應(yīng)用創(chuàng)新領(lǐng)域的全球領(lǐng)導(dǎo)者。
此外，白皮書就人工智能技術(shù)的重要戰(zhàn)略意義作出了高度評價，其指出人工智能技術(shù)的發(fā)展趨勢已不可阻擋，將會迎來新一輪數(shù)據(jù)浪潮機遇。不可否認(rèn)，當(dāng)前數(shù)字市場的演進十分迅速，在人工智能帶來大量好處的同時也意味著可能會對經(jīng)濟和社會造成不穩(wěn)定的影響，如導(dǎo)致勞動力剩余、個人信息失去控制、在線平臺加劇壟斷現(xiàn)象等，而僅僅依靠市場力量很難及時有效地處理上述這些問題。
為了在世界范圍內(nèi)的人工智能技術(shù)發(fā)展中取得領(lǐng)先地位，歐盟希望通過政策監(jiān)管與增加資金投入兩種措施促進人工智能發(fā)展并解決其帶來的風(fēng)險問題。顯而易見，《人工智能法》提案作為白皮書中政策監(jiān)管措施的積極踐行，體現(xiàn)了歐盟正在采取實際立法行動對人工智能技術(shù)的風(fēng)險予以規(guī)制。而在增加資金投入方面，白皮書也指出將在未來十年里，每年吸引兩百億歐元的投資。
申言之，此次《人工智能法》提案的出臺，標(biāo)志著歐盟正在積極為去年發(fā)布的《人工智能白皮書》建立具體的規(guī)制立法，從而取得監(jiān)管與限制人工智能技術(shù)所帶來的潛在風(fēng)險與不良影響的合法性基礎(chǔ)，并輔之以具體的執(zhí)行措施，以應(yīng)對未來在人工智能領(lǐng)域可能會層出不窮的風(fēng)險和問題。
此外，白皮書還曾指出為了應(yīng)對人工智能的挑戰(zhàn)，歐洲需要一個全面涵蓋商業(yè)和公共管理的戰(zhàn)略部署，除了為人工智能的發(fā)展創(chuàng)設(shè)有利環(huán)境外，還必須基于廣泛認(rèn)可的價值觀和原則來建立全球監(jiān)管規(guī)范和框架，以保證人工智能的發(fā)展以人為本。
值得注意的是，《人工智能法》提案重申了該內(nèi)容，即符合社會基本價值觀與發(fā)展新興技術(shù)兩者之間應(yīng)當(dāng)取得有效平衡，并進一步規(guī)定了諸多措施和辦法力圖使人工智能技術(shù)的不良影響降至最低。
總而言之，《人工智能法》提案的出臺，是《人工智能白皮書》實施計劃中的重要一環(huán)，預(yù)示著歐盟已經(jīng)開始針對人工智能領(lǐng)域的規(guī)制和監(jiān)管采取了積極的立法措施，并在《人工智能白皮書》的引導(dǎo)和指示下不斷增強對潛在風(fēng)險的預(yù)警和處理，積極明確提案的規(guī)制對象與規(guī)制范圍。
可以預(yù)見，未來歐盟將會持續(xù)加大對人工智能技術(shù)的投資，并會嚴(yán)格按照《人工智能法》與《人工智能白皮書》所規(guī)定的內(nèi)容進行嚴(yán)格的規(guī)制和監(jiān)管，使人工智能技術(shù)在符合歐洲基本價值觀的前提下進一步加強其技術(shù)研究與應(yīng)用實踐。
評論
圖片
表情