【行業(yè)資訊】2021年度全球十大人工智能治理事件及趨勢前瞻

正文共：6221-6圖

預(yù)計閱讀時間：16分鐘

2021年度全球十大人工智能治理事件

①?強化數(shù)據(jù)安全，相關(guān)法律法規(guī)陸續(xù)發(fā)布

②?歐盟發(fā)布針對人工智能技術(shù)的監(jiān)管法規(guī)草案，呼吁禁止公共場所人臉識別

③?國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》

④?聯(lián)合國發(fā)布全球性人工智能倫理及治理規(guī)范

⑤?強化算法綜合治理，防范算法濫用風(fēng)險，用戶可選擇關(guān)閉算法推薦

⑥?自動駕駛汽車2021年或在英國合法化

⑦?美國新提案將賦予社交媒體用戶禁用算法的權(quán)利

⑧?AI增進人類福祉新方向：AI干預(yù)自殺、AI手語主播、AI氣候預(yù)測

⑨?人腦芯片或2022年使用，癱瘓者迎來希望

⑩?人臉識別第一案在浙江省杭州市中級人民法院迎來終審宣判

人工智能治理邁向新階段新格局

——2021年度全球十大人工智能治理事件及趨勢前瞻

人民智庫與曠視AI治理研究院 聯(lián)合課題組

當(dāng)前，新一代人工智能技術(shù)在全球蓬勃興起，正推動經(jīng)濟社會各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍升。伴隨著人工智能新理論新技術(shù)飛速發(fā)展，人工智能治理標志性事件在世界范圍內(nèi)層出不窮。對國際國內(nèi)人工智能治理標志性事件開展系統(tǒng)研究，有助于規(guī)律性認識人工智能未來發(fā)展趨勢，有助于深層次把握革命性技術(shù)對勞動就業(yè)、社會倫理、個人隱私帶來的風(fēng)險與沖擊，有助于綜合性了解各國政府、學(xué)術(shù)機構(gòu)、社會組織、企業(yè)主體等社會各層面、各領(lǐng)域為確保人工智能安全、可靠、可控、可持續(xù)發(fā)展做出的努力，進而以更積極的態(tài)度研判大勢、把握機遇、引領(lǐng)潮流，推動人工智能服務(wù)經(jīng)濟社會發(fā)展和民生福祉改善。

為此，人民智庫與曠視AI治理研究院第二次成立聯(lián)合課題組，并邀請中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）作為課題支持單位，組織相關(guān)領(lǐng)域權(quán)威專家學(xué)者和企業(yè)代表，以《新一代人工智能倫理規(guī)范》中提到的六條原則（人類福祉、公平公正、隱私安全、可控可信、責(zé)任擔(dān)當(dāng)、倫理素養(yǎng)）為遵循，依據(jù)理論價值、實踐價值、新聞價值、研究價值等四個評價標準共同開展“2021年度全球十大人工智能治理事件”（以下簡稱“十大事件”）遴選、評議，并對國家相關(guān)部委、行業(yè)協(xié)會領(lǐng)導(dǎo)，高校院所專家學(xué)者以及人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者等典型群體進行深入訪談。綜合各方面資料、數(shù)據(jù)、意見、觀點，最終得出2021年度全球十大人工智能治理事件和事件背后的發(fā)展趨勢。

十大事件三年考：

重點化、國際化、法治化

縱觀2019年至2021年的全球十大人工智能治理事件，可以看出社會各界對AI治理領(lǐng)域高度關(guān)注的若干條脈絡(luò)線：

一是人工智能治理的重點領(lǐng)域日漸明晰。基于當(dāng)前人工智能技術(shù)發(fā)展階段和經(jīng)濟社會生活現(xiàn)實，人臉識別、輔助駕駛、算法推薦作為人工智能應(yīng)用較廣泛、發(fā)展較迅速、現(xiàn)實意義強、問題矛盾也相對集中的三大重點領(lǐng)域，其輪廓日趨清晰，國際國內(nèi)人工智能治理的重點和規(guī)則規(guī)范制定出臺也日趨向這三個領(lǐng)域及相關(guān)應(yīng)用場景集中。

二是人工智能治理領(lǐng)域的國際合作日趨密切。隨著人工智能技術(shù)迅猛發(fā)展和世界經(jīng)濟格局迅速演變，各國普遍認識到，人工智能的有效治理是全球性、全局性議題，沒有一個區(qū)域、國家可以成為“孤島”，也很難在缺乏有效國際共識、協(xié)作機制的前提下真正實現(xiàn)人工智能領(lǐng)域的善治。尤其是推動人工智能技術(shù)發(fā)展和應(yīng)用的三大主要經(jīng)濟體——中國、美國、歐盟，在搶占技術(shù)制高點競爭日趨激烈的同時，政府、企業(yè)和相關(guān)社會組織、行業(yè)組織之間也逐步加強了對話與合作，聯(lián)合國也在國際人工智能治理規(guī)則制定等方面發(fā)揮日趨重要的作用。

三是人工智能治理領(lǐng)域的法治化程度逐步提升。中美歐普遍高度重視人工智能領(lǐng)域立法，逐步實現(xiàn)了人工智能重點領(lǐng)域“有法可依”，重要應(yīng)用場景均有法律法規(guī)和相關(guān)規(guī)則予以規(guī)范，為人工智能技術(shù)的可持續(xù)健康發(fā)展奠定了良好法治基礎(chǔ)。與此相應(yīng)，相關(guān)領(lǐng)域司法實踐日趨走向成熟、穩(wěn)定、可預(yù)期，成為人工智能治理領(lǐng)域重要“善治”基石。

四是人工智能治理領(lǐng)域的意識形態(tài)風(fēng)險挑戰(zhàn)日益成為焦點。世界百年未有之大變局下，大國競爭博弈日趨激烈，人工智能等前沿科技領(lǐng)域競爭也趨于白熱化。算法推薦、機器人賬號、社交媒體精準推送等日趨成為人工智能應(yīng)用熱點，個人信息乃至經(jīng)濟社會信息、地理信息安全等問題備受關(guān)注，這些都與意識形態(tài)領(lǐng)域安全乃至國家戰(zhàn)略安全息息相關(guān)，人工智能治理領(lǐng)域的競爭與國際話語權(quán)競爭的聯(lián)系日趨緊密，“元宇宙”等新的應(yīng)用場景還將繼續(xù)加速這一進程。

開啟算法治理元年

建構(gòu)平衡包容的治理體系

人工智能產(chǎn)業(yè)作為經(jīng)濟體量巨大的新興產(chǎn)業(yè)，其算法對網(wǎng)絡(luò)生態(tài)的發(fā)展亦產(chǎn)生了深刻影響。人工智能算法在降低公眾篩選有效信息時間成本的同時，也擴大了網(wǎng)絡(luò)生態(tài)失衡、失真的風(fēng)險。在本次調(diào)查中，涉及算法治理的事件得到了專家和公眾的廣泛關(guān)注。國內(nèi)主要事件為“九部委發(fā)文：防止利用算法干擾社會輿論等行為”“國家網(wǎng)信辦擬規(guī)定不得利用算法控制熱搜，用戶可選擇關(guān)閉算法推薦”。國際方面為“美國新提案將賦予社交媒體用戶禁用算法的權(quán)利”。清華大學(xué)人工智能國際治理研究院名譽院長傅瑩指出，我國目前已經(jīng)初步建立起算法治理的“法治之網(wǎng)”，特別是在2021年，各部門相繼出臺了針對不同問題的指導(dǎo)意見與管理規(guī)定等文件，這些規(guī)章起到互益互補的作用，共同推進我國算法治理進一步規(guī)范發(fā)展，走向綜合治理的發(fā)展格局。

2021年堪稱中國算法治理元年。北京科技大學(xué)法學(xué)院副教授、國家人工智能倫理與道德標準小組成員張凌寒認為，我國的算法治理體系以信息安全、市場競爭秩序和消費者權(quán)益保護為指導(dǎo)思想，2021年的算法綜合治理活動與相關(guān)立法，使得我國率先建立了世界上最為完備的囊括數(shù)據(jù)安全、個人信息保護和算法安全的互聯(lián)網(wǎng)治理體系。標志性事件為世界第一部系統(tǒng)性、全面性規(guī)制算法的法律文件《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》發(fā)布?！蛾P(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》宣布我國將在三年內(nèi)建立起算法安全綜合治理格局。綜合來看，歐盟和美國在數(shù)據(jù)保護立法領(lǐng)域走在了中國之前，算法規(guī)制方面中國則當(dāng)仁不讓地開世界先河。

人工智能時代算法應(yīng)用場景的持續(xù)豐富，推動著人們工作生活空間的“全面數(shù)字化”。因此需要對人工智能算法的風(fēng)險與不確定性進行準確識別與判斷，以保障公民的算法自由與算法安全。

浙江理工大學(xué)法政學(xué)院特聘副教授、杭州長三角大數(shù)據(jù)研究院副院長郭兵認為，算法推薦等技術(shù)為網(wǎng)絡(luò)用戶和網(wǎng)絡(luò)平臺帶來便利和經(jīng)濟利益的同時，也引發(fā)了一系列新的法律問題。平衡好算法推薦等技術(shù)的創(chuàng)新發(fā)展與安全風(fēng)險，成為算法治理的一大難題。

清華大學(xué)交叉信息研究院院長、人工智能國際治理研究院學(xué)術(shù)委員會主席姚期智指出，不斷精進的算法、高效的算力和隱私保護是人工智能理論的新方向?！捌胶獍荨钡娜斯ぶ悄苤卫眢w系建構(gòu)，將進一步釋放人工智能的潛能，更大程度保證人工智能的安全性。

法律厘清數(shù)據(jù)邊界?

敏捷治理回應(yīng)民眾關(guān)切

對于人工智能發(fā)展過程中出現(xiàn)的問題，需要明確其法律客體的地位，通過法律手段予以規(guī)制。傳統(tǒng)的“先發(fā)展，后治理”模式在人工智能時代并不適用，人工智能具有基礎(chǔ)性與普遍性，作為一種通用技術(shù)和基礎(chǔ)設(shè)施將對各行各業(yè)產(chǎn)生巨大的影響，給傳統(tǒng)生產(chǎn)方式帶來深刻的變革。

人工智能技術(shù)具備卓越的信息處理能力，可以將碎片化的信息進行整合，實現(xiàn)信息從“量”到“質(zhì)”的飛躍。因此，如何有效保護和合理使用信息數(shù)據(jù)，成為人工智能技術(shù)健康發(fā)展所面臨的重要課題。

對此，我國從司法實踐角度升級法律體系，適應(yīng)人工智能時代的需要，保障個人信息安全。本次十大事件的評選中，國內(nèi)涉及保護個人信息安全、規(guī)制個人信息收集的事件關(guān)注度最高，如《個人信息保護法》《數(shù)據(jù)安全法》正式實施，最高法出臺人臉識別新規(guī)等?！叭四樧R別第一案在浙江省杭州市中級人民法院迎來終審宣判”也受到廣泛關(guān)注。在國際方面，“歐盟發(fā)布針對人工智能技術(shù)的監(jiān)管法規(guī)草案，呼吁禁止公共場所人臉識別”受關(guān)注度最高。

對社會公眾關(guān)注度高的熱點事件進行敏捷治理，意味著及時對人工智能的失范行為進行治理，實現(xiàn)治理對象的多元化。要及時回應(yīng)人民關(guān)切，通過法律手段對個人敏感信息收集進行治理，推動人工智能良性發(fā)展。

中國信息通信研究院云計算與大數(shù)據(jù)研究所魏凱副所長分析，2021年，備受關(guān)注的《數(shù)據(jù)安全法》《個人信息保護法》出臺，與《網(wǎng)絡(luò)安全法》共同形成了數(shù)據(jù)治理法律領(lǐng)域的“三駕馬車”，標志著我國數(shù)據(jù)安全法律架構(gòu)已初步搭建完成。在此基礎(chǔ)上，聚焦重點行業(yè)、新興技術(shù)的數(shù)據(jù)安全法律法規(guī)和司法解釋也在2021年密集出臺，充分體現(xiàn)了我們國家在數(shù)據(jù)立法方面的前瞻性和創(chuàng)新性。這一系列法律法規(guī)的出臺，為加快培育數(shù)據(jù)要素市場、保障數(shù)字經(jīng)濟健康發(fā)展奠定了堅實的制度基礎(chǔ)。

清華大學(xué)公共管理學(xué)院教授、人工智能國際治理研究院副院長梁正認為，人工智能治理已經(jīng)成為全球共識，且已從理念層面進入到建章立制、落地實施的階段。除了自上而下的建章立制，自下而上的基于應(yīng)用主體和用戶選擇的參與，也成為人工智能治理的一個重要特點。

數(shù)字廣東網(wǎng)絡(luò)建設(shè)有限公司產(chǎn)品研發(fā)部總經(jīng)理劉亞單認為，數(shù)據(jù)安全事關(guān)國家安全和經(jīng)濟社會發(fā)展，提升數(shù)據(jù)安全治理能力是我們在新形勢下需要著力解決的突出問題。專門法律相繼發(fā)布生效，為明確數(shù)據(jù)產(chǎn)權(quán)與利用規(guī)則奠定了基礎(chǔ)，推動我國公共數(shù)據(jù)走向“規(guī)范化”發(fā)展道路，是全球個人信息法治發(fā)展的重大里程碑。

剛?cè)岵?/strong>

倫理標準推動科技向善

隨著人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，相關(guān)倫理問題愈發(fā)受到各界重視。各國政府、國際組織、學(xué)術(shù)機構(gòu)和企業(yè)界都積極參與相關(guān)倫理標準的討論和制定， 確保人工智能技術(shù)發(fā)展“以人為本”。

目前，國內(nèi)外對于人工智能的監(jiān)管措施實現(xiàn)了“剛?cè)岵薄?/span>除了出臺系列針對數(shù)據(jù)與技術(shù)的法律法規(guī)外，對于AI涉及倫理方面的內(nèi)容也作出規(guī)定。中國政府向來高度重視人工智能產(chǎn)業(yè)發(fā)展中的倫理問題。2017年7月，國務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中提出，要制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范；開展人工智能行為科學(xué)和倫理等問題研究；制定人工智能產(chǎn)品研發(fā)設(shè)計人員的道德規(guī)范和行為守則。2019年6月，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》，旨在更好地協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可靠可控，推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展。2021年9月25日，《新一代人工智能倫理規(guī)范》發(fā)布，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動的自然人、法人和其他相關(guān)機構(gòu)等提供倫理指引。

聯(lián)合國是推動建立全球AI倫理規(guī)范的重要力量。2019年，聯(lián)合國教科文組織啟動了全球AI倫理建議書的撰寫，并于2020年9月完成草案，提交193個會員國協(xié)商，2021年11月發(fā)布了《人工智能倫理建議書》，這是全球首個針對人工智能倫理制定的規(guī)范框架。這一歷史性文本確定了共同的價值觀和原則，用以指導(dǎo)建設(shè)必需的法律框架來確保人工智能的健康發(fā)展。此外，世界衛(wèi)生組織(WHO)于2021年6月28日正式發(fā)布了“世界衛(wèi)生組織衛(wèi)生健康領(lǐng)域人工智能倫理與治理指南”，為不同國家最大化人工智能的益處和最小化其風(fēng)險提供了指引。

中國信息通信研究院云計算與大數(shù)據(jù)研究所何寶宏所長指出，發(fā)布《新一代人工智能倫理規(guī)范》，細化落實《新一代人工智能治理原則》，是我國深化人工智能治理工作的又一重大舉措。人工智能技術(shù)以數(shù)據(jù)、算法為驅(qū)動，發(fā)展速度迅猛，正在深刻改變?nèi)祟惖纳鐣a(chǎn)和生活模式。但人工智能技術(shù)的濫用也不斷沖擊社會倫理底線、侵犯個人權(quán)益。所以，既要大力發(fā)展人工智能，又要高度重視風(fēng)險和挑戰(zhàn)，科學(xué)處理好發(fā)展和治理的關(guān)系，發(fā)展可信的人工智能。

京東探索研究院院長陶大程認為，我們需要增強用戶的信任，提升人工智能落地服務(wù)的質(zhì)量，發(fā)展可信人工智能是當(dāng)前社會各界的重要共識，加強AI治理將為人工智能技術(shù)的進一步發(fā)展提供可靠保證。

AI增進民生福祉

前沿科技勾勒幸福未來

關(guān)于自動駕駛是否合法以及自動駕駛主體責(zé)任等問題的討論一直是各界熱議話題。從入圍2019年十大事件的“自動駕駛安全事故問責(zé)難”到入圍2021年十大事件的“自動駕駛汽車2021年或在英國合法化”，意味著AI技術(shù)成熟對人類智能交通和智慧出行福祉的改善受到社會認可。南京大學(xué)計算機科學(xué)與技術(shù)系聶長海教授認為，這是人類邁出的一大步，除了道路等基礎(chǔ)設(shè)施建設(shè)、自動駕駛汽車能力等自動駕駛相關(guān)技術(shù)的進步，將會帶動更多的無人系統(tǒng)和自治系統(tǒng)的繁榮和發(fā)展。

在國內(nèi)，關(guān)于人工智能技術(shù)向善的事件令人暖心：中科院通過AI算法技術(shù)，開發(fā)了自殺意念識別模型，在社交網(wǎng)絡(luò)上識別有自殺傾向的網(wǎng)友并對其展開救助；在2022年北京冬奧會開幕之際，AI手語主播將為聽障用戶傳達比賽資訊，此外，AI首次預(yù)測未來兩年氣候，這對人類預(yù)防自然災(zāi)害很有幫助。據(jù)外媒報道，某技術(shù)公司研發(fā)的微芯片裝置有望2022年植入人類大腦，這一技術(shù)將為癱瘓者帶來希望。

南京大學(xué)科學(xué)技術(shù)與社會研究所所長潘天群教授認為，當(dāng)代社會有抑郁等心理障礙的人越來越多，在網(wǎng)上“樹洞”進行傾訴是心理障礙者緩解壓力的一個重要渠道。人工智能技術(shù)設(shè)計的軟件將用于阻止更多意圖自殺的人，公益性強、社會價值巨大，這也意味著基于網(wǎng)上的資源可以開發(fā)出各種具有公益價值的軟件。

“AI手語主播的應(yīng)用代表著AI數(shù)字人技術(shù)可以讓機器運用某些情感貫穿表達方式、面部表情后臺邏輯，在虛擬世界中打造一個真實的助手或者合作伙伴。未來由AI扮演的等多種社會角色，或許將陸續(xù)在不同行業(yè)、不同領(lǐng)域‘上崗’，讓人們切實體會到‘人工智能建設(shè)的美好世界’。”科大訊飛高級副總裁江濤如是說。

招商銀行人工智能實驗室主任李金龍認為，隨著AI在生物醫(yī)學(xué)、社會服務(wù)以及大氣研究等多個領(lǐng)域落地開花，AI的能力被進一步證明，并更好地服務(wù)人類，加速基礎(chǔ)研究。從早期的語音播報能力為視弱者提供移動服務(wù)，到現(xiàn)在的AI預(yù)測蛋白質(zhì)結(jié)構(gòu)節(jié)約研究成本等，無不證明，科學(xué)合理使用AI能力可以為人類社會造福。

趨勢前瞻：

AI為推動人類文明進步正向賦能

中國信息通信研究院副總工程師、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟副秘書長王愛華認為，2021年是全球人工智能治理極具突破的一年，呈現(xiàn)出三大發(fā)展特點：一是治理“趨實”，二是治理“趨嚴”，三是治理“趨細”。將抽象的人工智能倫理原則、法律規(guī)范轉(zhuǎn)化為具體實踐，落實到技術(shù)、產(chǎn)品和應(yīng)用中去，是產(chǎn)業(yè)界亟待加快推進的工作。

曠視科技聯(lián)合創(chuàng)始人兼CEO印奇認為，作為全球科技競爭的關(guān)鍵領(lǐng)域，人工智能不僅需要在技術(shù)創(chuàng)新等方面下功夫，也需要在治理上使力氣。人工智能既是我們創(chuàng)造美好生活的重要手段，也是需要妥善治理的對象。AI治理的向上向善發(fā)展需要理性的關(guān)注、深度的研究、建設(shè)性的討論和堅持不懈的行動。用人工智能造福大眾，離不開所有AI從業(yè)者和社會各界的多元共治、共同努力。

未來，考察AI治理問題，一是需要增加新型全球化背景下的宏觀考察，于構(gòu)建人類命運共同體的時代議題之下，考量人工智能對人類文明的推動；更加聚焦前沿科技服務(wù)民生和助力公平，增強大眾對AI改善民生福祉的期待和信心。二是通過法治手段厘清人工智能的法治倫理邊界。有關(guān)部門應(yīng)密切追蹤前沿技術(shù)，廣泛吸納意見和建議，對倫理規(guī)范進行科學(xué)、動態(tài)制定和調(diào)整，引導(dǎo)AI為推動人類文明進步正向賦能。三是更加強調(diào)AI治理的國際合作和政產(chǎn)學(xué)研合作，對于人工智能治理的問題需要全人類共同面對，相關(guān)標準規(guī)范的制定需要多方參與、共商共議、交流互鑒。

THE??END

來源?| 《國家治理》周刊及人民論壇網(wǎng)

版權(quán)聲明：本號內(nèi)容部分來自互聯(lián)網(wǎng)，轉(zhuǎn)載請注明原文鏈接和作者，如有侵權(quán)或出處有誤請和我們聯(lián)系。