大數(shù)據(jù)文摘出品

作者：王燁

前段時(shí)間鬧得沸沸揚(yáng)揚(yáng)的谷歌AI倫理團(tuán)隊(duì)聯(lián)合負(fù)責(zé)人Timnit Gebru被谷歌AI負(fù)責(zé)人Jeff Dean開(kāi)除事件已經(jīng)告一段落。

盡管事后谷歌CEO Sundar Pichai承諾將調(diào)查此事，但是目前還沒(méi)有什么實(shí)質(zhì)性的說(shuō)法。

Timnit Gebru是靠人工智能倫理研究走進(jìn)大眾眼簾的，出生于斯坦福大學(xué)人工智能實(shí)驗(yàn)室，其博士生導(dǎo)師是著名AI學(xué)者李飛飛。

獲得博士學(xué)位后，Timnit Gebru入職谷歌，僅用兩年時(shí)間便升至L6 Research Scientist。

隨著AI研究井噴式發(fā)展，AI倫理審查也受到了廣泛的重視，比如讓Timnit Gebru一戰(zhàn)成名的研究就是她的一項(xiàng)發(fā)現(xiàn)——面部識(shí)別軟件在35%的情況下會(huì)錯(cuò)誤識(shí)別深膚色女性，而這項(xiàng)在白人男性身上運(yùn)行得幾乎完全準(zhǔn)確。

作為AI界久負(fù)盛名的NeurIPS會(huì)議也邁出了倫理審查的第一步，神經(jīng)信息處理系統(tǒng)(Neural Information Processing Systems，NeurIPS)會(huì)議受疫情影響在線舉行，會(huì)議首次要求提交論文的作者同時(shí)提交一份聲明，說(shuō)明他們的研究可能對(duì)社會(huì)產(chǎn)生的更廣泛影響，包括任何可能的負(fù)面影響。

會(huì)議組織者還任命了一個(gè)評(píng)審小組，負(fù)責(zé)審查引發(fā)倫理問(wèn)題的論文，這個(gè)過(guò)程可能導(dǎo)致某些論文被拒絕。

9467篇論文提交，290篇被標(biāo)記，4篇因倫理原因被拒

這次的NeurIPS會(huì)議共受到了9467份論文，審查人員主要根據(jù)提交材料的研究?jī)r(jià)值進(jìn)行評(píng)估，但有通過(guò)初步審核的論文還要由 Gabriel 領(lǐng)導(dǎo)的一個(gè)單獨(dú)的道德委員會(huì)進(jìn)行全面審查。

Facebook人工智能研究中心的計(jì)算機(jī)科學(xué)家馬克·奧雷里奧·蘭扎托（Marc’ Aurelio Ranzato）是這次NeurIPS會(huì)議的主席之一，他表示，在290篇被標(biāo)記的論文中，有4篇最終因倫理原因被項(xiàng)目主席拒絕。

添加倫理審查過(guò)程的做法參考的是Future of Computing Academy的做法，該學(xué)院由布倫特 · 赫克特領(lǐng)導(dǎo)，他是微軟和美國(guó)西北大學(xué)研究技術(shù)對(duì)人類影響方面的專家。

2018年，赫克特和他的合作者提出，要求計(jì)算機(jī)科學(xué)出版物陳述其研究的潛在副作用和可能出在的意外使用。

比如Ian J. Goodfellow在2014年提出GAN的時(shí)候并不會(huì)想到這項(xiàng)技術(shù)會(huì)用于AI生成色情圖片，而要求作者提供陳述的舉措將迫使技術(shù)的發(fā)明者不得不去思考自己的技術(shù)可能會(huì)帶來(lái)的社會(huì)影響。

這項(xiàng)舉措也得到了很多技術(shù)專家的肯定。

谷歌的計(jì)算機(jī)科學(xué)家凱瑟琳?海勒（Katherine Heller）表示: “總體而言，我認(rèn)為倫理程序做得很好。”

“我認(rèn)為，即使是讓人們開(kāi)始思考這些問(wèn)題，也有很大的價(jià)值，”加拿大多倫多行業(yè)監(jiān)督機(jī)構(gòu)技術(shù)調(diào)查（Tech Inquiry）的創(chuàng)始人杰克?鮑爾森（Jack Poulson）表示。他補(bǔ)充說(shuō)，這項(xiàng)政策可能有助于改變?cè)擃I(lǐng)域的文化。

如何審查研究的倫理？很難

盡管NeurIPS算是邁出了第一步，但是如何判斷一篇文章有沒(méi)有倫理上的風(fēng)險(xiǎn)呢？

NeurIPS的倫理評(píng)審小組表示，目前這是一個(gè)難題，審查人員沒(méi)有得到關(guān)于什么會(huì)構(gòu)成對(duì)社會(huì)的危害的具體指導(dǎo)。

舉個(gè)例子，NeurIPS會(huì)議的主席之一Ranzato說(shuō)，一些評(píng)審標(biāo)記了那些利用數(shù)據(jù)庫(kù)收集未經(jīng)明確同意的個(gè)人信息或照片的論文。

這類數(shù)據(jù)庫(kù)的使用廣受批評(píng)，但會(huì)議組織者并沒(méi)有將這一問(wèn)題單獨(dú)提交給審查人員，也沒(méi)有提供有問(wèn)題的數(shù)據(jù)庫(kù)清單。

不過(guò)，Ranzato補(bǔ)充說(shuō)，審查政策是朝著正確方向邁出的一步。“沒(méi)有什么是完美的，但現(xiàn)在比以前更好了。”

大多數(shù)有問(wèn)題的問(wèn)題應(yīng)該已經(jīng)被發(fā)現(xiàn)，因?yàn)槿齻€(gè)匿名的同行審稿人中的任何一個(gè)都可以標(biāo)記一篇論文，主題領(lǐng)域的主席也可以。

倫理評(píng)審小組負(fù)責(zé)人Gabriel表示: “其中任何一方發(fā)出的‘信號(hào)’都足以啟動(dòng)審查程序。”

不過(guò)，他承認(rèn)，這一過(guò)程并非絕對(duì)可靠。例如，如果所有的評(píng)論員碰巧都是男性（在男性主導(dǎo)的領(lǐng)域并不少見(jiàn)） ，他們可能無(wú)法充分評(píng)估算法是否會(huì)對(duì)女性產(chǎn)生負(fù)面影響。

“我不能排除出現(xiàn)這種盲點(diǎn)的可能性。”Gabriel說(shuō)。

倫理審查還是自查自糾？

NeurIPS會(huì)議的最后一天還舉行了一次特別會(huì)議，重點(diǎn)討論人工智能對(duì)社會(huì)的廣泛影響，大家一起討論了解決行業(yè)問(wèn)題的方法。

微軟在紐約市的研究員 Hanna Wallach 呼吁研究人員從研究的早期階段評(píng)估和減輕任何潛在的對(duì)社會(huì)的危害，而不是預(yù)想開(kāi)發(fā)和市場(chǎng)最終產(chǎn)品的同時(shí)會(huì)做這種道德方面的工作。

為什么一定要程序員自己區(qū)考慮倫理因素，而不是交給專門(mén)的倫理審查專家呢？

她表示，道德思維應(yīng)該納入機(jī)器學(xué)習(xí)領(lǐng)域，而不是簡(jiǎn)單地外包給道德專家，否則“其它學(xué)科可能成為警察，而程序員則試圖逃避它們”。

但是如何能讓研究人員自發(fā)審視技術(shù)的倫理因素呢？

這恐怕還有很長(zhǎng)的路要走。

相關(guān)報(bào)道：

https://www.nature.com/articles/d41586-020-03611-8

https://www.nature.com/articles/d41586-020-03188-2

點(diǎn)「在看」的人都變好看了哦！