??新智元報(bào)道??

來(lái)源：連線

編輯：LQ

【新智元導(dǎo)讀】近日，有消息稱(chēng)，400多名谷歌員工已經(jīng)成立了自己的工會(huì)Alphabet Workers Union，工會(huì)成立的目的主要是為少數(shù)族裔群體發(fā)聲，上個(gè)月，Timnit Gebru的離職引發(fā)了員工對(duì)谷歌少數(shù)族裔員工待遇的批評(píng)風(fēng)暴。其實(shí)在工會(huì)成立消息放出的前幾天，Timnit Gebru的谷歌前同事、谷歌AI倫理部門(mén)的高級(jí)研究員Alex Hanna和另一名曾經(jīng)幫助領(lǐng)導(dǎo)谷歌勞工組織的NYU教授Meredith Whittaker就在寫(xiě)給《連線雜志》的一篇文章中透露了谷歌工會(huì)的信息。

在秘密組織了大半年之后，上個(gè)月，400多名谷歌員工選出了一個(gè)7人組成的委員會(huì)，最終成立了他們自己的工會(huì)Alphabet Workers Union.

這個(gè)工會(huì)與傳統(tǒng)工會(huì)有所不同，它無(wú)法與公司就合同問(wèn)題進(jìn)行談判，但這也不是他們成立的初衷，他們的初衷就是要為少數(shù)族裔群體發(fā)聲。

上個(gè)月，Timnit Gebru的離職引發(fā)了對(duì)谷歌少數(shù)族裔員工待遇的批評(píng)風(fēng)暴。

其實(shí)在工會(huì)成立的消息放出來(lái)的前幾天，Timnit Gebru的谷歌前同事、谷歌AI倫理部門(mén)的高級(jí)研究員Alex Hanna和另一名曾經(jīng)幫助領(lǐng)導(dǎo)谷歌勞工組織的NYU教授Meredith Whittaker就在寫(xiě)給《連線雜志》的一篇文章中透露了谷歌工會(huì)的信息。

技術(shù)行業(yè)需要工會(huì)

文章指出了Timnit Gebru離職暴露了人工智能存在的危機(jī)，并提出三點(diǎn)建議，第一點(diǎn)就是成立工會(huì)。文中說(shuō)：

首先，技術(shù)員工需要一個(gè)工會(huì)。員工需要有組織，這是變革和問(wèn)責(zé)的關(guān)鍵，也是少數(shù)能夠反擊大公司的力量之一。在科技行業(yè)尤其如此，因?yàn)樵S多員工都是炙手可熱的專(zhuān)業(yè)人才，可替代性也很低，他們的力量非常強(qiáng)大。

工會(huì)可以起到制止報(bào)復(fù)和歧視的作用，也可以成為反對(duì)違背道德使用技術(shù)做法的重要力量。

例如，亞馬遜員工對(duì)氣候變化的抗?fàn)?，以?span style="color: rgb(255, 104, 39);">谷歌員工對(duì)人工智能用于軍事用途（Project Maven）的抵制，這些都改變了公司的政策，展示了自發(fā)組織的技術(shù)員工的力量。

要想有成效，工會(huì)組織必須建立在反種族主義和跨階層團(tuán)結(jié)的基礎(chǔ)之上，對(duì)哪一類(lèi)人才算是技術(shù)工作者要有全面的認(rèn)識(shí)，并致力于將保護(hù)和提升所有BIPOC（黑人、原住民和有色人種）技術(shù)工作者的地位放在第一位。

其他建議：資金支持、立法保護(hù)

第二點(diǎn)建議是：技術(shù)員工需要保護(hù)和資金，這樣技術(shù)員工可以在公司之外的地方不受公司影響地從事重要研究。

不是每個(gè)公司都有一個(gè)站出來(lái)反擊所謂的研究審查的「Timnit Gebru」.要保證研究人員在公司以外的地方做研究時(shí)有更大的權(quán)限使用目前被稱(chēng)為「公司機(jī)密」的技術(shù)，比如訓(xùn)練集的使用權(quán)限，數(shù)據(jù)標(biāo)注和內(nèi)容審核的規(guī)定和步驟。

公司以外進(jìn)行的研究也必須要把支持BIPOC，女性以及其他曾經(jīng)被排除在外的研究人員和觀點(diǎn)放在首位，要認(rèn)識(shí)到種族和性別同質(zhì)性是造成AI領(lǐng)域內(nèi)傷害的源頭。

而要做到這些就需要大量資金，可以通過(guò)向公司「征稅」來(lái)籌集。

最后一點(diǎn)是呼吁相關(guān)政府部門(mén)對(duì)人工智能領(lǐng)域加強(qiáng)監(jiān)管。?聯(lián)邦、州及地方政府的立法部門(mén)要通過(guò)立法在數(shù)據(jù)收集和AI的應(yīng)用方面來(lái)保護(hù)隱私并保證征得當(dāng)事人的同意。

還要加強(qiáng)對(duì)員工、吹哨人的保護(hù)，保護(hù)BIPOC員工不受歧視，保證最容易受到AI系統(tǒng)風(fēng)險(xiǎn)傷害的弱勢(shì)群體能夠做出反抗。

Timnit Gebru事件反應(yīng)出的人工智能行業(yè)的危機(jī)

在列舉建議之前，兩位作者就Timnit Gebru的離職做了分析，指出Timnit Gebru的遭遇揭示了AI研究領(lǐng)域存在的「雙重危機(jī)」。

AI領(lǐng)域由一群精英主導(dǎo)，主要是白人男性；主要由行業(yè)內(nèi)的大公司控制和資助，比如微軟， Facebook，亞馬遜，IBM，當(dāng)然還有谷歌。Gebru 被解雇，組織年青一代圍繞AI樹(shù)立必要的護(hù)欄的「文明政治」被撕裂，人工智能行業(yè)打工人的種族同質(zhì)性和企業(yè)無(wú)效的多樣性項(xiàng)目成為討論的核心話題。

但這種情況也清楚地表明，「無(wú)論谷歌的承諾看上去多么誠(chéng)懇，企業(yè)資助的研究永遠(yuǎn)不能脫離權(quán)力的現(xiàn)實(shí)，也不能脫離收入和資本的流動(dòng)?！?/span>

這些問(wèn)題和我們每個(gè)人都息息相關(guān)。現(xiàn)在AI應(yīng)用擴(kuò)大到醫(yī)療、刑事司法、教育等領(lǐng)域，研究人員和倡導(dǎo)者提出了緊迫的擔(dān)憂(yōu)。這些制度作出的決定直接影響到生活，同時(shí)又植根于加強(qiáng)種族歧視歷史的組織中。

人工智能系統(tǒng)的權(quán)力也集中在那些設(shè)計(jì)和使用它們的人手中，而隱藏在復(fù)雜計(jì)算表面之后的責(zé)任(和義務(wù))卻被模糊化了。風(fēng)險(xiǎn)是巨大的，動(dòng)機(jī)是決然錯(cuò)誤的。

文中還指出了限制AI研究人員的能力和建立有效保護(hù)的結(jié)構(gòu)性障礙。因?yàn)橛捎贏I預(yù)測(cè)和決定而受害的主要是BIPOC，婦女，宗教和性別少數(shù)群體，以及窮人。而受益于AI的主要是企業(yè)和白人男性研究人員和開(kāi)發(fā)人員。

以「面部識(shí)別」為例，對(duì)深色皮膚的人更不容易識(shí)別，而這些面部識(shí)別系統(tǒng)主要出現(xiàn)在黑人社區(qū)，相反在識(shí)別率高的白人社區(qū)，這些系統(tǒng)已經(jīng)成功禁止和抵制了面部識(shí)別系統(tǒng)。

而我們需要關(guān)注這些因?yàn)锳I技術(shù)應(yīng)用而受到傷害的人們。

谷歌對(duì)待 Gebru 的方式越來(lái)越清楚地表明，當(dāng)關(guān)鍵工作阻礙其商業(yè)激勵(lì)時(shí)，該公司的「優(yōu)先事項(xiàng)」是什么。這就可以看出來(lái)，確保人工智能系統(tǒng)對(duì)弱勢(shì)群體負(fù)責(zé)幾乎是不可能的。

科技公司與「表面上獨(dú)立」的學(xué)術(shù)機(jī)構(gòu)之間的密切聯(lián)系，進(jìn)一步削弱了對(duì)該行業(yè)的監(jiān)督。

來(lái)自企業(yè)和學(xué)術(shù)界的研究人員一起發(fā)表論文，并在同一個(gè)會(huì)議上接觸，一些研究人員甚至在科技公司和大學(xué)身兼兩職。這模糊了學(xué)術(shù)研究和企業(yè)研究之間的界限，并掩蓋了支持此類(lèi)工作的激勵(lì)措施。

這也意味著，這兩個(gè)群體看起來(lái)非常相似ーー學(xué)術(shù)界的人工智能研究與企業(yè)研究一樣，面臨著有害的種族和性別同質(zhì)化問(wèn)題。此外，頂級(jí)的計(jì)算機(jī)科學(xué)部門(mén)接受大量來(lái)自Big Tech的研究資金。

Gebru的離職表明，這種做法再次出現(xiàn)了。像谷歌這樣強(qiáng)大的公司有能力收集、最小化或壓制對(duì)其大規(guī)模人工智能系統(tǒng)的批評(píng)，這些系統(tǒng)是其利潤(rùn)動(dòng)機(jī)的核心。

事實(shí)上，根據(jù)路透社最近的一份報(bào)告，谷歌的領(lǐng)導(dǎo)層甚至指示研究人員，在研究對(duì)谷歌底線敏感的技術(shù)和問(wèn)題時(shí)，要「采取積極的態(tài)度」。

Gebru的離職也凸顯了其他公眾所面臨的危險(xiǎn)，如果我們?cè)试S一個(gè)精英的、同質(zhì)的研究隊(duì)伍由那些不太可能經(jīng)歷人工智能負(fù)面影響的人組成，從企業(yè)內(nèi)部驅(qū)動(dòng)和塑造關(guān)于人工智能的研究。

少數(shù)從人工智能擴(kuò)散中獲益的人正在塑造學(xué)術(shù)界和公眾對(duì)這些系統(tǒng)的理解，而那些最有可能受到傷害的人卻被排除在知識(shí)創(chuàng)造和影響之外。這種不平等遵循可預(yù)測(cè)的種族、性別和階級(jí)界限。

文章最后寫(xiě)到，這場(chǎng)危機(jī)清楚地表明，盡管受到企業(yè)影響力的制約，并且受到一群特權(quán)研究人員的支配，當(dāng)前的人工智能研究生態(tài)系統(tǒng)，無(wú)法提出和回答對(duì)于那些承受人工智能系統(tǒng)危害的人來(lái)說(shuō)最重要的問(wèn)題。

「公眾意識(shí)的研究和知識(shí)創(chuàng)造」本身就很重要，除此之外，它還為人工智能的民主監(jiān)督和治理決策制定者提供了基本信息，也為那些能夠反擊有害技術(shù)和掌握這些技術(shù)的人提供了基本信息。

支持和保護(hù)有組織的技術(shù)工人，擴(kuò)大對(duì)人工智能的研究領(lǐng)域，在企業(yè)影響的陰影之外培育資源充足和包容性強(qiáng)的研究環(huán)境，這些都是為解決這些緊迫問(wèn)題提供空間的重要步驟。

關(guān)于作者

?Alex Hanna和Timnit Gebru之前同為谷歌AI倫理部門(mén)的員工，此前Hanna曾代表AI倫理部門(mén)向谷歌管理層發(fā)聯(lián)名信，要求副總裁Megan Kacholia和Jeff Dean向Timnit Gebru道歉，并讓Gebru以更高職級(jí)回歸谷歌。

另一名作者M(jìn)eredith Whittaker是紐約大學(xué) Minderoo研究教授，紐約大學(xué)AI Now研究所主任，長(zhǎng)期從事技術(shù)工作，曾幫助領(lǐng)導(dǎo)谷歌的勞工組織。

參考鏈接：

https://www.wired.com/story/timnit-gebru-exit-google-exposes-crisis-in-ai/

谷歌工人工會(huì)成立，AI女倫理專(zhuān)家離職只是一個(gè)導(dǎo)火線

??新智元報(bào)道??

技術(shù)行業(yè)需要工會(huì)

Timnit Gebru事件反應(yīng)出的人工智能行業(yè)的危機(jī)

關(guān)于作者

谷歌工人工會(huì)成立，AI女倫理專(zhuān)家離職只是一個(gè)導(dǎo)火線