圖靈獎得主Yann LeCun發(fā)推道歉!Google AI黑人女科學家批其種族歧...

??新智元原創(chuàng)??

編輯：鵬飛，永上

【新智元導讀】BLM運動已經(jīng)延伸至AI界。Yann LeCun此前發(fā)推稱當數(shù)據(jù)有偏差時，ML系統(tǒng)就會有偏差。在白人為主的數(shù)據(jù)集訓練后，生成的人臉偏白；在黑人為主的數(shù)據(jù)集訓練后偏黑。遭到網(wǎng)友聲討。LeCun隨后向提出質(zhì)疑的黑人女科學家道歉。

美國新冠疫情依舊迅猛，已經(jīng)突破250萬。
? ??? ? ? ?

?而同時在美國如火如荼進行的，還有BLM運動。這場運動已經(jīng)從民間上升到了政界，滲透進商業(yè)界，如今已經(jīng)深入到了AI界。

最近，圖靈獎得主、人工智能標桿人物Yann LeCun，因為一則言論被群攻，迫不得已出來道歉。而這起事件的導火索，正是最近突然爆火的PULSE算法。
?該算法由杜克大學推出，可以將模糊的照片秒變清晰，效果出奇的好。這項研究在CVPR 2020上發(fā)表，論文標題為《PULSE：通過對生成模型的潛在空間探索實現(xiàn)自監(jiān)督照片上采樣（PULSE：Self-Supervised Photo Upsampling via Latent Space Exploration of Generative Models）》。

?正當大家興致勃勃的把玩的時候，誰料PULSE竟莫名闖了禍。?

一張照片引發(fā)AI社區(qū)大爭議，Yann LeCun發(fā)推先解釋后道歉

?有人發(fā)現(xiàn)，將一張奧巴馬的模糊照片，用PULSE洗出來以后，變成了一個白人！真?洗白？

?這下美國網(wǎng)民不干了，紛紛將斗爭的矛頭指向了人工智能。?一向敢說的Yann LeCun，就這張照片發(fā)推表示：「ML結果的偏差，原因在于數(shù)據(jù)的偏差。為什么PULSE會出現(xiàn)奧巴馬被洗白的情況？因為它是在FlickFaceHQ上進行預訓練，這個數(shù)據(jù)集里基本都是白人照片。如果換成來自塞內(nèi)加爾的數(shù)據(jù)集，訓練完全相同的系統(tǒng)，那必然是每個人都看起來像非洲人。」?這下很多AI研究人員、從業(yè)者也不干了，紛紛將斗爭的矛頭指向了LeCun。?斯坦福AI Lab成員、Google AI科學家Timnit Gebru，對LeCun表示「失望」。
?她直接回復Yann LeCun：「Yann，我建議你看看我和Emily的教程，或者這方面專家學者的東西。你不要只是將罪魁歸結為數(shù)據(jù)集偏見，聽聽我們這些來自邊緣化社區(qū)的人的說法」

?Deborah Raji，紐約大學AI Now研究所的技術研究員，目前在MIT媒體實驗室Joy Buolamwini創(chuàng)立的 「算法正義聯(lián)盟」（Algorithmic Justice League）工作。
?她指出，人工智能中的偏見受到更廣泛的社會不公正和偏見的影響，僅僅使用「正確」（完美的、沒有偏見）的數(shù)據(jù)并不能解決更大的不公正問題。將AI學術問題，上升到了社會倫理層面。?她甚至在Timnit Gebru的推下面提及Yann LeCun，直呼：「惡心！」

?最終，Yann LeCun公開發(fā)推，向Timnit Gebru表示道歉：「我非常欽佩你在人工智能道德倫理和公平方面的工作。我非常關心如何確保偏見不會被人工智能放大，我很抱歉我在Twitter的討論成為了這一議題的話題事件?！?/span>

?

在「最黑暗的時代」依然堅持深度學習研究，如今被拉下「神壇」

?Yann LeCun，當今世界人工智能領域，甚至被有些人奉為「神一樣的人物」。

?他是卷積神經(jīng)網(wǎng)絡之父，圖靈獎得主，與Geoffrey Hinton、Yoshua Bengio并稱「深度學習三巨頭」。在人工智能領域，這三巨頭也被稱為「人工智能教父」，他們共同發(fā)展了深度神經(jīng)網(wǎng)絡，奠定了深度學習基礎。?一直以來，Yann LeCun都以直言不諱著稱。他活躍在社交網(wǎng)絡上，經(jīng)常批評別人對AI技術的無端恐懼。由于他在AI領域的地位，他的評論因此極具份量。?他致力于開發(fā)人工智能的現(xiàn)代方法，使用卷積神經(jīng)網(wǎng)絡來分析計算機視覺技術的核心視覺數(shù)據(jù)。橫跨學術界和產(chǎn)業(yè)界，是紐約大學數(shù)據(jù)科學中心創(chuàng)始主任，紐約大學研究中心Silver Professor稱號獲得者，只有為紐約大學做出突出貢獻的人，才有資格得到Silver Professor這一榮譽稱號。同時他也是Facebook首席人工智能科學家。這也是他敢說「研究人員應該（專心科研）少關心數(shù)據(jù)偏見，而應該交給工業(yè)界去操心」的底氣所在。?他是AI技術的積極倡導者，更看重AI行業(yè)的積極、正向的前景。正是因為這份信念和堅持，Yann LeCun專注于技術研究，走過了深度學習最黑暗的時代，熬過寒冬，拿到圖靈獎，終被「封神」。?但人，終究不是神，LeCun最終還是為自己的言論道歉了。不過，雖然LeCun道歉了，可并非所有人都覺得LeCun錯了。?

網(wǎng)友：這種問責很可能造成寒蟬效應，研究人員不再公布完整的來源

?its_a_gibibyte表示有點兒懵：「我到現(xiàn)在都沒整明白LeCun說錯啥了？他不就解釋了導致AI的偏見的原因和造成的結果嗎？」?WittyKap0跟its_a_gibibyte解釋：「這條推是沒錯啦。但是在隨后的一條推中，他把這個問題扔給了業(yè)界，稱這不是研究人員應該關注的問題，而是應該由業(yè)界做部署的工程師去解決的。結果Pytorch之父就不干了，源頭沒做好指望下游給你收拾爛攤子嗎？順便還諷刺了LeCun在FB工作?！?/span>?nonotan看不下去了：「我懂，研究人員至少應該提供某種程度的證據(jù)，證明他們的工作在實驗中的情況，并給出更多的傳統(tǒng)績效指標。這將是一個很好的方向，沒有任何問題。但歸根結底，研究者的工作不是提供市場上可用的產(chǎn)品??！難道那不是ML工程師的工作嗎？作為一個ML工程師，你說『我只是從網(wǎng)上隨便抓了一些模型，作為我的生產(chǎn)流水線的一部分使用，沒有任何驗證或監(jiān)督。如果出了問題，就怪作者沒有阻止我這個白癡』這是人話嗎？而且這種問責很可能造成一種寒蟬效應，研究人員為了盡量不擔責任，不愿意公布完整的來源/訓練過的權重/等等。坦率地說，如果你按字面意思來理解他所寫的東西我認為完全沒有問題。我覺得只是因為人們發(fā)現(xiàn)LeCun沒有重視或者支持他們的事業(yè)而感到不滿?！?/span>?Deto提出了一個非常有意思的觀點：「他是不是覺得人們只是掃了一眼這篇文章(而不是實際閱讀——說實話，真沒幾個人能認真讀完)，然后可能會錯誤地認為種族主義意圖被研究人員以某種方式，有意地編碼到這些模型中？所以他想直接澄清這個細節(jié)。」?Shams在Twitter上發(fā)表評論，認為LeCun沒有支持不公正事件的發(fā)生，不需要道歉?！改愕牧龊苊鞔_，而且是基于已經(jīng)發(fā)表的科學研究。我不知道你為什么被卷進一件你明顯反對的事件中。我希望對方能夠堅持學術論調(diào)?！?/span>

?Kaelen為LeCun鳴不平，認為他正在為自己沒做過的事情道歉，而沒有其他選擇。

?Yamen Ali表示「看了上周的討論，我不認為道歉是必要的。我從你那里讀到過一系列關于機器學習中偏見的解釋。我只想看他們對你觀點的科學反對意見，而不是把意識形態(tài)帶入科學討論中，這不會帶給我們?nèi)魏谓Y果」。

?Alastair認為是對方煽動了這場對話「你的內(nèi)容十分準確，你的討論語氣也沒有問題。你指出了最可能也是最重要的偏見。如果說有任何問題的話，那就是「她」煽動了這場對話。你沒有做錯什么，卻受到了這樣的網(wǎng)絡暴力」。

?Crypto同情LeCun的處境「你為什么要為自己的正確而道歉？你的道歉對人工智能界是一種傷害。當你不得不一遍又一遍地解釋1 + 1 = 2時，這不是一個健康的討論。不是每個人都聰明到能夠理解它，但這沒什么關系」。