---

??新智元報(bào)道??

來源：the Batch

編輯：小勻、QJP

【新智元導(dǎo)讀】圣誕快樂！吳恩達(dá)端著咖啡杯，為您「回顧」了人工智能的2020，AI大戰(zhàn)疫情、無處不在的GAN、語言模型不斷壯大……新智元整理了本周The Batch上，我們?cè)?020年看到的一些AI主題和故事，看看AI如何改變、影響過去這一年的？即使2020有太多遺憾，2021，Keep Learning！

Merry Christmas！

圣誕節(jié)到啦，2020也徹底進(jìn)入了最后5天。

今天的吳恩達(dá)，舉著熱乎乎的咖啡杯，坐在一棵圣誕樹前，為人工智能的2020做了一期回顧。

Andrew says，「無論以什么樣的眼光去回顧2020，它都可以載入史冊(cè)。一種新的、傳染性極強(qiáng)的病毒暫停了生活的車輪，社會(huì)的裂痕威脅著我們共同的利益。

? ??? ? ? ?

機(jī)器學(xué)習(xí)工程師們，作為線上生活的藝術(shù)家，他們?cè)O(shè)計(jì)了新冠病毒的診斷和治療工具，建立了識(shí)別仇恨言論和虛假信息的模型……

? ? ? ?? ? ? ?

但他們展示了程序員們更輕松詼諧的一面：可以把睡衣?lián)Q成西裝的在家辦公工具、妙趣多多的語言模型，以及人工智能輔助藝術(shù)和表演的有趣實(shí)驗(yàn)。

? ? ? ?

? ? ??

2020就要過去，請(qǐng)與我們一起回顧過去一年的艱辛與輝煌?！?/span>

?? ? ? ?? ? ? ?

讓疫情散退吧！

突然起來的疫情，打得人們措手不及！

?

但不得不承認(rèn)，有了人工智能的存在，我們加快了尋找冠狀病毒疫苗的腳步，并在某些方面對(duì)疫情進(jìn)行了降維打擊。

?? ? ? ?? ? ? ?

世界各地的機(jī)器學(xué)習(xí)研究人員爭相利用這項(xiàng)技術(shù)對(duì)抗冠狀病毒。在許多失敗的案例中，他們?cè)跈z測、接種和其他領(lǐng)域取得了重要的成功。

全球傳染病監(jiān)測的數(shù)字健康公司分析了重大事件的新聞報(bào)道，在全球健康監(jiān)測員提早幾天發(fā)現(xiàn)了大流行，并向其客戶發(fā)出了預(yù)警。

在巴黎和戛納的公交車站，公共汽車和市場中使用計(jì)算機(jī)視覺評(píng)估了掩蓋法規(guī)的遵守情況。政府培訓(xùn)了一個(gè)模型，以識(shí)別衛(wèi)星圖像中的赤貧地區(qū)，指導(dǎo)將救濟(jì)金分配給最需要的人。

? ? ? ?? ? ? ?

中國許多機(jī)構(gòu)之間的合作開發(fā)了一種可在CT掃描中檢測Covid-19的模型，其準(zhǔn)確度超過90％。該模型已在七個(gè)國家/地區(qū)部署，到目前為止，該代碼已下載了300萬次。

? ? ? ?? ? ?

美國生物技術(shù)公司，使用機(jī)器學(xué)習(xí)來優(yōu)化mRNA序列以轉(zhuǎn)化為可以測試的分子。

?

但是，人工智能不是靈丹妙藥，但這種新型、毒性強(qiáng)、傳染性強(qiáng)的冠狀病毒株的出現(xiàn)，是對(duì)人工智能抗擊傳染病能力的一次令人振奮的測試。

GAN，讓「像素世界」沒有盡頭

?

當(dāng)有生產(chǎn)力的對(duì)抗性網(wǎng)絡(luò)滲透到文化、社會(huì)和科學(xué)領(lǐng)域時(shí)，它們悄悄地將互聯(lián)網(wǎng)轉(zhuǎn)變成了一個(gè)無底洞，里面全是你能想到的合成圖像……

? ? ? ?? ? ? ?

它出現(xiàn)在主流娛樂、商業(yè)、政治活動(dòng)中，甚至是一部紀(jì)錄片中，用來保護(hù)屏幕上的證人。

? ? ? ?

? ? ?

受2019年的《這個(gè)人不存在》(This Person Does Not Exist)這款產(chǎn)生逼真?zhèn)€人肖像的網(wǎng)絡(luò)應(yīng)用的啟發(fā)，有幽默感的工程師實(shí)現(xiàn)了生成對(duì)抗網(wǎng)絡(luò)(GANs)，模擬現(xiàn)實(shí)世界的細(xì)節(jié)。這里列舉了一些受歡迎的：

根據(jù)谷歌Earth的圖像，這個(gè)不存在的城市產(chǎn)生了大大小小的定居點(diǎn)的鳥瞰圖。

? ? ? ?? ? ? ?

這匹不存在的馬力，產(chǎn)生各種各樣的姿勢，品種，和情況。當(dāng)然，它偶爾會(huì)吐出一團(tuán)可怕的亂麻，但這就是樂趣的一半。

像許多「GANs披薩」一樣，雖然這個(gè)披薩的奶酪缺乏粘稠的光澤，它的醬汁很少有活力，它的面包皮看起來不夠烤熟。但是，正如諺語所說，即使是糟糕的披薩也仍然是披薩。

?? ? ? ?

? ? ? ?

普林斯頓大學(xué)的本科學(xué)生Alice Xue在她的畢業(yè)論文中，開發(fā)了一款名為SAPGAN（Sketch-And-Paint GAN)的AI模型，該模型可以生成傳統(tǒng)的中國山水畫，為此她也獲得了普林斯頓2020優(yōu)秀畢業(yè)論文獎(jiǎng)。

? ??? ? ? ?

但一些觀察人士擔(dān)心，人工智能制造的假貨可能會(huì)破壞信任。但這項(xiàng)技術(shù)仍至關(guān)重要。

?? ? ? ?

? ? ?

說到這里，GAN 之父——Ian Goodfellow，在本科和博士早期階段曾經(jīng)多次向吳恩達(dá)尋求建議。

?? ?

? ? ? ?

別讓膚色和種族失了語：為少數(shù)派發(fā)聲

? ? ? ?

研究人員發(fā)現(xiàn)，由于數(shù)據(jù)集編譯、標(biāo)記和使用的方式，流行的數(shù)據(jù)集會(huì)向訓(xùn)練過的模型傳遞對(duì)社會(huì)邊緣群體的偏見。

?

圖像收集是焦點(diǎn)——包括計(jì)算機(jī)視覺基礎(chǔ)數(shù)據(jù)集ImageNet。

ImageNet創(chuàng)始人李飛飛和他的同事們梳理了古老的數(shù)據(jù)集，刪除了從WordNet(一個(gè)可以追溯到20世紀(jì)80年代的詞匯數(shù)據(jù)庫)繼承來的種族主義、性別歧視和其他有辱人格的標(biāo)簽。

? ? ? ???

一項(xiàng)研究發(fā)現(xiàn)，即使是在未經(jīng)標(biāo)記的ImageNet數(shù)據(jù)上訓(xùn)練的模型，也能從數(shù)據(jù)集有限的人類多樣性中產(chǎn)生偏差。

? ? ? ?? ? ? ?

麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室在外部研究人員發(fā)現(xiàn)該數(shù)據(jù)集充斥著貶損的標(biāo)簽后，撤回了該微型圖像數(shù)據(jù)集。

?

說到這里，不得不回顧一下今年AI圈兒里那場著名的「罵戰(zhàn)」：PULSE算法。

?

該算法由杜克大學(xué)推出，可以將模糊的照片秒變清晰，效果出奇的好。這項(xiàng)研究在CVPR 2020上發(fā)表。

效果大概是這樣的：

?? ? ? ? ? ? ? ? ? ? ?? ? ?

這本來是一項(xiàng)挺不錯(cuò)的技術(shù)，但是一次試驗(yàn)卻引發(fā)了爭議。

用于訓(xùn)練StyleGAN的數(shù)據(jù)集FlickrFaces-HQ (FFHQ)顯然也缺乏足夠的多樣性。當(dāng)基于StyleGAN的模型PULSE提高低分辨率照片的分辨率時(shí)，這個(gè)問題就出現(xiàn)了。PULSE將奧巴馬的像素化圖像調(diào)高為白人肖像。

? ? ? ?

種族歧視的強(qiáng)烈反對(duì)者卻認(rèn)定Yann LeCun有「嚴(yán)重的種族歧視」。

?

Yann LeCun立馬對(duì)于PULSE算法的不完備性進(jìn)行了解釋：

?? ? ? ? ? ? ? ? ? ? ?? ? ? ?

簡而言之，這種偏差是由于數(shù)據(jù)集導(dǎo)致的。PULSE所用的數(shù)據(jù)集大多都是白人，因此還原這張照片的時(shí)候出現(xiàn)了膚色誤差。

斯坦福AI Lab成員、Google AI科學(xué)家Timnit Gebru都明確表示：對(duì)LeCun表示「失望」。

? ? ? ? ? ? ? ? ? ? ?? ? ? ?

Timnit Gebru指責(zé)Yann LeCun把問題歸結(jié)于數(shù)據(jù)集而回避了「種族歧視」的問題。

?

在罵戰(zhàn)持續(xù)了兩周之后，Yann LeCun以「退出推特」的行為親手為這場科研界的政治風(fēng)波畫上了句點(diǎn)。

? ? ? ?

? ? ? ?

這是一個(gè)無法回避的問題，但為了消除種族偏見，我們的「戰(zhàn)斗」才剛剛開始。

NO FAKE！抵御虛假信息的算法

? ? ? ???

疫情、大選，都激起了一場自動(dòng)虛假信息風(fēng)暴，一些大型人工智能公司陷入了這一旋風(fēng)。

6月，《華爾街日?qǐng)?bào)》?報(bào)道說，一些Facebook高管使用了壓制性工具來監(jiān)管極端內(nèi)容。該公司后來推翻了選舉期間進(jìn)行的算法更改，從而增加了知名的新聞來源。人們對(duì)Facebook的努力感到三心二意的看法促使一些員工辭職。

YouTube針對(duì)虛假信息進(jìn)行的算法調(diào)整已成功減少了宣傳虛假信息的內(nèi)容創(chuàng)作者的訪問量。但是，它們也增加了對(duì)經(jīng)常傳播相同可疑信息的大型實(shí)體的訪問量。

用戶AI照亮醫(yī)療

今年受到疫情的影響，人工智能在醫(yī)學(xué)領(lǐng)域的障礙開始減少，為深度學(xué)習(xí)在醫(yī)療設(shè)備和治療中的廣泛臨床應(yīng)用創(chuàng)造了條件。

?

? ? ? ?

DeepMind 的 AlphaFold 模型在數(shù)小時(shí)內(nèi)就確定了一個(gè)蛋白質(zhì)的三維形狀，因?yàn)橛型咝ч_發(fā)出新的藥物而成為了焦點(diǎn)。

?

與此同時(shí)，醫(yī)療機(jī)構(gòu)也采取了新的做法，將這些AI技術(shù)帶入主流的醫(yī)療實(shí)踐中嘗試。機(jī)構(gòu)的這種變化促進(jìn)了醫(yī)學(xué)人工智能的發(fā)展，并且預(yù)示著它將要被越來越多的人所接受。

?

例如，美國最大的醫(yī)療保險(xiǎn)公司Medicaid and Medicare就會(huì)對(duì)使用某種機(jī)器學(xué)習(xí)設(shè)備的醫(yī)生進(jìn)行一定的補(bǔ)償：Viz.ai的VizLVO就可以在病人中風(fēng)的時(shí)候，及時(shí)的提醒醫(yī)生。同時(shí)，F(xiàn)DA還批準(zhǔn)了幾種新的基于人工智能的治療方法和設(shè)備，

?? ? ? ?

? ? ? ?

不過，目前很多應(yīng)用都需要醫(yī)院重新組織工作流程，這在一定程度上減慢了普及速度。一旦他們通過了 FDA 和醫(yī)療保險(xiǎn)，臨床醫(yī)生就有了更大的動(dòng)力去做出必要的改變來充分利用AI。

?

NLP大進(jìn)化，作家解脫了嗎？

?? ? ? ?? ? ? ??

隨著用于NLP的神經(jīng)網(wǎng)絡(luò)變得越來越大，越來越多產(chǎn)，結(jié)果也越來越有趣。

?

語言模型（LM）現(xiàn)在已經(jīng)發(fā)展到了巨大的規(guī)模，并且還在繼續(xù)變大。

?? ? ??? ? ? ?

OpenAI 的1750億參數(shù)的文本生成器 GPT-3比它的前身 GPT-2寫得更加連貫，以至于有騙子用它來創(chuàng)建博客或者和歷史人物對(duì)話。

?

語言模型也促進(jìn)了一些商業(yè)工具的發(fā)展，例如幫助蘋果公司的autocorrect來區(qū)別不同語言之間的差異, 使得亞馬遜的 Alexa可以注意到談話的變化。

?

在語言模型中，越大越好這句話并沒有錯(cuò)，但并不僅限于此。

iGPT預(yù)示著模型可以同時(shí)訓(xùn)練圖像和文字。至少 OpenAI 正在研究的這些模型，可能比2020年的巨型語言模型更聰明、更奇特。

?

以上，就是吳恩達(dá)發(fā)布在the Batch上的2020總結(jié)文，最后：附上吳恩達(dá)開篇的一段話，這位人工智能專家對(duì)我們進(jìn)行了鼓勵(lì)。

在過去的十年里，每年的12月22日，我都會(huì)飛到新加坡或香港，和母親一起慶祝她的生日。今年，我們第一次通過 Zoom 實(shí)現(xiàn)了這一點(diǎn)。盡管距離遙遠(yuǎn)，但我感到溫暖，因?yàn)槲业募胰丝梢詮拿绹?、新加坡、香港和新西蘭聚集在一起，唱一首同步性很差的「祝你生日快樂」。

我希望我也可以與你們每一個(gè)人在一個(gè)極速電話祝愿你們節(jié)日快樂和一個(gè)更快樂的新年！

在假期里，我經(jīng)常想想我生命中重要的人的名單，回憶他們?yōu)槲一蚱渌俗隽耸裁矗⒛馗兄x他們。這讓我感覺與他們更加緊密相連。也許你會(huì)發(fā)現(xiàn)，在我們?cè)S多人都會(huì)有的社會(huì)距離假期里，思考這個(gè)問題也是很有價(jià)值的: 誰是你生命中最重要的人，你有什么理由去感激他們？

無論是面對(duì)面的還是在線的，我希望你能找到方法在這個(gè)假期里培養(yǎng)你最重要的人際關(guān)系。

?

Keep learning!

Andrew Ng

參考鏈接：

https://blog.deeplearning.ai/blog/the-batch-biggest-ai-stories-of-2020-covid-triage-fun-with-gans-disinfo-whack-a-mole-gpt-superstar-imagenet-recall-fda-approvals

推薦閱讀：

「2020中國AI算力報(bào)告」重磅出爐：中國怎么解決GPT-3的算力難題？