【公開課】李沐大佬:深度學(xué)習(xí)論文精讀
↑↑↑點擊上方藍字,回復(fù)資料,10個G的驚喜
李沐老師是我特別敬佩的深度學(xué)習(xí)“大神”,之前我在公眾號推薦過他的兩篇文章:
也推薦過他的著作:全球175所大學(xué)教材:《動手學(xué)深度學(xué)習(xí)》(中文版下載)
可能還有同學(xué)不知道李沐,這里簡單介紹一下他的履歷。
他是硅谷華人技術(shù)人才,深度學(xué)習(xí)框架MXNet作者之一,也是《動手學(xué)深度學(xué)習(xí)》作者之一。
2004年,李沐從計算機系A(chǔ)CM班畢業(yè)。上海交通大學(xué)ACM班是以培養(yǎng)計算機科學(xué)家而聞名的“特色班”,自大學(xué)起李沐就開啟了他的開掛人生。
微軟亞洲研究院實習(xí),2007 年夏 香港科技大學(xué)研究助理,2009 - 2010 百度高級研究員, 2011.4 - 2012.8 Google Research 實習(xí)生,2013 年夏 CMU 讀博士,2012-2017 百度首席架構(gòu)師,2014.4-2015.12 亞馬遜首席科學(xué)家,2017 年 3 月至今
大佬百忙之中還布道技術(shù),今天就再向大家推薦他的最新系列視頻:深度學(xué)習(xí)論文精讀
地址:
https://space.bilibili.com/1567748478/channel/seriesdetail?sid=398820
目前已更新了五節(jié):
如何讀論文 9年后重讀深度學(xué)習(xí)奠基作之一:AlexNet AlexNet 論文逐段精讀 撐起計算機視覺半邊天的 ResNet ResNet 論文逐段精讀
后續(xù)將更新更多深度學(xué)習(xí)里有影響力論文:
1、Adam。深度學(xué)習(xí)里最常用的優(yōu)化算法之一。
2、EfficientNet。通過架構(gòu)搜索得到的CNN,現(xiàn)在常被使用。
3、BERT。讓深度學(xué)習(xí)在NLP上熱度超過了CV。
4、GPT3。朝著zero-shot learning邁了一大步。當(dāng)然也得講一講GPT/GPT-2
5、GAN。生成類模型中的開創(chuàng)性工作。
6、CLIP。圖片分類從此不用標(biāo)數(shù)據(jù)。
7、Non-deep networks。21年10月的新工作,讓不深的網(wǎng)絡(luò)也能在ImageNet刷到SOTA。
8、為什么超大的模型泛化性不錯
9、GNN介紹。Distill上最近一篇寫得很好的介紹性文章。
10、AlphaGo。讓強化學(xué)習(xí)出圈的一系列工作。
感興趣的同學(xué),學(xué)起來!
推薦閱讀
(點擊標(biāo)題可跳轉(zhuǎn)閱讀)
機器學(xué)習(xí)最困難的部分:超參數(shù)調(diào)試
神經(jīng)網(wǎng)絡(luò)之CNN與RNN的關(guān)系
老鐵,三連支持一下,好嗎?↓↓

