本文約1000字，建議閱讀6分鐘
斯坦福大學(xué) CS224N 是 NLP 領(lǐng)域最權(quán)威的課程之一。
自然語言處理（NLP）是人工智能重要的組成部分。從網(wǎng)絡(luò)搜索、廣告、電子郵件到客戶服務(wù)、語言翻譯、虛擬代理、醫(yī)療報告等，NLP 的應(yīng)用幾乎無處不在。近年來，深度學(xué)習(xí)方法在許多 NLP 任務(wù)上獲得了非常高的性能。斯坦福大學(xué) CS224N 一直是 NLP 領(lǐng)域最權(quán)威的課程之一。2021 年冬季的課程于年初開課，之前僅對注冊學(xué)生開放，現(xiàn)在該課程已在 YouTube 上上線全部內(nèi)容，公開可看。YouTube 地址：https://www.youtube.com/playlist?list=PLoROMvodv4rOSH4v6133s9LFPRHjEmbmJ
課程資料也可在原課程鏈接中查看：http://web.stanford.edu/class/cs224n/該課程的授課講師是斯坦福大學(xué)教授 Christopher Manning 以及他的三年級博士生 John Hewitt。該課程全面介紹了 NLP 深度學(xué)習(xí)的前沿研究，使用 PyTorch 授課。學(xué)習(xí)該課程之前同學(xué)們需要熟練使用 Python、掌握大學(xué)微積分、線性代數(shù)、概率論與統(tǒng)計的基本知識，并了解機器學(xué)習(xí)的一些基礎(chǔ)知識，包括模型構(gòu)建、梯度下降等。2021 年 CS224N 冬季課程早已于 1 月 12 日開課，并于 3 月 18 日結(jié)束。1 月課程主要包括詞向量、Gensim 詞向量示例、 詞窗口分類、Python 知識回顧、反向傳播和神經(jīng)網(wǎng)絡(luò)、依存句法分析、PyTorch 知識回顧、梯度消失、Fancy 循環(huán)神經(jīng)網(wǎng)絡(luò)和 Seq2Seq 等。
2 月課程主要包括機器翻譯、注意力、子詞模型、Transformer 和預(yù)訓(xùn)練、問答系統(tǒng)（陳丹琦）、自然語言生成、模型分析與解釋以及 T5 和大型語言模型等。
3 月的課程主要包括卷積神經(jīng)網(wǎng)絡(luò)（ConvNet）、基于樹形結(jié)構(gòu)的 RNN、深度學(xué)習(xí)中選區(qū)解析和語言結(jié)構(gòu)扮演的角色、語言模型中的知識集成、安全 & 倫理 & 偏見以及 NLP 和深度學(xué)習(xí)的未來發(fā)展等。
Christopher Manning 是斯坦福大學(xué) AI 實驗室主任、人工智能和計算語言學(xué)領(lǐng)域的權(quán)威專家。他曾先后在卡內(nèi)基梅隆大學(xué)、悉尼大學(xué)等任教，1999 年回到母校斯坦福，就職于計算機科學(xué)和語言學(xué)系，是斯坦福自然語言處理組（Stanford NLP Group）的創(chuàng)始成員及負(fù)責(zé)人。Manning 的研究目標(biāo)是以智能的方式實現(xiàn)人類語言的處理、理解及生成，研究領(lǐng)域包括樹形 RNN 、情感分析、基于神經(jīng)網(wǎng)絡(luò)的依存句法分析、神經(jīng)機器翻譯和深度語言理解等，是 NLP 領(lǐng)域的深度學(xué)習(xí)開拓者。他是國際計算機學(xué)會 (ACM)、國際人工智協(xié)會（AAAI）和國際計算語言學(xué)會（ACL）等國際權(quán)威學(xué)術(shù)組織的 Fellow，曾獲 ACL、EMNLP、COLING、CHI 等國際頂會最佳論文獎，并著有《統(tǒng)計自然語言處理基礎(chǔ)》、《信息檢索導(dǎo)論》等自然語言處理著名教材。John Hewitt 現(xiàn)在是斯坦福大學(xué)計算機科學(xué)專業(yè)博士四年級的學(xué)生，師從 Manning 和 Percy Liang，主要研究方向為自然語言處理。John Hewitt 曾獲 NSF 研究生獎學(xué)金（NSF Graduate Research Fellowship）。他的研究目標(biāo)是設(shè)計一種能夠穩(wěn)健且有效地學(xué)習(xí)理解人類語言的系統(tǒng)，最終促進(jìn)人類的交流和教育。
下載APP