【機(jī)器學(xué)習(xí)】陳天奇：首個(gè)機(jī)器學(xué)習(xí)編譯課程！

陳天奇：「因?yàn)槭澜缟线€沒(méi)有關(guān)于這個(gè)方向的系統(tǒng)性課程，所以這一次嘗試應(yīng)該會(huì)是和小伙伴們共同的探索」。

隨著機(jī)器學(xué)習(xí)框架和硬件需求的發(fā)展，機(jī)器學(xué)習(xí) / 深度學(xué)習(xí)編譯正成為一個(gè)越來(lái)越受關(guān)注的話題。

在去年 12 月的一篇文章中，TVM、MXNET、XGBoost 作者，CMU 助理教授，OctoML CTO 陳天奇探討了「新一代深度學(xué)習(xí)編譯技術(shù)的變革和展望」。他指出，現(xiàn)在深度學(xué)習(xí)編譯生態(tài)正圍繞四類抽象展開(kāi)：計(jì)算圖表示、張量程序表示、算子庫(kù)和運(yùn)行環(huán)境、硬件專用指令。

不過(guò)，由于篇幅受限，陳天奇并未就這一話題展開(kāi)系統(tǒng)、詳細(xì)的討論，這讓很多對(duì)機(jī)器學(xué)習(xí) / 深度學(xué)習(xí)編譯感興趣的小伙伴感到意猶未盡。陳天奇本人也表示，「目前互聯(lián)網(wǎng)上也有一些關(guān)于機(jī)器學(xué)習(xí)編譯的介紹，不過(guò)大部分都還是介紹其中的各個(gè)模塊，或者是針對(duì)一個(gè)系統(tǒng)的深入內(nèi)部講解。」因此，陳天奇萌生了開(kāi)一門系統(tǒng)性課程的想法。

6 月 2 日，陳天奇通過(guò)知乎宣布，由他主講的機(jī)器學(xué)習(xí)編譯入門課程將于近期正式開(kāi)課。

原貼鏈接：https://zhuanlan.zhihu.com/p/523372873

陳天奇介紹說(shuō)，目前課程已經(jīng)確定了幾點(diǎn)大的方向，「首先，機(jī)器學(xué)習(xí)編譯本身雖然有『編譯』二字，其涉及到的技術(shù)其實(shí)超過(guò)了傳統(tǒng)編譯的范疇，包含了如機(jī)器學(xué)習(xí)搜索自動(dòng)化，算子庫(kù)整合，和機(jī)器學(xué)習(xí)生態(tài)交互等各個(gè)方面。而在相關(guān)抽象設(shè)計(jì)上面也有許多機(jī)器學(xué)習(xí)需求本身的考量。」因此，「這次課程會(huì)集中介紹計(jì)算圖、張量程序、算子庫(kù)和硬件指令四個(gè)層面的抽象。而更加重要的一點(diǎn)考量是整合。一般對(duì)于機(jī)器學(xué)習(xí)編譯的介紹都會(huì)集中在一個(gè)點(diǎn)上，而各大抽象的整合本身反而恰好是真正需要大家關(guān)注的地方。」

目前，課程的中英文大綱都已經(jīng)在官網(wǎng)上線，課程視頻也是中英文均有。

• 英文課程主頁(yè) https://mlc.ai/summer22/?

• 中文課程主頁(yè) https://mlc.ai/summer22-zh/?

以下是關(guān)于該課程的詳細(xì)信息（來(lái)自課程官網(wǎng)）：

課程簡(jiǎn)介

隨著人工智能應(yīng)用在我們的日常生活中變得越來(lái)越普遍，目前存在的挑戰(zhàn)是如何在不同的生產(chǎn)環(huán)境中部署最新的人工智能模型。模型和部署環(huán)境的組合爆炸給訓(xùn)練和推理部署帶來(lái)了巨大的挑戰(zhàn)。此外，目前落地的模型也提出了更多的要求，例如減少軟件依賴、全面的模型覆蓋、利用新硬件進(jìn)行加速、減少內(nèi)存占用，以及更強(qiáng)的可擴(kuò)展性。

這些模型訓(xùn)練和推理問(wèn)題，涉及機(jī)器學(xué)習(xí)編程范式、基于學(xué)習(xí)的搜索算法、編譯優(yōu)化以及計(jì)算運(yùn)行時(shí)。這些話題的組合生成了一個(gè)全新主題——機(jī)器學(xué)習(xí)編譯，并且該方向正在不斷持續(xù)發(fā)展。這門課程將按照其中的關(guān)鍵元素，系統(tǒng)地研究這一新興領(lǐng)域的關(guān)鍵要素。參與者將學(xué)習(xí)一些核心的概念，用以表示機(jī)器學(xué)習(xí)程序、自動(dòng)優(yōu)化技術(shù)，以及在端到端機(jī)器學(xué)習(xí)部署中優(yōu)化環(huán)境依賴、內(nèi)存和性能的方法。

課程受眾和知識(shí)儲(chǔ)備要求

關(guān)于這門課程的受眾和要求，陳天奇表示，「這次課程本身并不需要編譯和機(jī)器學(xué)習(xí)系統(tǒng)的背景知識(shí)。只需要對(duì)于深度學(xué)習(xí)框架有一些使用經(jīng)驗(yàn)即可」。具體信息如下：

課程安排

從目前公布的課程安排來(lái)看，這門課程總共有 11 次課，從 6 月 17 日一直持續(xù)到 8 月 23 日，可以陪伴大家度過(guò)一個(gè)充實(shí)的夏天。

此外，這門課程還設(shè)置了專門的中英文論壇。

• 中文論壇：https://github.com/mlc-ai/mlc-zh/discussions

• 英文論壇：https://github.com/mlc-ai/mlc-en/discussions

往期精彩回顧




適合初學(xué)者入門人工智能的路線及資料下載
(圖文+視頻)機(jī)器學(xué)習(xí)入門系列下載
中國(guó)大學(xué)慕課《機(jī)器學(xué)習(xí)》（黃海廣主講）
機(jī)器學(xué)習(xí)及深度學(xué)習(xí)筆記等資料打印
《統(tǒng)計(jì)學(xué)習(xí)方法》的代碼復(fù)現(xiàn)專輯
機(jī)器學(xué)習(xí)交流qq群955171419，加入微信群請(qǐng)掃碼