AI領(lǐng)域最最最稀缺的人才——AI架構(gòu)師
AI 架構(gòu)師這個(gè)角色是在最近幾年里逐漸衍生出來的，可謂是人工智能界的“新貴”。
“新”，是因?yàn)殡S著近幾年來AI工程化落地的人才需求井噴，才催生出了“AI架構(gòu)師”這份職業(yè)；“貴”，則是因?yàn)檫@份工作的年薪，由于其人才稀缺性，達(dá)到了令人咋舌的程度。在網(wǎng)上隨便一搜，便能發(fā)現(xiàn)各大互聯(lián)網(wǎng)公司開出的薪資，平均竟高達(dá)40k-50k，更有甚者可達(dá)年薪百萬。
圖片來源：拉勾網(wǎng)
這是隨隨便便工作一年，就湊夠一套北上廣首付的節(jié)奏。若是再加上股票期權(quán)等隱形福利，40歲之前實(shí)現(xiàn)財(cái)務(wù)自由，從此逍遙快活不是夢。
但是，這份工作并不是人人都能做，我們得看看它到底“貴”在哪兒？需要哪些核心技能？
什么樣的人才能讓大廠為之瘋狂？
以阿里巴巴在招的AI高級解決方案架構(gòu)師為例，我們來歸納總結(jié)一下此職位的技能樹：
圖片來源：獵聘網(wǎng)
堅(jiān)實(shí)的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)理論基礎(chǔ)
能熟練使用Python、Tensorflow等建模工具，對數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)算法有深入的了解。
豐富的項(xiàng)目實(shí)戰(zhàn)經(jīng)驗(yàn)
包括機(jī)器學(xué)習(xí)算法應(yīng)用、分布式深度學(xué)習(xí)框架、數(shù)據(jù)挖掘項(xiàng)目等實(shí)際應(yīng)用的經(jīng)驗(yàn)。
業(yè)務(wù)理解能力
能夠快速理解業(yè)務(wù)，將業(yè)務(wù)問題轉(zhuǎn)化為實(shí)際問題，并給出針對性解決方案。
總的來說，AI架構(gòu)師不僅要對AI知識體系有一個(gè)穿透性的理解，更要通過大量的項(xiàng)目實(shí)踐，將理論應(yīng)用到現(xiàn)實(shí)中來，而想要達(dá)到年薪百萬的水平，還需不斷訓(xùn)練自己將業(yè)務(wù)問題抽象成AI問題的能力，并提出相應(yīng)的解決方案。
掙錢難嗎？難。
但并不是不可能。
貪心學(xué)院?
分布式高性能深度學(xué)習(xí)實(shí)戰(zhàn)培養(yǎng)計(jì)劃
現(xiàn)在加入，給自己一個(gè)躋身金字塔尖的機(jī)會
為什么推薦這門課程？
幫你打基礎(chǔ)
各大AI框架設(shè)計(jì)原理講解，學(xué)完你將迅速掌握Tensorflow、Pytorch、Mxnet等常用訓(xùn)練框架的分布式通信及計(jì)算原理。CUDA、MPI、OPENMP等常用并行計(jì)算庫的使用。TensorRT、TNN等常用部署框架的設(shè)計(jì)及使用。模型量化、壓縮、裁剪、混合精度訓(xùn)練等常用優(yōu)化方法。
帶你做項(xiàng)目
語音、視覺、推薦，三大性能提升項(xiàng)目實(shí)戰(zhàn)，涵蓋深度學(xué)習(xí)的目標(biāo)檢測算法，AI個(gè)性化語音合成項(xiàng)目實(shí)戰(zhàn)，以及基于算法的分布式推薦系統(tǒng)實(shí)操。
大廠導(dǎo)師親自帶隊(duì)，手把手傳授一線業(yè)務(wù)經(jīng)驗(yàn)
課程主講人任老師，是現(xiàn)任某大廠深度學(xué)習(xí)高性能負(fù)責(zé)人，百度深度學(xué)習(xí)技術(shù)平臺部Paddle資深架構(gòu)師，獵豹移動NR推薦系統(tǒng)及語音識別資深算法工程師，以及中科院信息工程研究所的助理研究員。
曾參與研發(fā)產(chǎn)品包括小愛同學(xué)、小雅、小豹智能音箱智能語音系統(tǒng)，News Republic新聞推薦系統(tǒng)，中科院大規(guī)模GPU+FPGA分布式異構(gòu)計(jì)算系統(tǒng)，Paddle 集合通信框架及PLSC開發(fā)。資歷豐富，技術(shù)過硬，對于AI架構(gòu)師的能力要求及培養(yǎng)非常有經(jīng)驗(yàn)。
課程大綱
階段一：基礎(chǔ)準(zhǔn)備及概述
Week01 基礎(chǔ)理論及課程介紹
課程安排與三大項(xiàng)目介紹（圖像+語音+推薦）
高性能計(jì)算技術(shù)深度學(xué)習(xí)應(yīng)用概覽。
矩陣計(jì)算基礎(chǔ)理論。
Cupy矩陣加速技術(shù)。
Numba 編譯加速技術(shù)。
練習(xí)：使用Cupy實(shí)現(xiàn)千萬級矩陣加法運(yùn)算。
Week02 并行及分布式框架概述
經(jīng)典并行計(jì)算方案介紹。
OPENMP技術(shù)詳細(xì)介紹。
MPI技術(shù)詳細(xì)介紹。
NV集合通信NCCL 技術(shù)介紹。
練習(xí)：使用MPI/NCCL/OPENMP實(shí)現(xiàn)并行規(guī)約算法。
階段二: 目標(biāo)檢測項(xiàng)目
Week 03 -Week 05
內(nèi)容簡介：
目標(biāo)檢測計(jì)算機(jī)視覺中的經(jīng)典問題。目前已經(jīng)廣泛應(yīng)用在行人跟蹤、車牌識別、無人駕駛等領(lǐng)域。基于深度學(xué)習(xí)的目標(biāo)檢測算法由于具有較高的識別準(zhǔn)確率逐漸成為主流。目標(biāo)檢測算法對實(shí)時(shí)性要求較高，本項(xiàng)目著力于解決這一問題。
學(xué)習(xí)目標(biāo)：
通過目標(biāo)檢測這類以卷積模塊為主的模型的解構(gòu)，掌握并能夠上手自己動手實(shí)現(xiàn)卷積等常規(guī)的神經(jīng)網(wǎng)絡(luò)算子，并使用TensorRT框架完成基于GPU的目標(biāo)檢測項(xiàng)目的部署。
Week 03 經(jīng)典卷積網(wǎng)絡(luò)回顧
經(jīng)典卷積網(wǎng)絡(luò)模型回顧，從Lenet到Resnet。
卷積參數(shù)設(shè)計(jì)及應(yīng)用詳解(分組卷積，空洞卷積等)。
卷積層的正向和反向傳播算法。
卷積層的計(jì)算優(yōu)化技術(shù)。
練習(xí)：樸素2D Conv的Pytorch 插件實(shí)現(xiàn)(含反向傳播)。
Week 04 目標(biāo)檢測算法
RCNN系列模型分析。
YOLO系列模型分析。
SSD系列模型分析。
Tensorrt框架入門。
練習(xí)：Tensorrt SSD項(xiàng)目的部署。
Week 05 ?NvidiaTensort核心算法和Plugin開發(fā)
TensoRT 量化技術(shù)。
TensoRT混合推理的原理。
TensoRT的Plugin開發(fā)流程。
練習(xí)：使用不同級別量化對比YOLO 推理性能。
階段三：個(gè)性化語音合成項(xiàng)目實(shí)戰(zhàn)
Week 06-10
內(nèi)容簡介：?
智能化的讀書功能，允許選擇語音音色來進(jìn)行聽書。導(dǎo)航的智能語音-如百度地圖、高德地圖、傳統(tǒng)Garmin導(dǎo)航等，都支持選擇不同語言進(jìn)行實(shí)時(shí)導(dǎo)航。智能音箱-喜馬拉雅FM的小雅、科大訊飛的智能語音輸入，支持辨識活體語音，進(jìn)行反饋處理再以語音方式反饋回復(fù)。這些問題背后都是基于Seq2Seq的深度學(xué)習(xí)合成模型，該模型結(jié)構(gòu)復(fù)雜計(jì)算量大，本項(xiàng)目旨在通過通過優(yōu)化解決這一問題。
學(xué)習(xí)目標(biāo)：
掌握個(gè)性化語音合成中經(jīng)典的聲紋提取、基于Attention的合成模型、以及典型的基于卷積網(wǎng)絡(luò)的聲碼器設(shè)計(jì)。在此基礎(chǔ)上掌握基于ONNX的通用模型轉(zhuǎn)換技術(shù)及基于TensorRT來進(jìn)行模型部署推理加速。
Week 06：合成項(xiàng)目全貌概覽
合成項(xiàng)目整體介紹。
聲紋提取網(wǎng)絡(luò)結(jié)構(gòu)。
Tacotron/Tacoton2 結(jié)構(gòu)介紹。
Wavenet、WaveRNN、WaveGlow 結(jié)構(gòu)介紹。
實(shí)踐課：Pytorch 實(shí)現(xiàn)Google Speaker Embedding。
Week 07 計(jì)算圖表示及優(yōu)化
ONNX計(jì)算圖表示方法介紹。
ONNX 圖優(yōu)化的常用技術(shù)。
Pytorch模型轉(zhuǎn)ONNX技術(shù)介紹。
實(shí)踐課：實(shí)現(xiàn)Google Speaker Embedding 模塊的onnx輸出并進(jìn)行圖優(yōu)化。
Week 08 ?Attention-Based Seq2Seq模型Tacotron2?
Tacotron2模型整體結(jié)構(gòu)。
Attention技術(shù)回顧。
teacher forcing技術(shù)。
GRU算法的TensorRT實(shí)現(xiàn)。
練習(xí)：將tacotron2模型輸出為優(yōu)化后的onnx模型并Tensorrt部署。
Week 09 聲碼器: Wave序列生成算法實(shí)戰(zhàn)。
聲碼器技術(shù)回顧。
wavenet模型解讀。
WaveRNN模型解讀。
WaveGLow模型解讀。
實(shí)踐課：整體部署優(yōu)化后的5s語音合成系統(tǒng)。
階段四：分布式推薦系統(tǒng)
Week 10 – week12
內(nèi)容介紹：
頭條新聞推薦、抖音短視頻推薦、京東商品推薦個(gè)性化推薦已經(jīng)成為現(xiàn)代人們生活的一部分。推薦系統(tǒng)特征往往具備稀疏性的問題，如果解決大規(guī)模稀疏模型的訓(xùn)練時(shí)本項(xiàng)目擬解決的問題。
學(xué)習(xí)目標(biāo)：
通過推薦系統(tǒng)這一大規(guī)模稀疏特征特性的模型結(jié)構(gòu)，了解參數(shù)服務(wù)器的設(shè)計(jì)以及分布式環(huán)境下的反向傳播算法的實(shí)現(xiàn)，以及常見梯度計(jì)算優(yōu)化算法Local SGD,同時(shí)具備常用推薦模型的應(yīng)用部署能力。
Week10 推薦系統(tǒng)概覽
經(jīng)典推薦算法概述。
基于LR的樸素新聞推薦系統(tǒng)設(shè)計(jì)。
常用Layer的前向傳播和反向傳播算法。以fc和pooling為例。
實(shí)踐課：實(shí)現(xiàn)最基本的LR推薦。
Week11 分布式參數(shù)服務(wù)器
參數(shù)服務(wù)器概述。
分布式環(huán)境下的SGD算法。
Range 查詢的高效實(shí)現(xiàn)。
實(shí)踐課：用pslite實(shí)現(xiàn)分布式大規(guī)模矩陣加法。
Week 12：分布式推薦系統(tǒng)實(shí)戰(zhàn)
FM算法詳細(xì)詳細(xì)介紹。
DeepFM算法詳細(xì)介紹。
稀疏矩陣的全局參數(shù)更新算法。
實(shí)戰(zhàn)項(xiàng)目：用pslite實(shí)現(xiàn)分布式FM推薦算法。
階段五 深度學(xué)習(xí)高級主題
Week13-Week15
內(nèi)容介紹：
深度學(xué)習(xí)框架日新月異。國際上有Tensorflow、Pytorch、Keras等框架，國內(nèi)有PaddlePaddle、曠世天元，清華計(jì)圖等框架，那么這些框架遵循怎樣的設(shè)計(jì)理念和發(fā)展發(fā)現(xiàn)，本階段內(nèi)容通過梳理典型框架的設(shè)計(jì)來讓學(xué)員對這些問題有更為清晰和直觀的認(rèn)識。
學(xué)習(xí)目標(biāo)：?掌握深度學(xué)習(xí)架構(gòu)的設(shè)計(jì)思想及技術(shù)演進(jìn)，通過對核心的框架通信技術(shù)的解讀以及經(jīng)典的圖優(yōu)化算子融合等技術(shù)的講解，讓讀者未來對框架的使用更加熟練。
Week13 深度學(xué)習(xí)架構(gòu)演進(jìn)
主流深度學(xué)習(xí)框架的核心設(shè)計(jì)思路對比。
第一代系統(tǒng)
第二代系統(tǒng)
第三代系統(tǒng)
實(shí)戰(zhàn)項(xiàng)目：paddle中的program技術(shù)分析報(bào)告。
Week14 訓(xùn)練加速高級技術(shù)1
Local SGD原理。?
并行執(zhí)行器設(shè)計(jì)。
實(shí)戰(zhàn)項(xiàng)目：動手實(shí)現(xiàn)local sgd。
Week15 訓(xùn)練加速高級技術(shù) 2
深度學(xué)習(xí)框架分布式通信技術(shù)。
深度學(xué)習(xí)框架計(jì)算圖fuse技術(shù)。
實(shí)踐課：TNN ?fuse技術(shù)源碼分析報(bào)告。
階段六 結(jié)業(yè)答辯
Week16 閉幕式
課程總結(jié)
項(xiàng)目答辯
畢業(yè)典禮
這門課程適合誰？
畢業(yè)后希望躋身AI領(lǐng)域的大學(xué)生
計(jì)算機(jī)或者信息領(lǐng)域相關(guān)的本科/碩士/博士生。
畢業(yè)后希望從事深度學(xué)習(xí)相關(guān)的工作。
想要在深度學(xué)習(xí)應(yīng)用外掌握深度學(xué)習(xí)框架的設(shè)計(jì)。
想要學(xué)習(xí)框架二次開發(fā)，驗(yàn)證新算法的能力。
想要實(shí)現(xiàn)技能提升，跳槽大廠的在職人士
具備良好的工程研發(fā)背景，希望從事AI相關(guān)的項(xiàng)目或者工作。
從事AI單一領(lǐng)域，但希望具備深度學(xué)習(xí)從框架到部署優(yōu)化全鏈路能力。
希望能夠提升模型部署中遇到的性能瓶頸時(shí)的問題解決能力。
希望提升針對框架進(jìn)行二次開發(fā)的能力，及時(shí)上線新模型新算法。
你需要具備什么基礎(chǔ)，才能達(dá)到最佳學(xué)習(xí)效果？
理工科專業(yè)相關(guān)本科生、碩士生、博士生或者IT領(lǐng)域的在職人士。
具備良好的編程能力，具備良好的C++和Python編程能力。
從事深度學(xué)習(xí)領(lǐng)域相關(guān)工作，對深度學(xué)習(xí)訓(xùn)練、部署及優(yōu)化有初步的認(rèn)識。
具備良好的論文閱讀能力。
學(xué)完課程，你將成為這樣的專業(yè)人才
解決專業(yè)技能不扎實(shí)，硬實(shí)力薄弱的問題
核心內(nèi)容知識點(diǎn)涵蓋CUDA、Cupy、Numba、TensorRT、TNN、計(jì)算圖優(yōu)化、算子融合、 GMM Attention、Forward Attention、tts、Tacotron2、 FastSpeech……你所需要的技能工具，我們都準(zhǔn)備好了。
解決實(shí)戰(zhàn)經(jīng)驗(yàn)不足，導(dǎo)致簡歷無項(xiàng)目可寫的問題
從深度學(xué)習(xí)的應(yīng)用場景（語音、視覺、推薦項(xiàng)目），到AI項(xiàng)目落地全鏈路流程，包括深度學(xué)習(xí)系統(tǒng)設(shè)計(jì) 、并行計(jì)算優(yōu)化、部署優(yōu)化、應(yīng)用，豐富的實(shí)踐挑戰(zhàn)，讓你的簡歷不再有任何空白。
【劃重點(diǎn)】
本期課程已開班
不想錯(cuò)過進(jìn)度的同學(xué)
速速掃描下方二維碼報(bào)名咯！