高性能神經(jīng)網(wǎng)絡(luò)與AI芯片の應(yīng)用
隨著大數(shù)據(jù)的發(fā)展，計算機芯片算力的提升，人工智能近兩年迎來了新一輪的爆發(fā)。而人工智能實現(xiàn)超級算力的核心就是AI芯片。AI芯片也被稱為人工智能加速器，即專門用于處理人工智能應(yīng)用中的大量計算任務(wù)的模塊。
2020年我國人工智能芯片市場規(guī)模約為184億元。未來5G商用的普及將繼續(xù)催生人工智能芯片的應(yīng)用需求，中國人工智能芯片行業(yè)將快速發(fā)展，預(yù)計2023年市場規(guī)模將突破千億元。
那么，如何借助AI芯片來實現(xiàn)特定的任務(wù)，將是所有AI芯片產(chǎn)業(yè)人員必備的技能。
為此，貪心學(xué)院重磅推出《高性能神經(jīng)網(wǎng)絡(luò)與AI芯片應(yīng)用研修課程》，為想進入AI芯片行業(yè)的同學(xué)們提供一個可以大幅提升自身就業(yè)競爭力的選擇。
本課程會講解AI芯片相關(guān)知識、高性能網(wǎng)絡(luò)設(shè)計、通用芯片及專用芯片計算加速方法等專業(yè)技能，并結(jié)合優(yōu)秀編譯器的架構(gòu)和實現(xiàn)細節(jié)的講解，為學(xué)生構(gòu)建高性能AI算法的軟硬件視角，能夠解決應(yīng)用落地時神經(jīng)網(wǎng)絡(luò)的優(yōu)化和部署相關(guān)問題。
01
內(nèi)容亮點
全面技術(shù)講解：課程涵蓋了輕量化神經(jīng)網(wǎng)絡(luò)設(shè)計、神經(jīng)網(wǎng)絡(luò)部署前的優(yōu)化方法、神經(jīng)網(wǎng)絡(luò)編譯器的設(shè)計模式和具體實現(xiàn)、神經(jīng)網(wǎng)絡(luò)部署到芯片上的計算加速等全面的AI嵌入式芯片設(shè)計和應(yīng)用相關(guān)人員就業(yè)必備的知識。 軟硬件相結(jié)合：本課程除了全面講解高性能神經(jīng)網(wǎng)絡(luò)相關(guān)的知識技術(shù)外，還會指導(dǎo)學(xué)員在硬件上進行實操。 專家導(dǎo)師授課：課程導(dǎo)師為AI芯片行業(yè)專家，相關(guān)項目經(jīng)驗十分豐富。
02
你將收獲
掌握神經(jīng)網(wǎng)絡(luò)高性能實現(xiàn)的算法及工具 掌握通用芯片及專用AI芯片架構(gòu)及網(wǎng)絡(luò)加速技術(shù) 掌握通用芯片及專用AI芯片神經(jīng)網(wǎng)絡(luò)部署應(yīng)用的實際案例 短期內(nèi)對一個領(lǐng)域有全面的認識，大大節(jié)省學(xué)習(xí)時間 認識一群擁有同樣興趣的人、相互交流、相互學(xué)習(xí)
03
項目介紹
04
詳細內(nèi)容介紹
第一周：輕量化網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計
本節(jié)課將講解網(wǎng)絡(luò)參數(shù)量、浮點運算數(shù)等模型評價指標、工具，以及分類網(wǎng)絡(luò)， 檢測網(wǎng)絡(luò)，分割網(wǎng)絡(luò)的輕量化設(shè)計。
課程提綱：
輕量化網(wǎng)絡(luò)設(shè)計背景介紹 網(wǎng)絡(luò)的計算量和內(nèi)存分析工具 主干網(wǎng)絡(luò)的輕量化 檢測網(wǎng)絡(luò)的輕量化 分割網(wǎng)絡(luò)的輕量化 典型網(wǎng)絡(luò)的設(shè)計思路
第二周：知識蒸餾優(yōu)化、低秩分解優(yōu)化
本節(jié)課將講解神經(jīng)網(wǎng)絡(luò)知識蒸餾優(yōu)化、神經(jīng)網(wǎng)絡(luò)計算低秩分解加速計算方法。
課程提綱：
知識蒸餾方法介紹
知識蒸餾原理和步驟介紹
知識蒸餾訓(xùn)練方法縮減網(wǎng)絡(luò)的實際分類網(wǎng)絡(luò)演示
低秩分解原理
低秩分解加速計算在神經(jīng)網(wǎng)絡(luò)推理中的應(yīng)用
第三周：網(wǎng)絡(luò)剪枝
網(wǎng)絡(luò)剪枝的原理 常用的剪枝策略 神經(jīng)網(wǎng)絡(luò)框架中的剪枝功能介紹 剪枝的實際使用
第四周：網(wǎng)絡(luò)量化
網(wǎng)絡(luò)量化的技術(shù)發(fā)展 不同離線量化算法的實現(xiàn)原理 神經(jīng)網(wǎng)絡(luò)框架中在線感知量化算法的原理及實現(xiàn) 實際案例
第五周：神經(jīng)網(wǎng)絡(luò)編譯器簡介
本節(jié)課將講解tvm、ncnn、tnn、mnn的簡要對比，tvm relay和網(wǎng)絡(luò)轉(zhuǎn)換，網(wǎng)絡(luò)的編譯優(yōu)化和推理加速。
課程提綱：
tvm、ncnn、tnn、mnn的簡要對比 tvm relay和網(wǎng)絡(luò)轉(zhuǎn)換 網(wǎng)絡(luò)的編譯優(yōu)化和推理加速 tvm的實際案例
本節(jié)課將講解ncnn的系統(tǒng)架構(gòu)圖，數(shù)據(jù)結(jié)構(gòu)，支持的框架，網(wǎng)絡(luò)的表示，網(wǎng)絡(luò)優(yōu)化，量化，以及各平臺的優(yōu)化策略。
課程提綱：
ncnn的系統(tǒng)架構(gòu)圖 ncnn的數(shù)據(jù)結(jié)構(gòu)及支持框架 ncnn的網(wǎng)絡(luò)表示 ncnn網(wǎng)絡(luò)優(yōu)化，量化，及各平臺的優(yōu)化策略
tnn的系統(tǒng)架構(gòu)圖 tnn的數(shù)據(jù)結(jié)構(gòu)及支持框架 tnn的網(wǎng)絡(luò)表示 tnn網(wǎng)絡(luò)優(yōu)化，量化，及各平臺的優(yōu)化策略
第八周：mnn
本節(jié)課將講解mnn的系統(tǒng)架構(gòu)圖，數(shù)據(jù)結(jié)構(gòu)，支持的框架，網(wǎng)絡(luò)的表示，網(wǎng)絡(luò)優(yōu)化，量化，以及各平臺的優(yōu)化策略。
課程提綱：
mnn的系統(tǒng)架構(gòu)圖 mnn的數(shù)據(jù)結(jié)構(gòu)及支持框架 mnn的網(wǎng)絡(luò)表示 mnn網(wǎng)絡(luò)優(yōu)化，量化，及各平臺的優(yōu)化策略
第九周：cpu中的指令集優(yōu)化
本節(jié)課將講解cpu中的指令集優(yōu)化，simd、avx、sse方法，及tvm中對于cpu上神經(jīng)網(wǎng)絡(luò)加速的位置。
課程提綱：
cpu中的指令集優(yōu)化：simd，avx，sse方法 tvm中對于cpu上神經(jīng)網(wǎng)絡(luò)加速的位置
第十周：arm中的神經(jīng)網(wǎng)絡(luò)加速
arm中的neon優(yōu)化 ncnn，tnn和mnn實現(xiàn)的講解 具體加速效果的實際案例
openblas庫的優(yōu)化
nnpack/qnnpack的優(yōu)化
lowpgemm
第十三周：gpu上神經(jīng)網(wǎng)絡(luò)的運行和加速
本節(jié)課將講解gpu與cpu計算加速的區(qū)別，英偉達gpu的原生cuda加速方法，及推理側(cè)tensorrt的使用。
課程提綱：
gpu與cpu計算加速的區(qū)別 英偉達gpu的原生cuda加速方法 推理側(cè)tensorrt的使用
第十四周：gpu加速通用加速庫
本節(jié)課將講解通用加速庫cublas，vulkan，opencl的使用。
課程提綱：
通用加速庫cublas的使用 Vulkan的使用 opencl的使用
第十五周：dsp，fpga，npu專用加速計算
本節(jié)課將講解dsp，fpga，npu的專用加速計算。
課程提綱：
dsp計算加速 fpga計算加速 npu專用加速計算
嘉楠科技k210芯片介紹 nncase人臉檢測案例
05
授課方式
基礎(chǔ)知識講解
前沿論文解讀
論文代碼復(fù)現(xiàn)
該知識內(nèi)容的實際應(yīng)用
該知識的項目實戰(zhàn)
該方向的知識延伸及未來趨勢講解
06
適合人群
編程及深度學(xué)習(xí)基礎(chǔ)良好，為了想進入AI芯片行業(yè)發(fā)展
想進入AI芯片行業(yè)的算法或IT工程師 想通過掌握硬件技術(shù)，拓寬未來職業(yè)路徑的AI算法工程師
掌握python、C++開發(fā)，及深度學(xué)習(xí)的基礎(chǔ)知識。
07
課程研發(fā)及導(dǎo)師團隊
08
歷屆學(xué)員去向
