MegEngine(天元)深度學習框架
MegEngine(天元)是一個快速,可擴展,易于使用且支持自動求導的深度學習框架,中文名為“天元”,是曠視 AI 戰(zhàn)略的重要組成部分,負責 AI 三要素(算法,算力,數(shù)據(jù))中的“算法”。
特點:
一是“訓練推理一體”。MegEngine 支持多種硬件平臺( CPU,GPU,ARM )。不同硬件上的推理框架和 MegEngine 的訓練框架無縫銜接。部署時無需做額外的模型轉(zhuǎn)換,速度/精度和訓練保持一致,有效解決了 AI 落地中“部署環(huán)境和訓練環(huán)境不同,部署難”的問題。
二是“動靜合一”。動態(tài)圖易調(diào)試,靜態(tài)圖好部署。魚和熊掌如何兼得,是現(xiàn)代深度學習框架的核心訴求。MegEngine 在靜態(tài)圖的基礎上,逐漸加入支持完整動態(tài)圖的功能。在動態(tài)模式下加速研發(fā)過程,無需改變模型代碼一鍵切換至靜態(tài)模式下的部署,為科研和算法工程師同時提供便利。
三是“兼容并包”。MegEngine 的頂層 API 基于 Python,采取了類似于 PyTorch 的風格。簡單直接,易于上手,便于現(xiàn)有項目進行移植或整合。為更好地幫助學習實踐,MegEngine 同時提供了“開箱即用”的在線深度學習工具 MegStudio ,和匯聚了頂尖算法和模型的預訓練模型集合 Model Hub 。
四是“靈活高效”。MegEngine 底層的高性能算子庫對于不同的硬件架構(gòu)進行了深度適配和優(yōu)化,并提供高效的亞線性內(nèi)存優(yōu)化策略,對于生產(chǎn)環(huán)境繁多的計算設備提供了極致的性能保證。高效易用的分布式訓練實現(xiàn)能有效支持富有彈性的大規(guī)模訓練。
