Msnhnet小型 PyTorch 推理框架

Msnhnet 是一個受 Darknet 啟發(fā)的小型 PyTorch 推理框架。

特性：

• 由純c++和cuda編寫而成。

• 支持主流平臺，windows, linux, macOS等。

• 支持主流芯片，intel x86, amd x86(未測試)和arm。

• 支持x86結(jié)構(gòu)avx加速(持續(xù)優(yōu)化中)。

• 支持arm結(jié)構(gòu)neon加速(持續(xù)優(yōu)化中)。

• 支持NNPack(主要為arm框架所用)。

• 支持Nvidia GPU。

• 支持Nvidia cuda庫(cuda10+)。

• 支持Nvidia cudnn庫(cudnn7+)。

• 支持Nvidia f16加速(持續(xù)優(yōu)化中，確保顯卡支持fp16雙倍加速)。

• 支持Nvidia Jeston系列GPU。

• 支持c_api。

• 支持pytorch一鍵轉(zhuǎn)msnhnet(目前只支持部分Op, 持續(xù)更新中)。

• 支持keras一鍵轉(zhuǎn)msnhnet(部分Op)。

• 測試過的網(wǎng)絡(luò)：

  • lenet5

  • lenet5_bn

  • alexnet

  • vgg16

  • vgg16_bn

  • resnet18

  • resnet34

  • resnet50

  • resnet101

  • resnet152

  • darknet53

  • googLenet

  • mobilenetv2

  • yolov3

  • mobilenetv2_yolov3

  • yolov3_spp

  • yolov3_tiny

  • yolov4

  • fcns

  • unet

• 支持C#語言，MsnhnetSharp。

C# 軟件界面

• 支持msnhnet可視化，類似netron。

可視化工具界面