PaddleSlim壓縮圖像領(lǐng)域模型

PaddleSlim 是 PaddlePaddle 框架的一個子模塊，主要用于壓縮圖像領(lǐng)域模型。在 PaddleSlim 中，不僅實現(xiàn)了目前主流的網(wǎng)絡(luò)剪枝、量化、蒸餾三種壓縮策略，還實現(xiàn)了超參數(shù)搜索和小模型網(wǎng)絡(luò)結(jié)構(gòu)搜索功能。在后續(xù)版本中，會添加更多的壓縮策略，以及完善對 NLP 領(lǐng)域模型的支持。

## CPU版本安裝命令
pip install -f https://paddlepaddle.org.cn/pip/oschina/cpu paddlepaddle

## GPU版本安裝命令
pip install -f https://paddlepaddle.org.cn/pip/oschina/gpu paddlepaddle-gpu

功能

• 模型剪裁
  • 支持通道均勻模型剪裁（uniform pruning)
  • 基于敏感度的模型剪裁
  • 基于進化算法的自動模型剪裁三種方式
• 量化訓(xùn)練
  • 在線量化訓(xùn)練（training aware）
  • 離線量化（post training）
  • 支持對權(quán)重全局量化和Channel-Wise量化
• 知識蒸餾
  • 支持單進程知識蒸餾
  • 支持多進程分布式知識蒸餾
• 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)自動搜索（NAS）
  • 支持One-Shot網(wǎng)絡(luò)結(jié)構(gòu)自動搜索（Ont-Shot-NAS）
  • 支持基于進化算法的輕量神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)自動搜索（Light-NAS）
  • 支持 FLOPS / 硬件延時約束
  • 支持多平臺模型延時評估