nvitopGPU 進(jìn)程管理的一站式解決方案

nvitop 是一種交互式 NVIDIA 設(shè)備和進(jìn)程監(jiān)控工具。它有一個豐富多彩的信息界面，可以不斷更新設(shè)備和進(jìn)程的狀態(tài)。作為資源監(jiān)控器，它包含許多功能和選項，例如樹視圖、環(huán)境變量查看、進(jìn)程過濾、進(jìn)程指標(biāo)監(jiān)控等。除此之外，該軟件包還為深度學(xué)習(xí)研究人員提供了 CUDA 設(shè)備選擇工具nvisel。它還提供方便的 API，允許開發(fā)人員編寫自己的監(jiān)控工具。

特性：

• 信息豐富且精美的輸出：顯示比nvidia-smi彩色精美方框繪圖更多的信息。
• 監(jiān)控模式：可以作為資源監(jiān)控器運行，而不是只打印一次結(jié)果。
  • 條形圖和歷史圖
  • 過程排序
  • 過程過濾
  • 通過擊鍵向進(jìn)程發(fā)送信號
  • GPU 進(jìn)程及其父進(jìn)程的樹視圖屏幕
  • 環(huán)境變量屏幕
  • 幫助屏幕
  • 鼠標(biāo)支持
• 交互式：在監(jiān)控模式下響應(yīng)用戶輸入（來自鍵盤和/或鼠標(biāo)）。（對比gpustat和py3nvml）
• 高效：
  • 直接使用NVML Python 綁定查詢設(shè)備狀態(tài)，而不是解析nvidia-smi的輸出（與nvidia-htop相比）
  • 支持稀疏查詢并使用來自 cachetools 的 TTLCache 緩存結(jié)果（與gpustat相比）
  • 使用curses庫顯示信息，而不是用ANSI轉(zhuǎn)義代碼打?。ㄅcpy3nvml相比）
  • 使用多線程異步收集信息并更快地響應(yīng)用戶輸入。（與nvtop相比）
• 便攜式：適用于 Linux 和 Windows。
  • 使用跨平臺庫 psutil 獲取主機進(jìn)程信息，而不是在子進(jìn)程中調(diào)用ps -p <pid>。（與nvidia-htop和py3nvml相比）
  • 用純 Python 編寫，易于使用pip安裝（與nvtop相比）
• 可集成：易于集成到其他應(yīng)用程序中，不僅僅是監(jiān)控。（對比nvidia-htop和nvtop）