CatAIAlpaca 模型本地對(duì)話客戶端

CatAI 支持使用聊天 GUI 在您的計(jì)算機(jī)上本地運(yùn)行羊駝 Alpaca 模型。

安裝與使用

確保安裝了 Node.js：

npm install -g catai

catai install Vicuna-7B
catai serve

特性

• 自動(dòng)檢測(cè)編程語言 
• 單擊用戶圖標(biāo)可顯示原始消息
• 實(shí)時(shí)文本流
• 快速模型下載