AgentOoba 是 Oobabooga 的 web ui 的自主 AI 代理擴展。

AgentOoba 是一個非常新的項目，用于在 Oobabooga 的 Web UI 中實現(xiàn)自治代理。它通過對底層大型語言模型發(fā)出詳細(xì)請求來實現(xiàn)。

該代理采用“分而治之”的方法來完成任務(wù)：如果它找不到合適的方法來立即完成目標(biāo)，它將嘗試將任務(wù)分解為子任務(wù)，并以廣度優(yōu)先遞歸的方式評估每個子任務(wù)方式。

AgentOoba 在設(shè)計時考慮了小上下文模型。它的提示系統(tǒng)旨在嘗試將一般提示分解為更小的子提示，只為模型提供每個提示絕對需要的上下文。這允許以更長的執(zhí)行時間為代價的更小的上下文大小。

• 注意：該項目仍處于起步階段?，F(xiàn)在代理能夠使用工具并使用模型的內(nèi)置功能來完成任務(wù)，但它并不擅長。它需要更多的上下文。
• 最新更新包括對任務(wù)流處理方式的更改。以前，代理會在遇到工具后立即嘗試使用工具來完成任務(wù)；現(xiàn)在，它等待子任務(wù)完成。

先決條件

安裝 https://github.com/oobabooga/text-generation-webui

啟動

1 . 使用選項 --extensions AgentOoba 啟動 Oobabooga，可以通過編輯啟動腳本來做到這一點； python server.py (additional arguments) 行應(yīng)更改為 python server.py --extensions AgentOoba (additional arguments) 。

也可以正常啟動它，并轉(zhuǎn)到擴展選項卡以啟用 AgentOoba，但必須在每次啟動時執(zhí)行此操作。

2 . 加載模型 - 代理設(shè)計為可靈活適應(yīng)模型類型，但必須根據(jù)在 UI 的提示部分中的模型類型設(shè)置人工和助手前綴。眼下這些都是針對Wizard系列的機型設(shè)置的。

3. 轉(zhuǎn)到主文本生成頁面并向下滾動以查看 UI。