連結:https://github.com/evilsocket/nerve
Nerve是一個可以建立具有狀態的代理的LLM工具,使用者無需編寫程式碼即可定義和執行復雜任務。它透過動態更新系統提示和在多個推理過程中保持狀態,使代理能夠規劃和逐步執行完成任務所需的操作。Nerve支援任何透過ollama、groq或OpenAI API可訪問的模型,具有高度的靈活性和效率,同時注重記憶體安全。
需求人群:
- 目標受眾為開發者和電腦專家,他們需要執行復雜任務而無需編寫程式碼。Nerve透過提供預定義的代理範本和動作庫,簡化了智慧代理的建立和管理過程,適合需要快速原型開發和自動化任務的專業人士。
使用場景示例:
- 建立一個SSH代理,自動執行遠端主機上的命令。
- 構建一個聊天室代理,實作兩人之間的自動對話。
- 開發一個Web漏洞掃描器,自動辨識並報告安全問題。
產品特色:
-
自動化問題解決:Nerve提供標準動作庫,代理可自主使用以提高效能。
-
使用者定義代理:透過標準YAML範本定義代理,可適用於任何任務。
-
適用於任何LLM:Nerve是一個與LLM無關的工具,支援多種模型。
-
實驗性工具:API可能會隨時更改,不建議在生產環境或無監督情況下使用。
-
整合多種模型支援:透過-G引數指定使用ollama、groq或OpenAI的模型。
-
示例豐富:提供了多種示例,如SSH代理、聊天室等,供使用者參考和啟發。
使用教學:
1. 選擇或建立一個YAML範本定義代理的任務和指令。
2. 根據需要整合特定的LLM模型,透過-G引數指定。
3. 定義代理可以使用的功能名稱空間,限制或擴充其能力。
4. 設定系統提示,為代理提供背景故事和初始目標。
5. 配置代理的函式工具箱,指定可用的命令和操作。
6. 執行Nerve並載入定義好的代理範本,開始執行任務。
7. 觀察代理的執行過程,根據需要調整和最佳化任務定義。