Link:langroid
Langroid是一個輕量級、可擴充套件和原則性的Python框架,可以輕鬆地構建基於LLM的應用程式。您可以設定代理,為它們配備可選元件(LLM、向量儲存和方法),分配它們任務,並讓他們透過交換消息協作解決問題。這個多代理範例的靈感來自Actor框架(但您不需要瞭解任何關於這個的知識!)。Langroid提供了一個全新的LLM應用程式開發方式,在簡化開發人員體驗方面進行了深思熟慮;它不使用Langchain。我們歡迎貢獻–請參閱貢獻檔案以獲取貢獻想法。
需求人群:
["快速開發LLM驅動的應用","構建問答和對話系統","從非結構化文字中提取結構化資訊","知識抽取和問答","語義搜尋和推薦系統"]
使用場景示例:
與LLM進行直接互動
定義代理、任務並執行
多個代理之間的通訊
從文字中提取結構化資訊的函式呼叫示例
產品特色:
支援OpenAI和其他數百個LLM提供商
支援快取LLM響應
支援向量儲存Qdrant和Chroma
支援檢索增強生成
支援外部檔案接入和引文跟蹤
內建函式呼叫和工具支援
詳細的日誌和多代理互動跟蹤