langroid:Langroid是一個基於Python的輕量級LLM框架

Link:langroid
Langroid是一個輕量級、可擴充套件和原則性的Python框架,可以輕鬆地構建基於LLM的應用程式。您可以設定代理,為它們配備可選元件(LLM、向量儲存和方法),分配它們任務,並讓他們透過交換消息協作解決問題。這個多代理範例的靈感來自Actor框架(但您不需要瞭解任何關於這個的知識!)。Langroid提供了一個全新的LLM應用程式開發方式,在簡化開發人員體驗方面進行了深思熟慮;它不使用Langchain。我們歡迎貢獻–請參閱貢獻檔案以獲取貢獻想法。

需求人群:

["快速開發LLM驅動的應用","構建問答和對話系統","從非結構化文字中提取結構化資訊","知識抽取和問答","語義搜尋和推薦系統"]

使用場景示例:

與LLM進行直接互動

定義代理、任務並執行

多個代理之間的通訊

從文字中提取結構化資訊的函式呼叫示例

產品特色:

支援OpenAI和其他數百個LLM提供商

支援快取LLM響應

支援向量儲存Qdrant和Chroma

支援檢索增強生成

支援外部檔案接入和引文跟蹤

內建函式呼叫和工具支援

詳細的日誌和多代理互動跟蹤

返回頂端