liteLLM:簡化LLM完成和嵌入呼叫的開源庫

Link:https://litellm.ai

LiteLLM是一個開源庫,旨在簡化LLM完成和嵌入呼叫。它整合了Azure、Anthropic、OpenAI、Cohere和Replicate等多個平臺的API,讓你可以使用一個函式輕鬆呼叫它們。LiteLLM提供了方便的介面和一致的輸出格式,使得使用LLM模型變得更加簡單。它可以用於各種場景,如自然語言處理、文字生成、對話系統等。

需求人群:

LiteLLM可以用於各種場景,包括自然語言處理、文字生成、對話系統等。

產品特色:

  • 呼叫Azure的LLM完成和嵌入API
  • 呼叫Anthropic的LLM完成和嵌入API
  • 呼叫OpenAI的LLM完成和嵌入API
  • 呼叫Cohere的LLM完成和嵌入API
  • 呼叫Replicate的LLM完成和嵌入API
返回頂端