Link:https://litellm.ai
LiteLLM是一個開源庫,旨在簡化LLM完成和嵌入呼叫。它整合了Azure、Anthropic、OpenAI、Cohere和Replicate等多個平臺的API,讓你可以使用一個函式輕鬆呼叫它們。LiteLLM提供了方便的介面和一致的輸出格式,使得使用LLM模型變得更加簡單。它可以用於各種場景,如自然語言處理、文字生成、對話系統等。
需求人群:
LiteLLM可以用於各種場景,包括自然語言處理、文字生成、對話系統等。
產品特色:
- 呼叫Azure的LLM完成和嵌入API
- 呼叫Anthropic的LLM完成和嵌入API
- 呼叫OpenAI的LLM完成和嵌入API
- 呼叫Cohere的LLM完成和嵌入API
- 呼叫Replicate的LLM完成和嵌入API