LLMs

Open WebUI:使用者友好的LLMs WebUI

Open WebUI是一個為LLMs(大型語言模型)設計的友好型Web使用者介面,支援Ollama和OpenAI相容的API。它提供了直觀的聊天介面、響應式設計、快速響應效能、簡易安裝、程式碼語法高亮、Markdown和LaTeX支援、本地RAG整合、Web瀏覽能力、提示預設支援、RLHF註釋、會話標記、模型下載/刪除、GGUF檔案模型建立、多模型支援、多模態支援、模型檔案構建器、協作聊天、OpenAI API整合等功能。

LMOps:基於LLMs和生成式AI模型的AI產品的基礎研究和技術

LMOps是一個基於LLMs和生成式AI模型的AI產品的基礎研究和技術。它提供了自動提示最佳化、Promptist、可擴充套件的提示、通用提示檢索、LLM檢索等功能。此外,還包括結構化提示、可擴充套件的提示、LLM加速器、LLM定製化和理解上下文學習等基本功能。LMOps的連結包括microsoft/unilm和microsoft/torchscale等。它適用於各種場景,如文字到影象生成、長序列提示消耗和擴充套件提示等。LMOps是一個開源專案,遵循MIT許可證。

返回頂端