LM Studio:發現和執行本地LLM

Link:lm-studio
LM Studio是一個易於使用的桌面應用程式,用於在本地實驗和執行本地和開源的Large Language Models (LLMs)。LM Studio跨平臺桌面應用程式允許您從Hugging Face下載和執行任何ggml相容的模型,並提供了一個簡單而強大的模型配置和推理介面。該應用程式在有GPU的情況下利用您的GPU。

需求人群:

LM Studio適用於個人使用者,可完全離線在膝上型電腦上執行LLMs。可以透過應用程式的聊天介面或與OpenAI相容的本地伺服器使用模型。

使用場景示例:

使用LM Studio下載並執行一個自然語言處理模型

透過LM Studio配置並執行一個程式碼生成模型

在LM Studio中發現新的流行的LLM並嘗試它們的功能

產品特色:

發現和下載Hugging Face上的LLMs

執行LLMs在本地裝置上

提供簡單而強大的模型配置和推理介面

支援任何ggml Llama MPT和StarCoder模型

發現新的LLMs在應用程式的主頁上

返回頂端