MLC Chat:iPad和iPhone上的開源語言模型聊天應用

Link:mlc-chat
MLC Chat允許使用者在iPad和iPhone上本地與開源語言模型進行聊天。在將模型下載到應用程式後,一切都在本地執行,無需伺服器支援,而且無需網際網路連線,不記錄任何資訊。由於模型在本地執行,它僅適用於具有足夠VRAM的裝置,具體取決於所使用的模型。MLC Chat是開源專案MLC LLM的一部分,允許在各種硬體後端和本機應用程式上本地部署任何語言模型。MLC Chat是在您的手機上執行不同開源模型架構的執行時。該應用旨在非商業目的。它允許您執行從網際網路上下載的開源語言模型。每個模型可能受其各自的許可證約束。

需求人群:

"MLC Chat適用於需要在本地裝置上執行開源語言模型進行聊天的使用者,適用於非商業目的。"

使用場景示例:

使用者可以在iPad上下載MLC Chat,然後本地執行開源語言模型進行聊天。

一名使用者在iPhone上使用MLC Chat,與本地部署的語言模型進行互動。

一位研究人員在沒有網際網路連線的情況下,使用MLC Chat在iPad上進行語言模型聊天。

產品特色:

在iPad和iPhone上本地執行開源語言模型

與語言模型進行聊天

無需網際網路連線

返回頂端