Link:mlc-chat
MLC Chat允許使用者在iPad和iPhone上本地與開源語言模型進行聊天。在將模型下載到應用程式後,一切都在本地執行,無需伺服器支援,而且無需網際網路連線,不記錄任何資訊。由於模型在本地執行,它僅適用於具有足夠VRAM的裝置,具體取決於所使用的模型。MLC Chat是開源專案MLC LLM的一部分,允許在各種硬體後端和本機應用程式上本地部署任何語言模型。MLC Chat是在您的手機上執行不同開源模型架構的執行時。該應用旨在非商業目的。它允許您執行從網際網路上下載的開源語言模型。每個模型可能受其各自的許可證約束。
需求人群:
"MLC Chat適用於需要在本地裝置上執行開源語言模型進行聊天的使用者,適用於非商業目的。"
使用場景示例:
使用者可以在iPad上下載MLC Chat,然後本地執行開源語言模型進行聊天。
一名使用者在iPhone上使用MLC Chat,與本地部署的語言模型進行互動。
一位研究人員在沒有網際網路連線的情況下,使用MLC Chat在iPad上進行語言模型聊天。
產品特色:
在iPad和iPhone上本地執行開源語言模型
與語言模型進行聊天
無需網際網路連線