ahxt/LiteLlama-460M-1T:LiteLlama-460M-1T: 減小規模的 Llama

Link:ahxt-litellama-460m-1t
LiteLlama-460M-1T 是一個開源的人工智慧模型,使用 1T 個令牌進行訓練,具有 460M 個引數。它是 Meta AI 的 LLaMa 2 的一個縮減版本,用於提供更小的模型規模。

需求人群:

"LiteLlama-460M-1T 可以用於文字生成、問答等自然語言處理任務。"

使用場景示例:

使用 LiteLlama-460M-1T 生成文字

使用 LiteLlama-460M-1T 進行問答

使用 LiteLlama-460M-1T 進行文字生成評估

產品特色:

使用 GPT2Tokenizer 對文字進行分詞

與 HuggingFace Transformers 庫一起使用

在 MMLU 任務上進行評估

返回頂端