專家混合模型

Grok-1是由xAI從頭開始訓練的314億引數的專家混合模型（Mixture-of-Experts）。該模型未經針對特定應用（如對話）的微調，是Grok-1預訓練階段的原始基礎模型檢查點。