多令牌預測

multi-token prediction模型是Facebook基於大型語言模型研究開發的技術，旨在透過預測多個未來令牌來提高模型的效率和效能。該技術允許模型在單次前向傳播中生成多個令牌，從而加快生成速度並可能提高模型的準確性。