推理方法

Lookahead Decoding是一種新的推理方法，用於打破LLM推理的順序依賴性，提高推理效率。使用者可以透過匯入Lookahead Decoding庫，使用Lookahead Decoding改進自己的程式碼。Lookahead Decoding目前只支援LLaMA和Greedy Search兩種模型。