Link：lookahead-decoding
Lookahead Decoding是一種新的推理方法，用於打破LLM推理的順序依賴性，提高推理效率。使用者可以透過匯入Lookahead Decoding庫，使用Lookahead Decoding改進自己的程式碼。Lookahead Decoding目前只支援LLaMA和Greedy Search兩種模型。
需求人群：
"使用者可以在自己的程式碼中匯入Lookahead Decoding庫，使用Lookahead Decoding改進程式碼的推理效率。"
使用場景示例：
1. 使用Lookahead Decoding改進自己的程式碼，提高推理效率。
2. 執行minimal.py檢視Lookahead Decoding帶來的速度提升。
3. 使用Lookahead Decoding聊天機器人進行聊天。
產品特色：
打破LLM推理的順序依賴性
提高推理效率
支援LLaMA和Greedy Search兩種模型