連結：https://huggingface.co/facebook/llm-compiler-7b-ftd
LLM Compiler-7b-ftd是由Meta開發的大型語言模型，它基於Code Llama，針對程式碼最佳化和編譯器推理進行了改進。它在預測LLVM最佳化效果方面表現卓越，能夠完美模擬編譯器輸出，是編譯器最佳化任務的理想工具。
需求人群：
- LLM Compiler主要面向編譯器研究人員和工程師，以及需要進行程式碼最佳化的開發者。它透過提供高階的程式碼最佳化建議和自動化的編譯器推理，幫助使用者提高程式的效率和效能。
使用場景示例：
- 使用LLM Compiler最佳化編譯器生成的中間表示(IR)以減小最終程式的體積。
- 利用LLM Compiler預測特定彙程式設計式碼的最佳最佳化序列，以提高程式碼執行效率。
- 將複雜的彙程式設計式碼透過LLM Compiler轉換為LLVM IR，以便於進一步的分析和最佳化。
產品特色：
- 在LLVM彙程式設計式碼上預測最佳化效果
- 為減小程式碼體積生成最優的最佳化序列
- 將彙程式設計式碼反彙編為LLVM IR
- 在不同大小的模型上提供服務以滿足不同的延遲和效能需求
- 透過深度學習最佳化程式碼
- 支援編譯器研究人員和工程師進行研究和產品開發
使用教學：
1. 安裝必要的庫和依賴，如transformers。
2. 使用AutoTokenizer從預訓練模型中載入分詞器。
3. 利用transformers.pipeline建立文本生成的pipeline。
4. 將待最佳化的程式碼片段作為輸入提供給pipeline。
5. 設定生成文本的相關引數，如do_sample, top_k, temperature等。
6. 呼叫pipeline生成最佳化建議或程式碼。
7. 分析生成的文本結果，根據需要進行進一步的調整或應用。