Link：llm-transparency-tool
LLM Transparency Tool（LLM-TT）是一個開源的互動式工具包，用於分析基於Transformer的語言模型的內部工作機制。它允許使用者選擇模型、新增提示並執行推理，透過視覺化的方式展示模型的注意力流動和資訊傳遞路徑。該工具旨在提高模型的透明度，幫助研究人員和開發者更好地理解和改進語言模型。
需求人群：
"研究人員和開發者分析和理解語言模型"
使用場景示例：
研究人員使用LLM-TT分析特定語言模型的注意力分佈
開發者透過LLM-TT調整模型引數以改善效能
教育工作者利用LLM-TT向學生展示語言模型的工作原理
產品特色：
選擇模型和提示進行推理
瀏覽貢獻圖
選擇令牌以構建圖表
調整貢獻閾值
選擇任何令牌在任何塊之後的表示
檢視輸出詞彙表中的表示，以及前一個塊中哪些令牌被提升/抑制