連結：https://llmbenchmark.liduos.com/
該網站提供了國內常見模型提供商API服務的效能指標，包括TTFT（首token時延）、TPS（每秒輸出token數）、總耗時、上下文長度以及輸入輸出價格等詳細資料。它為開發者和企業提供了評估不同大模型效能的依據，幫助他們選擇最適合自己需求的模型服務。
需求人群：
- 目標受眾為需要評估和選擇大模型API服務的開發者、企業決策者和技術分析師。他們可以利用這個工具來比較不同模型的效能，以確保選擇的服務能夠滿足他們的具體需求，如響應速度、處理能力和成本效益。
使用場景示例：
- 開發者利用該網站比較不同模型的TTFT，選擇了響應速度最快的模型來最佳化他們的聊天機器人。
- 企業技術分析師透過該網站評估了多個模型的TPS，以選擇能夠支援高併發請求的服務。
- 一個教育技術公司使用該網站來評估不同模型的價格，以找到CP值高的API服務來支援他們的線上教育平臺。
產品特色：
- 支援按條件過濾不同模型的效能指標
- 提供模型處理請求並開始輸出文本的速度（TTFT）
- 展示模型生成文本的速度（TPS）
- 顯示從請求開始到響應完成的總時間
- 列出支援的上下文長度
- 展示輸入輸出的價格資訊
使用教學：
訪問https://llmbenchmark.liduos.com/網站
根據需要選擇過濾條件，如模型名稱或區網網域
檢視不同模型的效能指標，包括TTFT、TPS等
比較不同模型的效能和價格，選擇最適合的模型
根據網站提供的指標定義和監測機制，瞭解效能指標的計算方法和測試過程
利用網站資料輔助決策，選擇合適的大模型API服務