Pulze.ai是一站式LLM開發自動化平臺，提供單一API，將所有最佳LLM插入您的產品，並在幾分鐘內簡化您的LLM功能開發。Pulze.ai的API遵循LLMOps最佳實踐，並使您的團隊輕鬆使用。Pulze.ai允許您一次測試所有最佳模型，以加速開發。您可以在Pulze.ai內動態控制預算和成本目標，並在擴充套件時保護您的利潤。Pulze.ai還提供企業級安全性，以管理所有使用者資料的資料隱私和安全性。Pulze.ai提供了多個功能點，如上傳資料源、最佳化結果、一鍵部署、實時跟蹤和版本控制等。
Orquesta是一款AI提示管理工具，為工程師提供了管理提示的工具，包括集中儲存、實驗、個性化定製和收集反饋等功能。它能夠幫助您豐富產品的功能，並實現AI和LLM的能力，同時集中管理和最佳化提示的生命週期。
Prompt Joy是一個用於幫助理解和除錯LLM(大語言模型)提示的工具。主要功能包括日誌記錄和分割測試。日誌記錄可以記錄LLM的請求與響應,便於檢查輸出結果。分割測試可以輕鬆進行A/B測試,找出效果最佳的提示。它與具體的LLM解耦,可以配合OpenAI、Anthropic等LLM使用。它提供了日誌和分割測試的API。採用Node.js+PostgreSQL構建。
Query Vary提供開發人員設計、測試和最佳化提示的工具，確保可靠性、降低延遲並最佳化成本。它具有強大的功能，包括比較不同的LLM模型、跟蹤成本、延遲和質量、版本控制提示、將調優的LLM直接嵌入JavaScript等。Query Vary適用於個人開發者、初創公司和大型企業，提供靈活的定價計劃。
PlugBear可以在幾秒鐘內將您的LLM應用程式連線到Slack等工具,無需編寫任何程式碼。它支援主流的LLM框架,讓您只需開發一次LLM應用,就可以連線到各種流行的協作和交流工具。
Kindllm是一款專為Kindle最佳化的無干擾LLM聊天Web應用，是您閱讀的完美伴侶。由Mistral AI的Mixtral提供技術支援。主要在Kindle Paperwhite上進行了測試。為什麼？作者之前嘗試製作這款應用，但在舊版Kindle瀏覽器上無法很好地執行。令人驚訝的是，亞馬遜最近更新了一些Kindle的網路瀏覽器，現在似乎已經足夠好以執行這樣的簡單互動應用！
Vellum是一個用於構建LLM驅動應用的開發平臺。它具有提示工程、語義搜尋、版本控制、測試和監控等工具,可以幫助開發者將LLM的功能引入生產環境。它與所有主要的LLM提供商相容,開發者可以選擇最適合的模型,也可以隨時切換,避免業務過於依賴單一的LLM提供商。
Lookahead Decoding是一種新的推理方法，用於打破LLM推理的順序依賴性，提高推理效率。使用者可以透過匯入Lookahead Decoding庫，使用Lookahead Decoding改進自己的程式碼。Lookahead Decoding目前只支援LLaMA和Greedy Search兩種模型。
W&B Prompts 是 W&B 的最新產品，專注於 LLM（Language Model）技術。它提供了生產級的 LLM 操作，幫助使用者解鎖更好的 LLM 效能和提示工程。W&B Prompts 提供強大的功能和優勢，定價靈活，適用於各種應用場景。
LangTale是一個旨在簡化LLM提示管理的平臺，提供協作、版本控制、測試和效能監控等功能。LangTale使團隊成員能夠輕鬆管理和最佳化LLM提示，提高工作效率。定價詳情請訪問官方網站。