Frontier Safety Framework：DeepMind推出的AI安全框架，辨識和減輕高階AI模型的未來風險。
Frontier Safety Framework是Google DeepMind提出的一套協定，用於主動辨識未來AI能力可能導致嚴重傷害的情況，並建立機制來偵測和減輕這些風險。該框架專注於模型層面的強大能力，如卓越的代理能力或複雜的網路能力。它旨在補充我們的對齊研究，即訓練模型按照人類價值觀和社會目標行事，以及Google現有的AI責任和安全實踐。
PyRIT：生成AI風險識別自動化框架
PyRIT是由Azure開發的Python風險識別工具，旨在幫助安全專業人員和機器學習工程師主動發現其生成AI系統中的風險。該工具自動化了AI紅隊任務，使操作者能夠專注於更復雜和耗時的任務，同時能夠識別安全和隱私危害。
Lakera Guard：保護您的AI應用安全免受攻擊
Lakera Guard透過一行程式碼為機器學習模型提供企業級安全保護,防止prompt注入、資料洩露、有害內容生成等安全風險,讓組織輕鬆構建安全可靠的AI應用。
NoPromptInjections：保護您的AI應用免受提示注入的威脅
NoPromptInjections是一款用於保護AI應用免受提示注入威脅的產品。它提供簡單的API介面，快速易用。定價透明，根據資料大小計費。適用於各種AI應用場景。
行者AI：AI安全、美術、音樂等多種工具，賦能行業，讓創作更簡單
行者AI提供多種工具，包括AI安全、美術、音樂等，賦能行業，讓創作更簡單。其中包括內容風控、遊戲風控、解決方案、智慧反灰、產雲簡訊、資訊認證、人工稽覈、AI繪圖創作、AI模型訓練、二次元轉化、ICON生成、3D減面、2D轉3D、場景切換等功能。產品定位為提供專業內容與業務安全服務，賦能行業，讓藝術創作更簡單。產品定價根據不同功能點而定。