收購完成後將於 Red Hat AI 導入關鍵安全測試與安全功能，大規模實現負責任的生產級 AI
文／Red Hat
世界領先開放原始碼軟體解決方案供應商 Red Hat 近期宣布收購 Chatterbox Labs，該公司是不仰賴特定模型（model-agnostic）的 AI 安全與生成式 AI（GenAI）安全功能的領導業者。此收購將為 Red Hat AI 產品組合導入關鍵的「AI 安全防護」能力並強化 Red Hat 的佈局，打造全方位且專為混合雲設計的企業級開源 AI 平台。
Red Hat AI 在過去一年展現強大的創新動能。繼推出 Red Hat AI Inference Server 與 Red Hat AI 3 後，此併購再注入全新驅動力。全球各產業客戶正積極採用 Red Hat AI，並透過生成式、預測式與代理式 AI 應用推動創新。當企業從實驗階段邁向生產環境時面臨複雜的挑戰：AI 模型不僅需要強大的效能，更必須具備可驗證性、可信度與安全性。安全性與安全功能已成為現代機器學習營運（MLOps）的必備條件。對安全與信任的重視正反映 Red Hat 與 IBM 的企業承諾，即致力於協助客戶於跨混合雲環境中負責任地擴展 AI，同時建立「安全優先」的思維。整合 Chatterbox Labs 技術後，Red Hat 將打造出內建安全機制的統一平台，使企業能在任何環境、各種加速器與模型上，穩定執行生產環境的 AI 工作負載。
Red Hat AI 工程暨產品策略副總裁 Steven Huels 表示：「企業正加速將 AI 從實驗室推向生產環境，因此，企業亟需部署可信任、安全且透明的 AI。Chatterbox Labs 創新且不限於特定模型的安全測試與安全功能技術，正是產業所需的關鍵『AI 安全防護』層，而 Chatterbox Labs 與 Red Hat AI 產品組合的整合則強化我們對客戶的承諾。Red Hat 提供全方位的開放原始碼平台，客戶不僅能於任何環境中執行任何模型，更能進一步確保從最初就內建安全機制。此收購將協助我們實現真正負責任且具規模的生產級 AI。」
Chatterbox Labs 共同創辦人暨技術長 Stuart Battersby 博士表示：「隨著 AI 系統深入企業與社會的各個角落，我們不允許安全成為封閉的專有黑盒子。AI 安全功能不應僅止於部署，更須經過嚴格測試，並由可驗證的數據指標佐證。Chatterbox Labs 從早期的預測式 AI 階段到未來的代理式系統，始終做為此領域的領航者。加入 Red Hat 後，我們能將這些經驗證且獨立的安全指標帶入開放原始碼社群中，這樣的透明性讓企業得以在不被綁定於特定業者的情況下驗證安全性，共同開創且受益於安全、可擴展且開放的 AI 未來。」
解決 AI 帶來的潛在風險
Chatterbox Labs 成立於 2011 年，在 AI 安全與透明度領域擁有深厚技術，其量化 AI 風險的專業經驗深受全球獨立智庫與政策制定者的肯定。此收購也為 Red Hat 帶來核心的機器學習技術。
Chatterbox Labs 提供自動化且自訂的 AI 安全防護測試，能產出精確的風險指標，協助企業領導者做出評估，進而核准將 AI 部署至生產環境中。該技術透過下列方式，提供強大且不限於特定模型的驗證方法：
- 用於生成式 AI 的 AIMI：為大型語言模型（LLM）提供獨立的量化風險指標。
- 用於預測式 AI 的 AIMI：驗證任何 AI 架構在關鍵指標的有效性，包括穩定性、公平性與可解釋性等。
- 安全功能：在模型投入生產環境前，精確辨識並修正具安全風險、有害或帶有偏見的提示詞（prompts）。
保障新一代 AI 工作負載
此收購與 Red Hat 的願景一致，致力於支援跨混合雲環境上的多樣化模型與部署目標。此外，也完善 Red Hat AI 3 針對代理式 AI 與模型上下文協定（MCP）推出的前瞻功能。代理式 AI 扮演複雜的自動化角色，可能直接影響核心業務系統。因此當企業採用代理式 AI 時，模型的可信度與安全性將變得更加關鍵。
Chatterbox Labs 已針對全方位代理式安全展開研究，包括監控代理程式的回應，以及偵測 MCP 伺服器的動作觸發機制，而此研究成果與 Red Hat 針對 Llama Stack 及 MCP 支援藍圖一致，賦能 Red Hat 得以在可信且具備企業就緒能力的基礎上，保障新一代智慧自動化工作負載的安全。結合 Red Hat 的 MLOps 能力與 Chatterbox Labs 的安全功能，將能協助企業更有信心地將 AI 投資轉化為實際營運成果。
