全新聯手打造的產品結合 Red Hat AI Enterprise 與 NVIDIA 加速運算軟體，為建置、部署及擴展 AI 應用程式提供統一基礎架構
文／Red Hat
世界領先開放原始碼軟體解決方案供應商 Red Hat 近日宣布推出 Red Hat AI Factory with NVIDIA，這是一款與 NVIDIA 共同打造的軟體平台，結合 Red Hat AI Enterprise 與 NVIDIA AI Enterprise，為大規模部署 AI 的企業提供端到端的最佳化 AI 解決方案。Red Hat AI Factory with NVIDIA 是雙方深度合作的最新里程碑，旨在將最新的 AI 創新技術加速交付給企業客戶，同時為 NVIDIA 硬體架構提供 Day 0 支援。
隨著代理式 AI（Agentic AI）應用程式的蓬勃發展，預計至 2029 年企業 AI 支出將超過 1 兆美元。企業正積極將其策略轉向為高密度、代理式工作負載，並致力於解決隨之產生的 AI 推論與基礎架構需求。為協助企業在 AI 時代應對上述挑戰，Red Hat AI Factory with NVIDIA 可賦能 IT 營運團隊，使其得以簡化涵蓋傳統基礎架構與持續演進的 AI 堆疊需求的管理流程。
Red Hat AI Factory with NVIDIA 讓企業加速邁向生產級 AI，並為 AI 工廠（AI factories）提供軟體平台。該平台運行於加速運算基礎架構上，為模型及驅動推論堆疊的 NVIDIA GPU 提供更高的效能。此平台支援 Cisco、Dell Technologies、Lenovo 與 Supermicro 等頂尖系統製造商的 AI 工廠基礎架構，賦能 IT 管理員與營運團隊以管理任何企業工作負載般同規格的營運嚴謹度與可預測性，擴展並維護 AI 部署。
Red Hat 技術長暨全球工程資深副總裁 Chris Wright 表示：「從 AI 實驗階段轉向工業級規模、涵蓋全企業範疇的生產環境，需要徹底改變我們管理 AI 運算堆疊的方式。透過 Red Hat AI Factory with NVIDIA，我們正加速 AI 的部署並快速邁向生產階段。憑藉我們經驗證的混合雲產品所驅動、穩定且高效能的基礎，得以賦能客戶掌握其 AI 策略，並以應用於核心 IT 平台同等的嚴謹度進行擴展。」
NVIDIA 企業 AI 平台副總裁 Justin Boitano 指出：「企業正在建立 AI 工廠，以便在推論過程中大規模地將資料轉化為智慧，而這需要橫跨混合雲的生產級基礎架構與軟體。Red Hat AI Factory with NVIDIA 提供軟體基礎，協助企業應對快速的基礎架構創新節奏，同時可靠地建置與部署新一代的代理式 AI 應用程式。」
這個雙方共同打造的軟體平台整合 Red Hat 與 NVIDIA 在開源協作、工程設計及支援方面的專業知識，提供值得信賴的企業級解決方案。Red Hat AI Factory with NVIDIA 為跨環境（無論是地端、雲端或邊緣）的 AI 部署提供具高度擴展性的基礎。其核心功能具備高效能 AI 推論、模型調整、客製化，以及代理部署與管理，並以安全性為核心，使企業得以維持從資料中心至公有雲的架構控制權，並實現以下優勢：
- 加速價值實現時間：透過簡化的工作流程與即時存取預先配置的模型，加速邁向生產級 AI。這些模型包含獲得擔保的 IBM Granite 系列、NVIDIA Nemotron 與 NVIDIA Cosmos 開源模型，並以 NVIDIA NIM microservices 形式交付。此外，企業可使用 NVIDIA NeMo 進一步將模型與企業資料對齊，減少調整時間與成本。
- 最佳化效能與成本：藉由統一的高效能服務堆疊，最大化基礎架構使用率並增強推論效能。Red Hat AI Factory with NVIDIA 提供內建的可觀測性功能，並運用由 vLLM、NVIDIA TensorRT-LLM 與 NVIDIA Dynamo 驅動的 Red Hat AI 推論能力，以滿足嚴格的 AI 服務水準目標（SLO）。這有助於企業透過最佳化模型與 NVIDIA GPU 之間的連接，降低 AI 的總體擁有成本（TCO）。
- 智慧 GPU 調度：透過智慧調度與池化基礎架構（pooled infrastructure），實現依需求存取 GPU 資源，並具備自動檢查點機制（checkpointing）以保護長時間執行的作業，並在動態環境中維持更可預測的運算成本。
- 強化企業態勢：運用 Red Hat Enterprise Linux 彈性且穩定的基礎，企業可從初始階段即受惠於內建的進階安全性與合規功能，有助於降低風險、節省時間並減少停機時間，為需要隔離與持續驗證的關鍵任務 AI 工作負載提供安全性強化的基礎。NVIDIA DOCA 微服務奠基於此基礎打造零信任架構，並在整個基礎架構中提供 AI 執行期間的安全性。
