文／雲達科技
全球資料中心與 AI 解決方案領導供應商雲達科技(QCT, Quanta Cloud Technology)參加 2024 年超級運算大會(SuperComputing 2024, SC24)。本次大會於 11 月 17 日至 22 日,在美國喬治亞州亞特蘭大盛大舉行。雲達科技以「用 HPC 與 AI 改變未來」為主題,展示多項基於 NVIDIA Blackwell 平台的加速運算解決方案,搭載包括 NVIDIA Hopper GPU、NVIDIA NVLink-C2C 互聯技術,以及 NVIDIA Spectrum-X 以太網平台、NVIDIA BlueField-3 網路,以及提供 NVIDIA NIM 微服務的 NVIDIA AI Enterprise軟體平台等多項尖端技術。這些 QCT 伺服器為資料中心提供前所未有的性能、能源效率和可擴展性,支援生成式 AI 應用。本次展出的產品涵蓋了基於不同NVIDIA 技術的解決方案,以滿足各種 AI 和高效能運算(HPC)的需求。「生成式 AI 已成為幾乎所有行業數位轉型的關鍵推動力,這也創造了對 AI 基礎設施的強大需求」,雲達科技總裁楊麒令表示。「雲達科技作為經驗豐富的超大規模基礎設施供應商,已經準備好提供採用 NVIDIA 技術、兼具高性能和高能效的加速運算平台,協助資料中心和企業加速生成式 AI 的部署」。「雲達科技運用 NVIDIA 全堆疊加速運算平台,滿足全球資料中心對先進 AI 基礎設施日益增加的需求,幫助企業實現 AI 驅動的創新,同時達到性能極大化、成本優化,並縮短從部署到實現價值的時間」,NVIDIA GPU 產品管理副總 Kaustubh Sanghani 表示。雲達科技在 SC24 展示的加速運算系統包括:
基於 NVIDIA MGX 架構的 QuantaGrid 伺服器QuantaGrid D75B-1U 和 QuantaGrid D75E-4U 基於 NVIDIA MGX 模組化參考設計,具備靈活、快速開發上市,以及相容多個世代等特性。這些系統分別採用最新 NVIDIA Blackwell GPU 和 NVIDIA H200 NVL 等 NVIDIA PCIe GPU,易於部署和擴展,支援主流 AI 推理和大語言模型(LLM)工作負載。
8-GPU NVIDIA HGX Blackwell 或 NVIDIA HGX Hopper 伺服器QuantaGrid D75F-9U、QuantaGrid D75H-7U 和 QuantaGrid D75L-5U 是經過精心設計的 8 GPU 加速伺服器,專為應對最複雜的 AI 和 HPC 任務而打造,如LLM、推薦系統和聊天機器人等。它們配備 8 顆 NVIDIA Blackwell 或 NVIDIA Hopper GPU,GPU 與 GPU 之間透過 NVIDIA NVLink 進行互聯,並擁有靈活的 I/O 插槽,可支援 NVIDIA BlueField-3 SuperNIC 和 DPU。
NVIDIA GB200 NVL72 機櫃級解決方案
由 18 台 QCT QuantaGrid D75B-1U 伺服器和 9 台第五代 NVIDIA NVLink 交換機所組成的水冷式 AI 工廠,專為實現兆級參數即時推理與訓練而打造。藉由將 72 顆 Blackwell GPU 互聯為一體,提供強大性能、卓越能源效率和超低總擁有成本。
此外,雲達科技還提供許多採用 NVIDIA 加速技術的硬體產品,包括 NVIDIAGB200 NVL72、配備 HBM3e 記憶體的 NVIDIA H200 NVL, 以及配備 4張和 8 張GPU 的 NVIDIA HGX H200。最新的 NVIDIA H200 NVL 可加速主流企業用伺服器的AI 工作表現。相較於 H100 NVL,H200 NVL 的 LLM 推理速度提升高達 1.8 倍, HPC 應用性能也提高 1.3 倍。雲達科技還在 SC24 展示自家整合解決方案和AI/HPC 應用案例,包括 QCT Platform on Demand(QCT POD)。這是一個同時支援雲原生與裸機環境的 HPC 和 AI 融合式系統,它同時整合了 NVIDIA NGC 目錄,簡化 AI 與 HPC 工作流程。邀請您在 SC24 期間造訪 1013 號攤位,與雲達科技專家交流,深入了解雲達採用 NVIDIA 技術的創新產品和解決方案。
