隨著人工智慧(AI)技術以前所未有的速度加速發展,AI 運算已成為企業創新與數位轉型的核心驅動力。AMD 於今日在台北舉辦的「2025 AMD AI SOLUTIONS DAY」活動中,展示其從資料中心、雲端到邊緣與終端的全方位 AI 運算產品組合,並強調開放式 AI 生態系統的重要性,主要在加速 AI 應用落地與產業版圖拓展。
文/何信達
AI 趨勢與 AMD 的策略佈局
AMD台灣區商用業務處資深業務副總經理林建誠指出,當前 AI 創新正呈現訓練模型演進、推論規模擴大、模型數量爆炸性成長,以及 AI 代理(AI Agent)興起等趨勢,預示著 AI 運算將迎來新紀元。為因應此一變革,AMD 確立了三大策略核心:
▍領導運算引擎(Leadership Compute Engine):提供涵蓋 CPU、GPU、NPU、DPU 等多元運算平台。
▍開放式生態系統(Open Ecosystem):致力於推動開放式 AI 產業體系與開放標準,確保客戶擁有更多選擇。
▍端對端解決方案(End-to-End Solutions):提供從晶片到軟體,再到完整整合的解決方案。
[ 加入 CIO Taiwan 官方 LINE與 Facebook,與全球 CIO 同步獲取精華見解 ]
資料中心 AI 基礎設施關鍵技術
在資料中心領域,AMD 推出多項核心技術,旨在全面釋放 AI 潛力:
▍第 5 代 AMD EPYC 處理器:
採用台積電 3 奈米、4 奈米製程技術與「Zen 5」核心架構,提供 8 至 192 核心的廣泛選擇,實現破紀錄的效能和能源效率。其中,64 核心的 EPYC 9575F 在虛擬架構中,相較 Intel Xeon 8592+提供高達 1.6 倍的每核心效能。對於許多按核心計價的軟體授權(如 VMware),AMD EPYC 處理器能顯著降低總體擁有成本(TCO),帶來可觀的軟體授權成本節省效益。在 AI 應用中,EPYC 處理器可作為 GPU 伺服器的主驅動引擎,提升整體效能達約 10%。
▍AMD Instinct MI350 系列 GPU:
AMD 持續兌現其 GPU年度藍圖承諾,Instinct MI350 系列 GPU (包括 MI350X 和 MI355X)在生成式 AI 和高效能運算方面樹立新標竿。這些 GPU 基於 AMD CDNA 4 架構,提供領先業界的 288GB HBM3E 記憶體容量以及高達 8TB/s 的頻寬。MI355X 在大型模型推論方面提供最高吞吐量,並在性價比方面表現卓越,相較於 NVIDIA B200 解決方案,每美元可產生多達 40%的 Token。
▍AMD Pensando Pollara 400 AI NIC:
專為 AI 網路設計,提供高效、可靠且高速的資料傳輸,以提升 AI 雲端運算的潛力。獲得 Oracle Cloud Infrastructure、IBM Cloud、Microsoft Azure 等雲端服務提供商的廣泛採用,用於提升網路服務效能、加速 AI 工作負載、增強資料中心安全性並有效降低 TCO。
開放式 AI 生態系統與軟體堆疊
AMD 強調推動開放式 AI 產業體系和開放標準,以提供客戶更多選擇和工具普及性。
▍ROCm 7 軟體堆疊:
AMD 推出了最新版開源 AI 軟體堆疊 ROCm 7,旨在滿足生成式 AI 和高效能運算的需求,並全面優化開發人員體驗。ROCm 自2016年發展至今已趨成熟,支援主流 AI 框架(如 PyTorch、TensorFlow、JAX)與編譯器,並能開箱即用超過 180 萬個Hugging Face 模型。ROCm 7 預計將隨 MI350 伺服器平台於9月份推出,效能相比前一代 ROCm 6 提升約 3.5 倍。林建誠指出,當前開源社群已由大型企業推動,這使得開源工具的支援更加普及、完整,並加速了軟體開發與進步 [對話歷史, 56, 57]。AMD 在開放架構上的投入,在某些模型執行上已展現優勢。
客戶端與邊緣 AI 解決方案
AMD 亦積極佈局終端與邊緣 AI 應用,致力於提升員工生產力並降低 AI 導入門檻。
▍全新 Ryzen AI Max 系列處理器:
搭載 NPU,提供高達 50 TOPS 的 AI 處理能力,超越 Microsoft Copilot+ PC 的要求,讓 AI 應用得以在終端裝置上運行。這有助於降低 AI 導入的預算門檻,並透過本地 AI 處理提升員工工作效率、資料安全與隱私,並提供高達 60-80%的模型運行速度提升(如千問模型)。
▍Radeon AI PRO R9700 專業繪圖解決方案:
配備 32GB GDDR6 記憶體,可視為「迷你 AI 工作站」,專為本地 AI 推論、模型微調和複雜的創意工作負載而設計。支援運行 70B 甚至 128B 的大型語言模型,且其效能對於記憶體限制的 AI 工作負載樹立了新標竿,相較於競爭對手 16GB 等級 GPU 高達 5 倍。
強化合作夥伴生態系
AMD 與全球超過 30 家 OEM/ODM、ISV 及嵌入式合作夥伴攜手,共同推動 AI 技術的發展與落地。其中包括與群聯電子合作提升 AI PC 推論效能,以及 Oracle 將大量採用 AMD 的 AI 解決方案。AMD 強調 AI 創新是「全球性、開放性且協同性的」,不可能由單一公司獨佔,鼓勵建立多元的技術合作夥伴關係。
CIO 的策略評估
此「2025 AMD AI SOLUTIONS DAY」所揭示的資訊對企業 IT 而言具有重要的戰略意義。AMD 提供的全方位 AI 解決方案,從高效能資料中心運算硬體(EPYC CPU、Instinct GPU)到開放的軟體生態系統(ROCm),再到普及的終端 AI 設備(Ryzen AI PC),提供了一個具備成本效益、技術彈性與供應商選擇多元性的 AI 基礎設施建設路徑。特別值得關注的,是 AMD 在 HBM 容量上的優勢、Instinct GPU 的性價比,以及 EPYC 處理器在虛擬化環境中的授權成本節省潛力,皆成為企業在規劃 AI 投資時值得深入評估的關鍵因素。開放式生態系統的策略,也有助於 CIO 避免供應商鎖定,並更靈活地整合新興的 AI 技術與開源創新。
(本文授權非營利轉載,請註明出處:CIO Taiwan)
