• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

代理式AI重塑CPU關鍵地位:AMD EPYC處理器以卓越效能與效率定義AI資料中心新標竿

2026-03-18
分類 : 新聞速寫
0
A A
0

文/AMD

在去年六月舉行的AMD Advancing AI活動中,AMD董事長暨執行長蘇姿丰博士將代理式AI(Agentic AI)形容為「全新的使用者類型」:這類系統能夠持續運作,並不斷存取資料、應用程式與各項服務,以進行決策並完成複雜任務。

這類系統雖仰賴高效能GPU即時生成洞察,但其周邊基礎設施同樣至關重要。隨著代理式AI應用持續增加,高效能CPU負責協調工作流程、處理與傳輸資料,並管理模型在運行過程中所涉及的各項作業。

雖然GPU擅長AI訓練以及許多推論任務所需的高吞吐量平行運算,但現代AI部署仍仰賴平衡的系統架構。CPU、GPU、網路與軟體各司其職,共同實現大規模運算所需的整體效能。

在此環境下,CPU負責協調工作負載、管理記憶體與資料傳輸,並支援與生產環境AI模型並行的企業級應用程式。因此,在現代AI基礎設施的整體效能表現中,CPU的效能與效率比以往更加關鍵。

根據最新發布的數據,搭載第5代AMD EPYC CPU的系統,與同級NVIDIA Grace Superchip系統相比,每核心效能預計可提升高達2.1倍。此外,在SPECpower基準測試中,與同級NVIDIA Grace Superchip系統相比,AMD EPYC CPU系統的每瓦運算效能預計可提升高達2.26倍。

同樣重要的是,x86 CPU架構為客戶帶來廣泛且成熟的軟體產業體系優勢,多數企業工作負載都已能在地端(on-prem)和雲端環境中原生運作,無需像導入Arm架構系統時常需進行程式碼重構、重新編譯或維護多套程式碼庫。

CPU與GPU如何協同運作

在AI資料中心中,CPU與GPU的關係恰似總教練與一群敏捷運動員之間的分工合作。

CPU就像總教練負責制定戰術、因應對手變化、掌握時間,並確保所有運動員朝正確方向推進。GPU則是運動員,專注在特定環節以極高效率完成單一戰術中的特定動作。

伺服器CPU專為處理複雜工作任務與協調系統中的GPU而設計。CPU從記憶體載入資料,為GPU準備就緒,協調資料的即時傳遞,並處理GPU執行任務所需的指令和資料。而GPU憑藉其數量眾多的精簡核心,能以極高速度反覆執行簡單且重複的運算任務。

訓練與推論間的角色變化

訓練是GPU和高吞吐運算能力大顯身手的領域。類神經網路高度仰賴大規模資料網格的運算,而AI訓練需要GPU團隊反覆處理這些資料,以供系統學習。

在訓練期間,CPU負責管理並提供資料給GPU,以確保其維持最佳運作效率。CPU同時負責執行作業系統、管理記憶體並排程任務。儘管工作量繁重,但對CPU而言仍能輕鬆應對。

隨著AI工作的重心轉向推論,CPU的角色也從單純的組織者,轉變為更注重結果的管理者。GPU仍負責處理大部分繁重的類神經網路數學運算,CPU則承擔更繁重的思考任務,包括收集資料、傳遞資訊、解讀結果並決定最終行動。在推論階段中,CPU的角色更為關鍵,需要同時進行控制、協調和複雜的決策。

這彰顯架構設計的重要性。AMD是小晶片(chiplet)設計的領導者,這種模組化方法賦予AMD靈活調整運算能力、I/O、記憶體頻寬與功耗配置,從核心企業應用程式和虛擬化,到GPU編排與多步驟代理式AI工作流程,提供合適規模的運算能力。

代理式AI更加依賴CPU

隨著代理式AI的問世,人工智慧能夠在最少人為干預下,進行規劃、決策並採取行動,CPU因此必須具備前所未有的處理能力。在AI代理的世界中,CPU投入更多時間與邏輯運算來評估結果,而不像傳統推論一般僅限於一問一答。許多情況下,CPU甚至會將問題再次交回GPU,在調整指令後重新運算,直到最終結果產生。

除了既有職責外,代理式AI系統的CPU需管理工具調用(tool calls)、API請求與記憶體查詢。在理想情況下,CPU在執行這些任務的同時,仍需保持GPU持續運作。隨著CPU在AI代理、企業應用與資料湖(data lakes)之間移動資料,代理式AI的興起將顯著提升對CPU運算週期的需求。

CPU作為總教練,不僅在最後兩分鐘指揮比賽,更透過不斷嘗試新戰術以求得分。CPU所做的每項決策都影響GPU的使用效率、整體運算吞吐量,以及對於AI服務供應商來說至關重要的總體持有成本。

AMD EPYC伺服器CPU為AI奠定關鍵基礎

代理式AI正擴展AI的潛力,再次印證了每位資料中心架構師熟知的真理:最佳AI成效來自於平衡的系統。GPU將持續驅動運算效能,但CPU對於編排、效率和整體資料中心整合,將變得日益關鍵,以便在不增加空間或功耗的前提下,容納更多AI系統。

AI效能正愈發由系統層級定義,AMD憑藉其獨特優勢,能夠最佳化從CPU、GPU到網路與開放軟體堆疊的整體架構,以最大化叢集層級的每系統瓦特效能。AMD EPYC CPU與AMD Instinct GPU緊密整合,透過AMD ROCm軟體堆疊結合整個系統,實現高效的GPU管理。

AMD在此基礎上持續發展。代號為“Venice”的下一代AMD EPYC CPU將為即將推出的“Helios”機架級AI架構挹注動能,預計將進一步擴展AMD在AI與通用運算工作負載上的效能、密度與能源效率領先地位。

AI正全面加速運算需求,並驅動全球伺服器更新週期。憑藉AMD EPYC處理器,AMD正提供客戶所需的CPU基礎,以支援下一階段的擴展需求,並為所有高效能GPU提供「教練」般的協調能力。

標籤: AMDCPUGPU代理式AI
上一篇文章

新達電腦攜手伊頓電氣共創電力基礎建設新局

下一篇文章

你的臉書也被「保麗龍文章」淹沒了嗎?當 AI 垃圾塞滿社群,不完美的「真實感」才是企業最貴的護城河!

相關文章

半導體擴廠人才荒 Profet AI 助企業擴大專家量能
新聞速寫

半導體擴廠人才荒 Profet AI 助企業擴大專家量能

2026-11-19
中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
新聞速寫

中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性

2026-11-19
台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解
新聞速寫

台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解

2026-11-18
下一篇文章
SLOP 淹沒社群,更需要人類把關

你的臉書也被「保麗龍文章」淹沒了嗎?當 AI 垃圾塞滿社群,不完美的「真實感」才是企業最貴的護城河!

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • AI 代理人應用於銀行法遵的價值與導入關鍵
  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!
  • 半導體擴廠人才荒 Profet AI 助企業擴大專家量能
  • 中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
  • 雲林培育 2,900 人次智慧農業人才 推動 AI 導入與產業升級

📈 CIO點閱文章週排行

  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!

    0 分享
    分享 0 Tweet 0
  • 平台業者個資外洩 消費者問責品牌商

    0 分享
    分享 0 Tweet 0
  • 強化金融資安韌性 金管會:聚焦 AI 攻擊與代理 AI 安全

    0 分享
    分享 0 Tweet 0
  • 國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

    0 分享
    分享 0 Tweet 0
  • 台灣數位資產與未來資本市場協會成立 布局代幣化金融基礎設施

    0 分享
    分享 0 Tweet 0
  • 【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

    0 分享
    分享 0 Tweet 0
  • 【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI

    0 分享
    分享 0 Tweet 0
  • 【專訪】國泰金控數位數據暨科技發展中心副總經理陳維銘

    0 分享
    分享 0 Tweet 0
  • 【專訪】台北富邦銀行執行副總經理暨數位金融總處長陳弘儒:全行 AI 能力,打造金融生態圈

    0 分享
    分享 0 Tweet 0
  • AI 網攻擴大企業受害 72 小時內應變成資安關鍵

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

1200 Adobestock 569893301

虛擬資產監理新制預告 穩定幣與 VASP 納管強化資安及內控

整理/鄭宜芬 金融監督管理委員會啟動虛擬資產監理新制,3 日預告 11 項授權法

2027 CIO Insight (2) AI 就緒與效益:八成 CIO 看好 AI,只有一成認為已準備好

對 AI 前景樂觀的 CIO 占八成,認為公司已準備好規模化的只有一成二;效益多

2027 CIO Insight 調查報告 (1) 科技採用 / AI治理成熟度,兩重點指數定位產業現況

今年 CIO Insight 調查首度以「科技採用指數」與「AI 治理成熟度指數

數據治理為 AI 規模化的基礎

產業別之數據治理特性:製造業 台灣約有超過半數企業尚未完全建立能支撐 AI 規模

2026 AI 物聯網大聯盟年會 聚焦主權 AI、算力建設與產業 AI 模型

採訪/鄭宜芬 2026 AI 物聯網大聯盟年會 28 日登場,國發會主委葉俊顯與

設備聯網 鑄就 AI 轉型底座

園管局智慧化升級典範企業-嘉鋼精密工業 鑄造產業面對缺工、供應商縮減,以及國際市

強化金融資安韌性 金管會:聚焦 AI 攻擊與代理 AI 安全

整理/鄭宜芬 金融監督管理委員會於 12 日召開 2026 年度第 2 次金融機

從告警到可決策:企業還要 4 小時

《網路韌性法》的 24 小時通報時限一啟動,差距就在於團隊能否在時限內,從一個受

Quantum Taiwan 2026 全球量子科技交流匯聚臺灣 邁向實質驗證與系統化發展

整理/鄭宜芬 由國科會主辦、量子系統推動小組(TQPO, Taiwan Quan

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音