文/鄭宜芬
在 AI 持續擴展至雲端與邊緣的關鍵轉折點,企業技術決策已從單一運算效能提升,轉向整體架構重構與能源效率最佳化。Arm 資深副總裁暨終端產品事業部總經理 Chris Bergey 於 19日在 COMPUTEX 2025 展前高峰論壇中,以「雲端至邊緣:共築在 Arm 架構上的人工智慧發展」為題發表主題演講,提出從資料中心到終端裝置的「AI 優先」運算策略,並邀集來自 NVIDIA 及聯發科技生態系夥伴,共同探討如何攜手創新,開創智慧運算新紀元。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球 CIO 同步獲取精華見解 ]
Bergey 表示,AI 正以前所未有的速度改變世界,Arm 與其合作夥伴持續在硬體與軟體層面推動創新,打造高效率、可擴展的運算平台。隨著 AI 訓練與推論需求大增,Arm 架構正快速成為資料中心主流。AWS、Google 和 Microsoft 也都持續擴展自家基於 Arm 運算平台的資料中心晶片,Arm 預估在 2025 年,出貨給主要的超大規模資料中心業者的新伺服器晶片中,有近 50% 將採用 Arm 架構。
在邊緣端及消費性裝置方面,Arm 運算平台正驅動 AI PC 與智慧型手機市場的持續進化。Arm 強調,當下 AI PC 的設計正日益接近現代智慧型手機。而在全球已有超過 99% 的智慧型手機採用 Arm 架構的基礎上,Arm 預期在 2025 年PC 與平板出貨佔比將達 40%。
除了硬體創新,Arm 也持續投資軟體生態系,協助全球 2,200 萬名開發人員更快、更簡單地建構 AI 應用。自去年 COMPUTEX 推出 KleidiAI 軟體函式庫以來,該套件已整合至多個主流 AI 框架,並已累計超過 80 億次安裝,進一步最佳化各式裝置在音訊、影像、文字與影片等多模態 AI 工作負載的表現。
Bergey 強調,AI 時代是一場千載難逢的機遇,唯有仰賴產業生態系的深度協作與持續創新,才能真正釋放 AI 潛能。Arm 將持續以自身強大的運算平台,為全球科技轉型提供動能,實現 AI 無所不在的未來。
[ 推薦閱讀:NVIDIA COMPUTEX 2025 勾勒「AI 工廠」新藍圖 ]
雲端至邊緣 共築在 Arm 架構上的人工智慧發展
人工智慧已不再只是個概念,它已成為一股力量。人類正面臨一生一次的機會,去塑造它、實現突破,並改變數十億人的生活。
AI 工作負載變得更加多元,運算需求急遽攀升,效能與能源效率之間的平衡比以往更加關鍵。軟體變得更加複雜,成本也更為昂貴。
Arm 生態系正從雲端到邊緣構築 AI 的基礎。在過去三十多年,Arm 持續提供世界級效能與領先的能源效率,並運用洞察來設計 Arm 運算平台的發展,迎接 AI 時代。
AI 模型快速演進,僅在過去 18 個月內就有 150 個新基礎模型問世。人類正邁入多模態時代,模型能夠理解並產生文字、語音、影像與影片。AI 已成為主流。ChatGPT 僅用了五天就達到百萬用戶的規模,成為史上成長最快的消費性產品。
AI 正運行在人類生活中所使用的裝置上。如今,許多 AI 助理的開發也選擇先從邊緣端的應用開始,解鎖全新體驗。
AI 代理已經出現,而實體 AI 也正在浮現。下一波的演進是具備能與真實世界進行感測、互動並做出反應的實體 AI,這將徹底改變人類打造、移動與運作萬物的方式。
臺灣是 AI 發展的核心樞紐
臺灣是全球 AI 供應鏈的支柱。這要歸功於台灣的工程實力、創新能力與整合技術。其中,從設計、硬體到製造的緊密合作凸顯了臺灣生態系的重要性。
然而,AI 崛起也帶來全新需求,滿足這些需求將仰賴前所未有的合作關係、更多的創新與更強的企圖心。
AI 的未來建立在三大核心元素上:一個能覆蓋從雲端到邊緣無所不在的平台、支援全球規模最大的開發人員生態系,以及全球領先的每瓦最佳效能。這正是 Arm 的核心使命。
[ 推薦閱讀:AI 成為使用者介面 ─ 高通 COMPUTEX 2025 主題演講重點解析與企業啟示 ]
Arm 為 AI 時代而生
AI 正在重塑每一個主要市場,包括資料中心、智慧型手機、汽車,甚至是耳塞式耳機。為實現效能的大幅提升,同時不犧牲效率,Arm 打造了運算平台,這是一個為 AI 時代而設計的系統級運算平台。
無論是基礎設施、終端、車用或物聯網領域,Arm 運算平台提供了預整合、經驗證的解決方案,能簡化設計流程、提升每瓦效能、加速上市時程。Arm 已打造出史上應用最普及的運算平台,生態系夥伴迄今已出貨超過 3,100 億顆 Arm 架構晶片。Arm 技術在觸及的裝置、開發人員與使用者的規模上無出其右。
Arm 運算平台的價值體現在全球 2,200 萬名開發人員的參與,且 Arm 擁有全球最大的運算版圖。Arm 深知軟體複雜、昂貴且耗時,因此軟體投資也必須跟著 AI 時代與時俱進。
而在 AI 時代,能源效率的重要性更加突出。自從與 AWS 的合作開展以來,Arm 已進入資料中心領域。如今,在 AWS 新增的 CPU 容量中,已有超過 50% 採用 Arm 架構的 Graviton 處理器。不只 AWS,幾乎所有大型雲端服務商如今都已推出採用 Arm 架構的執行個體,實現至少 40% 的能源效率提升。
Arm 已邁入「AI 優先」的資料中心新時代,其工作負載對電力的需求空前巨大。在台灣,資料中心的用電預計到 2028 年將成長 8 倍。若無法解決能源效率問題,AI 的擴展將受限。
舊有架構無法因應 AI 時代
現在,需要完全不同的設計方式,針對每瓦效能重新思考如何整合 CPU、GPU 及整體系統。NVIDIA 的 Grace Blackwell 平台是一個整合系統,每個元件都經過最佳化協作。
各家大型雲端業者都在重新思考其基礎架構設計,唯有從零開始、為每個元件量身打造,才能滿足 AI 對效能、效率與擴展性的需求。Arm 正處在這場轉變的核心,預估在 2025 年,雲端服務業者採用的新晶片中,將有近五成基於 Arm 架構。
人工智慧的變現要透過「推論」才能實現
雖然目前在 AI 訓練階段的花費已達到數十億美元的規模,目標朝向 10²⁵ 至 10²⁶ FLOPs,但真正的機會還隱身其後。訓練與推論之間存在 10¹⁰ 倍的落差。而推論真正落地實現的地方是人們日常使用的手機、車輛、邊緣裝置。這是 AI 走向規模化、觸及用戶的關鍵,也是每瓦效能發揮最大價值的地方。
展望未來,無論是在雲端、邊緣端、或是兩者之間的每個應用角落,Arm 持續攜手台灣生態系夥伴,共同打造能夠無所不在執行 AI 的基礎架構,一起打造 AI 的未來。
(本文授權非營利轉載,請註明出處:CIO Taiwan)
