• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

AMD與Cerebras Systems宣布推出領先業界的超低延遲與高吞吐量AI推論解決方案

2026-07-30
分類 : 新聞速寫
0
A A
0

◤

文/AMD

AMD與Cerebras Systems宣布達成技術合作夥伴關係,推出結合AMD Helios機櫃級解決方案與Cerebras晶圓級引擎(Wafer-Scale Engine)的全新解構式AI推論解決方案。此解決方案於AMD Advancing AI 2026大會上首次亮相,旨在提供最先進AI應用所需的超低延遲,同時大幅提升吞吐量與效率。

AMD與Cerebras Systems的聯合解決方案,將部署AMD Helios並整合Cerebras晶圓級引擎技術於單一推論工作流程中,以實現極致的效能與效率。AMD Helios提供高效能且可擴展的吞吐量引擎,Cerebras晶圓級引擎技術則提供超快速、超低延遲的Token生成能力。兩大運算引擎結合,預計可提供高達5倍的每瓦每秒Token數(T/s/W)。

AI推論工作負載在延遲、吞吐量、Token容量、成本以及擴展規模方面的需求日益多元化。大量工作負載優先考量最大化Token生成量,而程式碼編寫、即時Copilot、即時代理與代理式工作流程則需要更快的回應時間。這些差異正推動對異質基礎設施(Heterogeneous Infrastructure)的需求,使其能精準匹配運算技術與特定工作負載的需求。

AMD與Cerebras Systems的解決方案透過解構式推論(Disaggregated Inference)解決這項挑戰,並針對工作流程中的兩個主要階段進行最佳化。AMD Helios以超高吞吐量處理提示詞與大型上下文視窗;Cerebras晶圓級引擎則加速記憶體頻寬密集型的解碼階段,以超低延遲生成Token。透過將這兩項頂尖引擎整合於單一工作流程中,雙方打造出具差異化優勢的超低延遲推論平台,且無須犧牲吞吐量或擴展規模。

AMD董事長暨執行長蘇姿丰博士表示:「AI推論正成為AI領域中最大的基礎設施發展機會之一,而其日益增長的多樣性需要更具彈性的方案。AMD Helios為最廣泛的推論工作負載提供領先業界的效能與擴展規模。透過與Cerebras合作,我們正將這項領先優勢延伸至對延遲極為敏感的應用領域,並為即時代理式AI打造強大的全新平台。」 

Cerebras Systems執行長暨共同創辦人Andrew Feldman表示:「超高速推論的需求正以前所未有的速度快速成長。Cerebras提供全球最快速的超低延遲推論能力。與AMD合作,讓我們有絕佳機會將這項效能帶給更多客戶。」

隨著AI邁向軟體開發、自主代理、機器人技術、科學發現等回應時間直接影響使用者體驗與系統實用性的應用領域,快速的Token生成變得越來越重要。這項聯合解決方案整合了專為這些需求打造的互補架構。

AMD Helios提供處理大量複雜請求所需的高吞吐量的提示詞引擎、機櫃級效率與部署規模,Cerebras晶圓級引擎技術則提供即時傳回Token所需的超低延遲效能。其成果是專為推論市場中超低延遲領域所設計的解決方案,並以AMD Helios作為整個資料中心高吞吐量與平衡推論工作負載的基礎。

標籤: AI應用AMDAMD Advancing AI 2026大會解構式推論
上一篇文章

AI 時代的資安新思維

下一篇文章

昕力資訊跨足國防科技 攜手美商 Juxta 引進尖端「全域定位」科技

相關文章

至上電子集團董事長兼執行長葛均宣布跨足 AI 資料中心基礎架構市場,整合四大關鍵技術協助客戶將 AI 算力轉化為長期競爭力
新聞速寫

至上電子整合記憶體、散熱、供電與監控四大關鍵技術 打造完整AI基礎架構解決方案

2026-08-11
慧榮科技發表新一代 PerformaShape 技術,提升代理式 AI 儲存 QoS
新聞速寫

慧榮科技發表新一代 PerformaShape 技術,提升代理式 AI 儲存 QoS

2026-08-10
Check Point 業界首創 AI Network Firewall,讓既有防火牆全面升級 AI 防護
新聞速寫

Check Point 全新 AI Network Firewall 顛覆防火牆傳統模式,消弭網路 AI 盲區

2026-08-07
下一篇文章

昕力資訊跨足國防科技 攜手美商 Juxta 引進尖端「全域定位」科技

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • 安合規律結盟 Applus+ 打造在地一站式合規支援
  • 落實 AI 治理 數位密碼推 Zentra Helix
  • AI Agent 串聯攻擊流程 解析攻擊手法與新型防禦挑戰
  • Sony 與台積電成立合資公司 以先進製程加速影像感測器量產
  • AI 晶片價值與複雜度攀升 測試角色前移成為良率與量產關鍵

📈 CIO點閱文章週排行

  • 圖說:(由左至右)BIG DATA 創辦人暨董事長金志丞、戴爾科技集團技術副總經理李百飛、勤業眾信執行副總經理江榮倫

    直擊製造業 AI 轉型深水區!Dell Technologies、勤業眾信、BIG DATA 聯手推一站式 Agentic AI 架構,助攻企業從 PoC 邁向規模化生產

    0 分享
    分享 0 Tweet 0
  • 合規管理×智慧防護 台塑網雙引擎捍衛營業秘密

    0 分享
    分享 0 Tweet 0
  • 【專訪】中國信託商業銀行數位科技處處長王俊權:數據與 AI 治理體系,三層金字塔規模化

    0 分享
    分享 0 Tweet 0
  • 【專訪】台達電子資訊長暨資安長曾立峰:企業架構思維,驅動全球營運

    0 分享
    分享 0 Tweet 0
  • 【金融業】金融犯罪偵測系統的十年演進 ─ HSBC 反洗錢系統的 AI 路徑

    0 分享
    分享 0 Tweet 0
  • 【專訪】鴻海科技集團 B 事業群總經理姜志雄

    0 分享
    分享 0 Tweet 0
  • 邁向 Physical AI 無人載具成企業 AI、通訊韌性與資安整合新戰場

    0 分享
    分享 0 Tweet 0
  • 醫療 AI 進入規模化時代 應用創新邁向平台治理

    0 分享
    分享 0 Tweet 0
  • 從幣圈到內控:虛擬資產專法通過後,企業要補上的治理能力

    0 分享
    分享 0 Tweet 0
  • FDE 前線部署工程師,讓 AI 真正落地的角色

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

MyData 串接再擴大 苗栗「便民快 e 通 2.0」打造跨機關資料共享

整理/鄭宜芬 為提升數位政府服務效能,數位發展部與苗栗縣政府攜手,於今(21)日

以 AI 為核心展開企業大重整 分層次多階段打造 AI 原生系統

根據 ISG Provider Lens 在 4 月中旬發布一份針對歐洲年營收超

邊 AI 邊裁員 企業正在重寫成長的規則

文/張瑞雄(資訊系教授、前台北商業大學校長) 科技業在 2026 年上半年的裁員

當 AI 開始參與績效評估,企業該讓技術重新定義「有價值的人」嗎?

當 AI 開始參與績效評估、人才排序與裁員名單,CIO 真正需要治理的,除了模型

【專訪】中國信託商業銀行數位科技處處長王俊權:數據與 AI 治理體系,三層金字塔規模化

從策略制定、數據治理、模型管理、風險檢核及使用監控等治理機制,讓 AI 能夠在安

醫療 AI 進入規模化時代 應用創新邁向平台治理

人工智慧在醫療產業的發展應用 臺灣醫療 AI 已具備與國際競爭的實力,未來應持續

AI Agent 串聯攻擊流程 解析攻擊手法與新型防禦挑戰

AI Agent 將既有的帳密、API、SSO、JWT、暴露面與供應鏈弱點快速串

地下市場販售企業存取權 資安署籲檢視入口曝險

整理/鄭宜芬 近期 Telegram 地下頻道公開 96 家台灣企業名單,並有企

全球競爭力重塑 數據與品牌驅動海外布局

文/鄭宜芬 全球供應鏈重組、AI 發展、地緣風險及永續要求持續改變國際競爭規則,

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音