• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

AMD與Cerebras Systems宣布推出領先業界的超低延遲與高吞吐量AI推論解決方案

2026-07-30
分類 : 新聞速寫
0
A A
0

文/AMD

AMD與Cerebras Systems宣布達成技術合作夥伴關係,推出結合AMD Helios機櫃級解決方案與Cerebras晶圓級引擎(Wafer-Scale Engine)的全新解構式AI推論解決方案。此解決方案於AMD Advancing AI 2026大會上首次亮相,旨在提供最先進AI應用所需的超低延遲,同時大幅提升吞吐量與效率。

AMD與Cerebras Systems的聯合解決方案,將部署AMD Helios並整合Cerebras晶圓級引擎技術於單一推論工作流程中,以實現極致的效能與效率。AMD Helios提供高效能且可擴展的吞吐量引擎,Cerebras晶圓級引擎技術則提供超快速、超低延遲的Token生成能力。兩大運算引擎結合,預計可提供高達5倍的每瓦每秒Token數(T/s/W)。

AI推論工作負載在延遲、吞吐量、Token容量、成本以及擴展規模方面的需求日益多元化。大量工作負載優先考量最大化Token生成量,而程式碼編寫、即時Copilot、即時代理與代理式工作流程則需要更快的回應時間。這些差異正推動對異質基礎設施(Heterogeneous Infrastructure)的需求,使其能精準匹配運算技術與特定工作負載的需求。

AMD與Cerebras Systems的解決方案透過解構式推論(Disaggregated Inference)解決這項挑戰,並針對工作流程中的兩個主要階段進行最佳化。AMD Helios以超高吞吐量處理提示詞與大型上下文視窗;Cerebras晶圓級引擎則加速記憶體頻寬密集型的解碼階段,以超低延遲生成Token。透過將這兩項頂尖引擎整合於單一工作流程中,雙方打造出具差異化優勢的超低延遲推論平台,且無須犧牲吞吐量或擴展規模。

AMD董事長暨執行長蘇姿丰博士表示:「AI推論正成為AI領域中最大的基礎設施發展機會之一,而其日益增長的多樣性需要更具彈性的方案。AMD Helios為最廣泛的推論工作負載提供領先業界的效能與擴展規模。透過與Cerebras合作,我們正將這項領先優勢延伸至對延遲極為敏感的應用領域,並為即時代理式AI打造強大的全新平台。」 

Cerebras Systems執行長暨共同創辦人Andrew Feldman表示:「超高速推論的需求正以前所未有的速度快速成長。Cerebras提供全球最快速的超低延遲推論能力。與AMD合作,讓我們有絕佳機會將這項效能帶給更多客戶。」

隨著AI邁向軟體開發、自主代理、機器人技術、科學發現等回應時間直接影響使用者體驗與系統實用性的應用領域,快速的Token生成變得越來越重要。這項聯合解決方案整合了專為這些需求打造的互補架構。

AMD Helios提供處理大量複雜請求所需的高吞吐量的提示詞引擎、機櫃級效率與部署規模,Cerebras晶圓級引擎技術則提供即時傳回Token所需的超低延遲效能。其成果是專為推論市場中超低延遲領域所設計的解決方案,並以AMD Helios作為整個資料中心高吞吐量與平衡推論工作負載的基礎。

標籤: AI應用AMDAMD Advancing AI 2026大會解構式推論
上一篇文章

AI 時代的資安新思維

下一篇文章

昕力資訊跨足國防科技 攜手美商 Juxta 引進尖端「全域定位」科技

相關文章

2026 達梭系統 SIMULIA 用戶大會 聚焦工業 AI × 虛擬雙生 × AI 驅動模擬
新聞速寫

2026 達梭系統 SIMULIA 用戶大會 聚焦工業 AI × 虛擬雙生 × AI 驅動模擬

2026-09-17
王道銀行攜手幣託推出「企業穩定幣跨境收款服務」
新聞速寫

王道銀行攜手幣託推出「企業穩定幣跨境收款服務」

2026-09-17
數位無限 AI-Stack 賦能彰基 B200 智慧醫療算力
新聞速寫

數位無限 AI-Stack 賦能彰基 B200 智慧醫療算力

2026-09-16
下一篇文章

昕力資訊跨足國防科技 攜手美商 Juxta 引進尖端「全域定位」科技

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • 2026 達梭系統 SIMULIA 用戶大會 聚焦工業 AI × 虛擬雙生 × AI 驅動模擬
  • 王道銀行攜手幣託推出「企業穩定幣跨境收款服務」
  • 打造世界級醫院資安:邁向國際最高標準
  • 數位轉型打地基,AI 轉型展翅飛
  • 醫院電腦升級總是卡關?搞懂這兩個關鍵架構,搶救醫療資訊系統的大危機!

📈 CIO點閱文章週排行

  • ◤ HPE 與大世科從算力、資料治理到 AI 應用打造完整落地鏈,協助企業在效能、安全與成本可控之間取得平衡,將 AI 真正轉化為可持續的企業競爭力。

    從算力到競爭力 HPE x 大世科推動可信 AI 落地

    0 分享
    分享 0 Tweet 0
  • FHIR 風險評估及最佳實務(2):Native 跟 Façade 架構的十字路口

    0 分享
    分享 0 Tweet 0
  • CRA 進入實戰階段 台灣 ICT 從合規應對走向產品安全治理

    0 分享
    分享 0 Tweet 0
  • AI 校園兼具治理與安全 東海大學高教新典範

    0 分享
    分享 0 Tweet 0
  • KPI 管不住 AI:CIO 如何用 OKR、AI Evals 與工程 KPI 重構 AI 原生管理

    0 分享
    分享 0 Tweet 0
  • ChatGPT、Claude、Grok 同日中斷,但面臨韌性與治理雙重壓力的是企業資訊長

    0 分享
    分享 0 Tweet 0
  • 從 Cloud First 邁向 Agent First 國泰金 AI 數位同事亮相

    0 分享
    分享 0 Tweet 0
  • EVERY8D 案看行政檢查 如何推動企業個資治理

    0 分享
    分享 0 Tweet 0
  • 【專訪】全一電子資訊長王志文:以 AI 與Data Platform 布局全球車聯網

    0 分享
    分享 0 Tweet 0
  • 別再叫 AI 幫你想點子!17 種創新工具寫進一段提示詞,讓它改當教練逼問你

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

國家數位健康互通性實驗室啟動 從軟硬體認證建立智慧醫療共同標準

整理/鄭宜芬 衛生福利部 18 日正式啟動「國家數位健康互通性與效能認證實驗室(

從硬體供應鏈思維看企業軟體如何兼顧產品化與客製化

台灣企業軟體的產品及服務策略 數位發展部強調軟體產業要具規模化與國際競爭力,應以

AI 資料中心帶動 800VDC 需求 臺灣加速布局先進封裝與功率半導體

整理/鄭宜芬 經濟部產業技術司「SEMICON TAIWAN 2026」主題館2

當產品的 PQC 升級受限,誰有權決定繼續支援?

技術路徑走到硬體與信任鏈邊界時,企業要說清楚支援期限、客戶通知與退場責任。 文/

FHIR 風險評估及最佳實務(2):Native 跟 Façade 架構的十字路口

FHIR 導入的關鍵抉擇在於底層架構,Native 與 Façade 的選擇牽動

SEMI E187 驗證標章 從制度建構邁向驗證落地

整理/鄭宜芬 臺灣不只打造全球最先進的晶片,更為全球半導體產業立下資安驗證的新標

從 Cloud First 邁向 Agent First 國泰金 AI 數位同事亮相

採訪/鄭宜芬 國泰金控 15 日舉行 2026 國泰金控技術年會,首度公開以 A

Travel Rule 上路前,要先看懂錢包地址背後的責任

文/蔡孟凌 過去談到虛擬資產監理時,很多人第一個想到的是交易所、KYC 與洗錢防

ChatGPT、Claude、Grok 同日中斷,但面臨韌性與治理雙重壓力的是企業資訊長

不知資訊長是否有意識到,9 月 3 日的 ChatGPT、Claude、Grok

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音