• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

AMD與Cerebras Systems宣布推出領先業界的超低延遲與高吞吐量AI推論解決方案

2026-07-30
分類 : 新聞速寫
0
A A
0

文/AMD

AMD與Cerebras Systems宣布達成技術合作夥伴關係,推出結合AMD Helios機櫃級解決方案與Cerebras晶圓級引擎(Wafer-Scale Engine)的全新解構式AI推論解決方案。此解決方案於AMD Advancing AI 2026大會上首次亮相,旨在提供最先進AI應用所需的超低延遲,同時大幅提升吞吐量與效率。

AMD與Cerebras Systems的聯合解決方案,將部署AMD Helios並整合Cerebras晶圓級引擎技術於單一推論工作流程中,以實現極致的效能與效率。AMD Helios提供高效能且可擴展的吞吐量引擎,Cerebras晶圓級引擎技術則提供超快速、超低延遲的Token生成能力。兩大運算引擎結合,預計可提供高達5倍的每瓦每秒Token數(T/s/W)。

AI推論工作負載在延遲、吞吐量、Token容量、成本以及擴展規模方面的需求日益多元化。大量工作負載優先考量最大化Token生成量,而程式碼編寫、即時Copilot、即時代理與代理式工作流程則需要更快的回應時間。這些差異正推動對異質基礎設施(Heterogeneous Infrastructure)的需求,使其能精準匹配運算技術與特定工作負載的需求。

AMD與Cerebras Systems的解決方案透過解構式推論(Disaggregated Inference)解決這項挑戰,並針對工作流程中的兩個主要階段進行最佳化。AMD Helios以超高吞吐量處理提示詞與大型上下文視窗;Cerebras晶圓級引擎則加速記憶體頻寬密集型的解碼階段,以超低延遲生成Token。透過將這兩項頂尖引擎整合於單一工作流程中,雙方打造出具差異化優勢的超低延遲推論平台,且無須犧牲吞吐量或擴展規模。

AMD董事長暨執行長蘇姿丰博士表示:「AI推論正成為AI領域中最大的基礎設施發展機會之一,而其日益增長的多樣性需要更具彈性的方案。AMD Helios為最廣泛的推論工作負載提供領先業界的效能與擴展規模。透過與Cerebras合作,我們正將這項領先優勢延伸至對延遲極為敏感的應用領域,並為即時代理式AI打造強大的全新平台。」 

Cerebras Systems執行長暨共同創辦人Andrew Feldman表示:「超高速推論的需求正以前所未有的速度快速成長。Cerebras提供全球最快速的超低延遲推論能力。與AMD合作,讓我們有絕佳機會將這項效能帶給更多客戶。」

隨著AI邁向軟體開發、自主代理、機器人技術、科學發現等回應時間直接影響使用者體驗與系統實用性的應用領域,快速的Token生成變得越來越重要。這項聯合解決方案整合了專為這些需求打造的互補架構。

AMD Helios提供處理大量複雜請求所需的高吞吐量的提示詞引擎、機櫃級效率與部署規模,Cerebras晶圓級引擎技術則提供即時傳回Token所需的超低延遲效能。其成果是專為推論市場中超低延遲領域所設計的解決方案,並以AMD Helios作為整個資料中心高吞吐量與平衡推論工作負載的基礎。

標籤: AI應用AMDAMD Advancing AI 2026大會解構式推論
上一篇文章

AI 時代的資安新思維

下一篇文章

昕力資訊跨足國防科技 攜手美商 Juxta 引進尖端「全域定位」科技

相關文章

Zoho 為台灣企業帶來代理式 AI、統一智慧與 Zia Chat
新聞速寫

Zoho 為台灣企業帶來代理式 AI、統一智慧與 Zia Chat

2026-11-02
以國際驗證演算法為核心 普鴻發表 PQC inside by ProVision 產品布局
新聞速寫

以國際驗證演算法為核心 普鴻發表 PQC inside by ProVision 產品布局

2026-11-02
迎戰 VMware 漲價潮!謙太科技推出「DL360 × VergeOS」
新聞速寫

迎戰 VMware 漲價潮!謙太科技推出「DL360 × VergeOS」

2026-11-02
下一篇文章

昕力資訊跨足國防科技 攜手美商 Juxta 引進尖端「全域定位」科技

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • 健保署挹注 3 億推動基層醫療上雲 強化雲端資安與資料備援能力
  • 從企業防禦到供應鏈資安治理 臺灣攜芬蘭拓展跨國資安合作
  • Zoho 為台灣企業帶來代理式 AI、統一智慧與 Zia Chat
  • 以國際驗證演算法為核心 普鴻發表 PQC inside by ProVision 產品布局
  • 【影】自駕車商用化還缺哪一哩路?從法規沙盒到全生命週期安全管理

📈 CIO點閱文章週排行

  • AI 資安國際標準 ISO 27090 強化 AI 治理

    AI 資安國際標準 ISO 27090 強化 AI 治理

    0 分享
    分享 0 Tweet 0
  • 迎戰 VMware 漲價潮!謙太科技推出「DL360 × VergeOS」

    0 分享
    分享 0 Tweet 0
  • 鴻海科技日揭示 AI Factory 布局 從超級運算、AI Agent 到智慧製造

    0 分享
    分享 0 Tweet 0
  • 【專訪】南山人壽數轉基地:企業架構打造 AI 共用模塊 加速創新應用落地

    0 分享
    分享 0 Tweet 0
  • 【專訪】台北富邦銀行執行副總經理暨數位金融總處長陳弘儒:全行 AI 能力,打造金融生態圈

    0 分享
    分享 0 Tweet 0
  • 從 AI 提示詞公開,談企業如何把關資訊

    0 分享
    分享 0 Tweet 0
  • 網通設備受PHP漏洞影響 應密切注意更新並儘速修補

    0 分享
    分享 0 Tweet 0
  • 2026 AI 物聯網大聯盟年會 聚焦主權 AI、算力建設與產業 AI 模型

    0 分享
    分享 0 Tweet 0
  • 【專訪】台達智能製造解決方案發展部研發總監楊應龍:製造數據中樞 邁向 AI-Ready

    0 分享
    分享 0 Tweet 0
  • 從告警到可決策:企業還要 4 小時

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

用光點亮大腦暗區:人類正式邁入能「看清並調控」腦內神經網路的新時代

文/黃光彩 2026年諾貝爾醫學獎與光遺傳學革命 2026年諾貝爾生理學或醫學獎

從企業防禦到供應鏈資安治理 臺灣攜芬蘭拓展跨國資安合作

整理/鄭宜芬 數位發展部部長林宜敬率團赴芬蘭赫爾辛基,應主辦單位「芬蘭資訊安全聚

AI 訓練資料如何取得與授權?政府研議資料創新利用與著作權規範

整理/鄭宜芬 為因應AI發展對資料流通與創新利用需求,並同時兼顧內容產業的著作權

銀行接下虛擬資產保管這一棒

文/蔡孟凌‧校訂╱CIO 編輯室 渣打銀行在 2026 年 9 月 3 日宣布在

【影】從零組件到系統整合 臺灣無人載具供應鏈如何打進國際市場?

當無人機飛向國際,臺灣的隱形冠軍準備好了嗎? 整理/鄭宜芬 在地緣政治、非紅供應

從 AI 提示詞公開,談企業如何把關資訊

從 AI 使用到資訊公開 釐清審查責任與發布關卡 文/游政卿 關於近日競選網站的

高雄 AI 燈塔計畫秀成果 讓城市治理更聰明有效率

整理/鄭宜芬 高雄市政府 29 日於棧叁庫 PIER F 舉辦「高雄 AI 燈塔

PHP、Node.js、Go 緊急修補 涵蓋遠端執行與憑證風險

整理/鄭宜芬 面對 AI 自動化攻擊威脅升溫,以及 PHP、Node.js 與

【調查報告】臺灣資安威脅亞太第一、全球第四 AI 加速攻擊,應變須前移

整理/鄭宜芬 臺灣面臨的資安威脅程度持續升高。微軟近期發布《Microsoft

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音