整理/鄭宜芬
前沿AI模型訓練算力持續以每年4至5倍速度成長,能源供給、資料搬移與系統效率已逐漸取代單一晶片效能,成為企業打造AI基礎建設的新挑戰。面對AI運算架構從「算力競賽」走向「系統整合」的新階段,晶片設計、記憶體與高速互連三大技術正同步演進,也帶動半導體供應鏈由元件創新邁向跨層協同設計(Co-Design)。SEMICON Taiwan 2026以ASIC、HBM與矽光子三大技術主軸,呈現下一代AI運算架構的最新發展方向。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn,與全球 CIO 同步獲取精華見解 ]
能耗成為 AI 發展新瓶頸 半導體產業邁向協同設計
AI模型規模快速擴張,使資料搬移所消耗的能源已逐漸逼近、甚至超越運算本身,效能瓶頸不再侷限於單一晶片,而是整體系統架構設計。
SEMI全球行銷長暨台灣區總裁曹世綸表示:「在現今AI系統中,資料搬移的能耗甚至可能超越運算本身。這意味著,效能瓶頸也因此不再侷限於單一晶片,而取決於整體系統架構的設計。過去,產業競逐的是單一晶片的演進速度;如今,面對能耗限制,如何將運算、記憶與資料傳輸納入同一架構協同設計,才是突破效能瓶頸的關鍵。這項龐大的系統工程,絕非單一企業能夠獨力完成,唯有跨領域、跨供應鏈協作,才能推動下一波創新。」
設計層:ASIC 需求快速成長 AI 晶片走向客製化
隨著全球雲端服務業者(CSP)持續投入自研晶片,AI加速器市場逐步走向多元化。當能耗成為算力擴張的重要限制,針對不同工作負載打造客製化ASIC,也成為提升整體運算效率的重要方向。
TrendForce預估,2026年全球AI伺服器出貨量將年增逾28%,其中ASIC基礎AI伺服器占比可望達27.8%,創2023年以來新高,成長速度也將超越GPU基礎系統。GPU與ASIC架構對應不同運算場景,而非相互取代,如何為運算任務找到最佳架構,正成為晶片設計的核心課題。
邁入第三屆的「AI半導體技術特區」,今年集結日月光、研揚、神盾、微智匯運算以及臻鼎等企業,完整呈現AI從核心運算、晶片設計、半導體製造,到邊緣運算與實體AI(Physical AI)應用的完整價值鏈。展區聚焦先進封裝、高階AI硬體、邊緣AI平台(Edge AI Platform)、企業AI與智慧機器人等關鍵技術,展現AI如何由晶片運算延伸至智慧製造、自主設備與多元終端應用,進一步突顯半導體技術在AI時代所扮演的核心驅動角色。
[ 推薦閱讀:避免盲追流行,「主權 AI」徹底剖析 ]
記憶層:HBM 從元件升級為 AI 系統核心資產
緊密耦合的關鍵之一,在於資料能否即時、就近供應運算單元。HBM也因此從標準化通用元件,躍升為AI系統設計的核心策略資產。推動記憶體供應商、晶片設計商與系統業者由傳統供應關係,邁向跨硬體與系統的協同設計(Co-Design)。
SEMI最新報告顯示,受GPU及其他AI加速器對HBM與DDR5的強勁需求帶動,2026年全球300mm記憶體設備投資將首度突破500億美元,年增29%。
SEMICON Taiwan 2026將舉辦「記憶體高峰論壇」,以「The Co-Design Era: Memory as the Strategic Heart of AI Intelligence」為主題,邀集Google、Samsung、SK hynix、SanDisk、Solidigm、群聯、d-Matrix及學研專家,共同探討HBM4、CXL、AI SSD、運算型儲存(Computational Storage)、記憶體內運算(In-Memory Computing)及MRAM等新一代技術,從AI系統需求延伸至記憶體與儲存創新,解析Co-Design時代下AI運算架構的發展方向。
[ 推薦閱讀:未治理 AI 將付出代價 ]
互連層:矽光子成 AI 資料中心升級關鍵
AI系統規模由單一機櫃擴展至跨機櫃甚至超大型叢集後,資料搬移的挑戰也延伸至系統互連。當銅導線逐漸逼近頻寬、功耗與傳輸距離的物理極限,資料中心架構正加速朝光互連發展。
以光訊號取代電訊號的矽光子技術,可有效降低高速傳輸能耗,被視為下一代AI資料中心的重要基礎技術。
SEMICON Taiwan 2026將設置「矽光子專區」,集結光焱科技、晶彩科技等業者,展示矽光子晶片設計、光電整合、先進封裝、共同封裝光學(CPO)及光通訊模組等完整技術鏈,呈現矽光子由設計走向量產的發展進程。
展會同步舉辦「矽光子國際論壇」,邀集Cisco、Marvell、TSMC、Lumentum、ASE、UMC及Lightmatter等國際企業,聚焦Die-to-Die、共同封裝光學(CPO)至Rack-to-Rack高速光互連架構,並探討AI資料中心、超大規模AI、異質整合、量產製造、測試驗證及全球供應鏈協作等議題,勾勒下一代AI基礎建設的技術藍圖與產業商機。
(本文授權非營利轉載,請註明出處:CIO Taiwan)













