儘管當前 GPU 仍在 AI 訓練上扮演關鍵角色，但隨著 AI 模型的日漸成熟，AI 推論（AI Inference）的重要性開始浮上檯面，這也為特定應用積體電路（ASIC）迎來獨占鰲頭的光輝時刻。事實上，打造客製化 AI 矽晶的競賽正在加速，尤其是「超大規模雲端業者」（hyperscalers）正擴大自研晶片的規模，以滿足激增的 AI 應用需求。
編譯／酷魯
許多超大規模雲端業者與領先 AI 業者早已著手設計開發自家客製化 ASIC，包括 Alphabet/Google TPU（Tensor Processing Unit）、亞馬遜 AWS Trainium、微軟 Maia、字節跳動（ByteDance）、Meta，以及 OpenAI 與博通（Broadcom）合作開發自研加速器的計畫（由 OpenAI 設計、Broadcom 開發部署）。這些晶片體積更小、成本更低、更易取得，並可能降低這些公司對 Nvidia GPU 的依賴。許多市場專家莫不認為，客製化 ASIC「在未來幾年將比 GPU 市場成長得更快」。
據道明證券（TD Securityes）預估指出，2030 年加速器（包括 LLM 導向客製化加速器與非 LLM 導向加速器）市場規模約為 3,340 億美元。其中約有 15% 將來自客製化矽晶（亦即 ASIC），亦即以 30% 的年複合成長率（CAGR），從目前約 110 億美元，成長至 2030 年的 500 億美元左右。
市調機構 Counterpoint Research 預測，前十大超大規模業者的 AI 伺服器運算 ASIC 出貨量將在 2024 年至 2027 的三年之間成長三倍。這一成長動力來自於支援 Gemini 的 Google TPU 基礎設施需求激增、AWS Trainium 叢集持續擴展，以及 Meta MTIA 晶片與 Microsoft Maia 晶片開始進入量產階段。
除此之外，ASIC 變得日漸重要要也與市場上大量湧現極為龐大的推論運算需求有很大關係。根據英國金融巨頭巴克萊（Barclays）的研究報告預估，AI 推論需求佔整體通用 AI 運算需求的比重將超過 7 成，約為 AI 訓練需求的 4.5 倍。由此可見，AI 推論將成為今後兵家必爭之地。
2028 年 ASIC 出貨量將反超 GPU，高度集中市場結構轉向多元分散
當前企業內部加速自家 ASIC 的設計風潮，再再證明了內建客製化 XPU（意指 CPU、GPU、NPU、LPU、TPU 的統稱）時代的到來。在這個時代中，AI 加速器是為特定與專門的工作負載（訓練或推論）量身打造，從結構上擺脫僅依賴通用 GPU 的侷限。隨著電力與空間成為瓶頸，將部分 AI 工作負載轉移至垂直整合的矽晶，讓超大規模業者能獲得更多控制權與槓桿回報，但同時也需要大量的軟體整合工程，才能最佳化 AI 工作負載、功耗與效能優勢。
據 Counterpoint 預估，到了 2028 年，全球資料中心 AI 伺服器運算 ASIC 出貨量將超越資料中心 GPU 出貨量達到 1,500 萬顆。前十大 AI 超大規模業者在 2024 至 2028 年期間，累計部署的 AI 伺服器運算 ASIC 晶片將超過 4,000 萬顆。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn，與全球 CIO 同步獲取精華見解 ]
值得注意的是，AI 超大規模業者正基於自家技術堆疊建構大規模機架級 AI 基礎設施，使其能如同一台超級電腦般運作，例如 Google TPU Pods 與 AWS Trainium UltraClusters。而這些舉措更是推動市場 ASIC 需求量大增的另一重要因素。
除了 ASIC 出貨量逐步超出 GPU 的趨勢外，更重要的是，整體 AI ASIC 市場也正經歷結構性的轉變：從 2024 年由 Google 與 AWS 主導的高度集中雙寡頭格局，逐步演變至 2027 年更加多元分散的生態系。
這樣的趨勢轉變反映出超大規模業者的一項更廣泛的策略轉向，亦即降低對以 Nvidia 為首之商用 GPU 的依賴，轉而量身打造內部客製化晶片，進而最佳化特定工作負載的每瓦效能。
儘管市場結構已有所改變，但在製造方面依據台積電主導話語權的局面，該公司依舊是首選的晶圓代工廠，幾乎包辦前十大業者 AI 伺服器運算 ASIC 的所有晶圓製造。
Google TPU 仍是 ASIC 霸主，Broadcom 主導客製化 AI 晶片設計市場
自 2024 年到 2027 年，全球 AI 伺服器運算 ASIC 的出貨量將有 3 倍的成長，儘管整體潛在市場擴大，但在其他超大規模業者與 Broadcom、Marvell Technology 和世芯-KY（AIchip Technologies）等設計公司合作而全面採用自研晶片的衝擊下，預計 Google TPU 在 2027 年的市占率將下滑至 52%（其 2024 年市占率達到 64%）。
即使如此，Google 的市場領先地位仍然無法撼動，這多少也與新一代 Gemini 模型所帶動的強大運算需求有關。正因為該需求的強力驅使，Google 持續擴大對內部 TPU 晶片基礎設施的投資。
至於在 AI 伺服器運算 ASIC 設計服務合作夥伴方面，Broadcom 將持續保持領先地位，到了 2027 年仍將以 60% 的市占率（其 2024 年市占率達 64%）主導客製化 AI 晶片設計服務市場。
但該公司 2027 年的市占率仍較 2024 年下滑了4個百分點，這是因為受到 Google 與聯發科合作聯盟的強大競爭壓力所致。我們從 Google 對 TPU v8 系列採取雙重供應策略就可以看出端倪，該公司所採行的兩手策略就是，由 Broadcom 主導高效能、用於訓練的 TPU v8AX「Sunfish」；由聯發科負責設計以推論為導向的 TPU v8x「Zebrafish」。
[ 推薦閱讀：AI 進入推論經濟時代 黃仁勳：資料中心轉型「Token 工廠」 ]
這一方面說明了，Broadcom 仍握有關鍵 IP 壁壘，並在複雜訓練工作負載方面提供業界領先的效率；但另一方面，更突顯了其高價策略與聯發科更具成本效益的方案形成鮮明對比。這個對比也加大了 Google 朝向分散供應鏈，並以較低成本方案來支援大規模推論部署的策略轉變決心。
再者，業界預計世芯-KY 將重拾市場地位，並隨著其打入 Amazon AWS 供應鏈，在未來幾年將成為重要的設計合作夥伴之一。根據供應鏈調查顯示，隨著世芯-KY 的加入，Marvell Technology 在未來 AWS Trainium 發展路線上，可能面臨日益加劇的競爭壓力。
雖然 Marvell Technology 在 2027 年的出貨量將翻倍，但其設計服務市占率預計仍會下滑至約 8%，這反應出該公司將面臨設計訂單上的競爭壓力。不過，Marvell 的端到端客製化晶片產品組合比以往更加穩固，其客製化矽晶創新（例如客製化 HBM／SRAM 記憶體與 PIVR 解決方案），以及對 Celestial AI 的收購（每年能為 Marvell 帶來數十億美元的額外營收），使其有機會在未來幾年推動其在光學垂直互連領域取得領導地位。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
