彙整／鄭宜芬
面對生成式 AI 帶來的「能源戰爭」，聯發科技執行長蔡力行日前在 2026 ISSCC 國際固態電路會議發表專題演講，剖析半導體產業如何應對日益激增的AI運算需求。他表示，能源依然是至今推動創新最大的限制，但也是推動創新的催化劑。產業必須從單一晶片轉向系統級的機櫃（Rack）優化，以追求極致的總持有成本（TCO）效益。透過設計技術協同優化（DTCO）、記憶體技術、高速傳輸及先進封裝等四大技術支柱，他期許在未來十年實現 100 倍的「每瓦效能」提升，讓 AI 運算邁向普及。
[ 加入 CIO Taiwan 官方 LINE與 Facebook，與全球 CIO 同步獲取精華見解 ]
AI 運算需求 應對指數級增長的挑戰
蔡力行指出，機器學習自 2012 年起因擁有充足的運算能力而開始興起，隨後在 2022 年末進入生成式 AI 時代。這種演進形成了一種循環：強大的運算能力催生了更優質的模型，而模型規模的擴大又回頭要求更強大的運算支撐。
傳統的摩爾定律（Moore’s Law）已難以滿足這一指數級的增長需求。蔡力行強調，在 2010 年代之前，摩爾定律運行良好，但現在運算能力的改進速度已變成每 18 個月翻倍都不足以填補缺口。隨著推論（Inferencing）需求的加入，這一缺口將進一步擴大。這推動了所謂的「AI 經濟」，雲端服務供應商（CSPs）與超大型資料中心（Hyperscalers）正投入驚人的資本支出（Capex），預計未來三至五年內，資料中心相關支出將以 25% 的年複合成長率（CAGR）攀升。這股浪潮將推升半導體產業營收在 2026 年前後跨越一兆美元的大關。
能源戰爭 創新最大的限制與催化劑
然而，這場 AI 競賽面臨著嚴峻的挑戰：能源戰爭。
資料中心的建設速度驚人，相關資本支出年增率約達25%。蔡力行舉例，一座大型資料中心園區約由10座資料中心組成，每個中心消耗 500 百萬瓦（MW）的電力，園區總計高達 5000 百萬瓦；相比之下，整個舊金山市每天僅需約 1000 百萬瓦（1 GW）的電力。
各國正積極擴充發電基建，包括利用太陽能、風能等多元能源填補缺口，但能源屬於結構性問題，競爭勢不可免，亟需重大技術創新因應。
蔡力行認為，能源依然是至今推動創新最大的限制，但同時也是最重要的催化劑。為了支撐 AI 經濟，產業界必須在兩大核心指標上取得突破：「每瓦效能」（Performance per Watt）與「每單位整體擁有成本效能」（Performance per TCO）。唯有讓運算成本大幅降低，讓 AI 代幣（Tokens）像現今的網路頻寬一樣廉價且普及，AI 才能真正融入大眾生活。
從晶片到機櫃 系統級的異質整合
應對 AI 需求的方法正在發生結構性的轉變。蔡力行表示，聯發科技及其合作夥伴正將視野從單一晶片或智慧財產權（IP）轉向系統級的解決方案，即「資料中心機櫃（Rack）」級別的優化。
在機櫃系統中，AI 運算架構呈現出終極的「異質整合（Heterogeneous Integration）」。核心是 AI 運算加速器（XPU），可以是 GPU、TPU 或其他形式，並由 CPU 負責控制、DPU 負責管理數據流。這些組件必須協同工作，並具備高度複雜的封裝技術與高頻寬記憶體（HBM），才能提供所需的運算指標。
此外，共同封裝光學（CPO）技術亦是未來關鍵，透過光學互連提升傳輸效率，將是實現AI高速度、低功耗運算的關鍵。
四大關鍵技術
- 運算創新與設計技術協同優化（DTCO）：
隨著製程從 4 奈米推進至 1.4 奈米，電晶體密度增加了約 2.5 倍。透過 DTCO，設計與製程技術的協作能產生額外效益，有時甚至能優化出相當於「半個製程節點」的領先優勢。此外，透過調降工作電壓（VDD），例如從 0.55V 降至 0.445V，可將每瓦效能提升兩倍。
- 記憶體技術的突破：
在 AI 運算系統中，記憶體成本佔據了物料清單（BOM）的 50%。為了應對推論需求，除了高頻寬的 HBM 外，DDR 記憶體乃至靜態隨機存取記憶體（SRAM）將變得更為盛行，以追求更高的容量與更低的成本。此外，「記憶體內運算（Compute in Memory）」或「近記憶體運算（Compute near Memory）」等新架構，將提供更低的功耗與更高的吞吐量。
- 高速傳輸（Interconnect）：
蔡力行將傳輸形容為一種「稅收」，因為數據在晶片間、機櫃間的移動都會消耗延遲與電力。因此，極高速且低功耗的傳輸技術至關重要，業界正熱烈討論共同封裝光學（Co-packaged Optics）等未來技術，以解決 400G 或更高等級的傳輸瓶頸。
- 先進封裝技術：
隨著晶片變得更大、更複雜，封裝技術已成為關鍵動能。2.5D 封裝（如 CoWoS）將持續引領潮流，預計到 2030 年，封裝尺寸可能達到 10,000 至 20,000 平方毫米。藉由3D堆疊技術以及更佳的散熱與供電管理，才能有效支撐極度密集的運算需求。
蔡力行最後指出，目前的技術路線圖大約能引領產業走到 2030 年，但在此之後，人們需要更多的創新技術。他最後提及半導體未來願景，期許在未來十年內實現：40 倍大的光罩尺寸、20 倍高的頻寬密度、20 倍好的供電效率。如果這些目標得以達成，將實現每瓦效能提升約 100 倍的目標，讓AI真正普及，並真正造福人類社會。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
