整理／鄭宜芬
NVIDIA 日前宣布投資聯發科 35 億美元，認購聯發科發行的海外可轉換公司債（ECB），同時宣布雙方深化長期合作，合作範圍從既有的 AI PC、車用等領域，進一步擴大至 AI 資料中心基礎建設。聯發科將採用 NVIDIA NVLink Fusion 平台，協助超大規模雲端服務商、雲端服務供應商及前沿模型開發商開發客製化 XPU，並整合進 NVIDIA NVLink 連結的機櫃級 AI 工廠。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn，與全球 CIO 同步獲取精華見解 ]
從晶片合作擴大到 AI 基礎架構
NVIDIA 與聯發科過去已在 AI PC 與車用等領域合作。此次合作進一步把重點放到資料中心。尤其是聯發科的客製化晶片能力，將與 NVIDIA 的 AI 運算、網路、軟體及機櫃級系統架構進一步整合。
根據雙方公布的內容，聯發科將採用 NVIDIA 最新的 NVLink Fusion 平台，協助客戶開發客製化 XPU。這套平台提供預先建置、預先認證及系統級預先驗證的設計環境，使客製化晶片可以從晶片設計、先進封裝一路整合到機櫃級系統。
也就是說，企業或雲端業者如果選擇客製化 AI 晶片，不必完全從獨立的晶片架構開始建構，而是可以透過 NVLink Fusion，讓客製化 XPU 與 NVIDIA 既有的 AI 基礎架構互連。
NVIDIA 公布的合作方向包括 AI 基礎建設、邊緣 AI 運算以及車用三大領域。其中，AI 基礎建設部分是由聯發科基於 NVLink Fusion 生態系，協助客戶開發客製化 AI 基礎建設，並整合至 NVIDIA 機櫃級系統與 AI 工廠。
當大型模型訓練、推論與 AI 服務的工作負載持續增加，運算需求開始出現更多差異化，客製化晶片將成為資料中心架構的一部分。
TechCrunch 報導指出，包括 Amazon、Google、Microsoft、OpenAI 與 Anthropic 等 AI 公司及大型雲端服務商，都在投入自研晶片，以降低對 NVIDIA GPU 的依賴。此次與聯發科的合作，則讓 NVIDIA 的技術進一步延伸到客製化晶片領域，使這些 XPU 仍能接入 NVIDIA 的資料中心架構。
NVIDIA HPC 與 AI 超大規模基礎架構解決方案資深總監 Dion Harris 在相關說明中表示，NVIDIA 的定位是 AI 基礎架構公司。這也反映此次合作的重點是涵蓋 AI 運算所需的整體基礎架構。
NVLink Fusion 成為雙方合作的技術接口
這次合作另一個值得注意的重點是 NVLink Fusion。NVIDIA 的 NVLink 長期用於GPU 與 GPU 之間，以及 AI 運算系統內部的高速互連。此次推出 NVLink Fusion，則進一步把這套互連架構提供給客製化 XPU，使第三方設計的 AI 加速器可以與 NVIDIA的AI 運算平台連接。
聯發科官方資料說明，NVLink Fusion 為多晶粒 XPU 架構提供預先建置、預先認證及系統級預先驗證的平台，並將相關技術從晶片、先進封裝延伸到機櫃級系統。
這個變化將影響的是 AI 基礎架構的整合方式。企業過去在建置運算環境時，可以針對 CPU、GPU、網路與儲存設備分別進行採購與整合；但 AI 工廠的架構愈來愈複雜，晶片之間的互連、軟體環境與系統驗證，也會影響整體運算平台的部署。
因此，這次合作的核心之一，是將客製化晶片納入既有 AI 基礎架構，而不是讓客製化晶片與既有 GPU 系統各自成為獨立平台。
產業分析也將此視為 NVIDIA 面對客製化晶片趨勢的一種合作模式。
Hendi Susanto，Gabelli Funds 投資組合經理人、全球科技產業研究主管表示，這項合作顯示客製化 XPU 與 NVIDIA 的 AI 生態系可以共同存在；聯發科的客製化晶片因進入 NVIDIA 生態系而獲得發展空間，而 NVIDIA 則可以藉此擴大其平台的使用範圍。
他的觀點將焦點放在「客製化晶片與既有 AI 平台是否能夠共存」。此次合作所採取的方式並不是排除 XPU，而是讓 XPU 透過既有的互連架構進入 NVIDIA 的 AI 基礎架構。
[ 推薦閱讀：AI 基礎架構的下一場標準戰，從連接力開始 ]
聯發科的角色從 SoC 延伸到客製化 AI 晶片
聯發科近年將客製化晶片、高效能運算及 AI 基礎建設列為重要布局。
此次合作中，NVIDIA 特別強調聯發科在客製化晶片、高效能運算、低功耗 SoC、先進封裝、互連與連網技術等方面的能力。
從合作架構來看，聯發科負責的不只是單純提供一顆AI晶片，而是協助客戶完成客製化 XPU 及相關 AI 基礎架構。
AI運算硬體的設計開始出現更大的差異化空間。不同企業可能因模型、工作負載、推論需求及成本條件不同，而採用不同的運算晶片。
在這種架構下，GPU 仍是重要的通用 AI 運算平台，但客製化 XPU 則可以針對特定工作負載進行設計。NVIDIA 此次採取的方式，是透過 NVLink Fusion 把不同類型的運算晶片納入同一個系統架構。
專欄作家林宏文分析，NVLink 是此次合作的重要技術載體，但合作的範圍不只在互連技術。他指出，NVIDIA 面對雲端服務商自研 XPU 的趨勢，選擇把客製化晶片納入自己的平台架構，使這些晶片仍可與 NVIDIA 的 GPU、網路及機櫃架構協同運作。
換言之，客製化晶片未必一定代表與 GPU 形成完全分離的架構，也可能成為既有 AI 基礎架構中的另一種運算元件。
從 AI 工廠看系統整合
此次合作中，另一項重要訊息是「機櫃級 A I工廠」。
NVIDIA 與聯發科表示，客製化 XPU 將能夠導入以 NVLink 連結的機櫃級 AI 工廠。雙方合作的範圍已經從晶片層，延伸到資料中心系統層。
NVIDIA 近期對 AI 工廠的定位，也不再單純以傳統資料中心的伺服器設備來看待。AI 運算環境涉及加速器、CPU、網路、記憶體、儲存、軟體及電力等多個系統層級。
NVIDIA HPC 與 AI 超大規模基礎架構解決方案資深總監 Dion Harris 過去曾指出，AI 需要能夠快速擴充的系統，因此 NVIDIA 在網路與資料中心系統上的布局，是 AI 基礎架構的重要部分。
從雲端延伸至邊緣與 PC
NVIDIA 與聯發科亦表示，兩家公司將持續合作開發多世代 RTX Spark 與 DGX Spark 電腦晶片，將 NVIDIA GPU 與聯發科 SoC 整合，應用於消費型 PC、AI 開發者超級電腦及企業級工作站。
當 AI 模型不再全部依賴遠端雲端服務，而是部分工作負載在 PC、工作站或其他邊緣設備執行，企業 IT 環境中的運算資源也會變得更加分散。此次合作因此同時涵蓋雲端 AI 工廠與本地 AI 運算。
雙方第三個合作領域則是車用。NVIDIA 與聯發科將持續開發具備 AI 功能的軟體定義汽車平台。
[ 推薦閱讀：半導體 AI 新創如何選擇 AI 運算單元 ]
為何由「合作」進一步走向「投資」
NVIDIA 這次投資 35 億美元，發生在雙方擴大技術合作的同一時間。
根據 Reuters 報導，聯發科此次海外可轉換公司債總額為 39 億美元，NVIDIA 認購 35 億美元，Alphabet 也參與認購，但聯發科並未公布 Alphabet 的具體金額。
Reuters 同時指出，NVIDIA 近年透過投資合作夥伴及 AI 基礎架構相關企業，擴大其 AI 生態系。這種模式也讓市場開始討論，當 NVIDIA 投資的企業所提供的產品或基礎架構又會增加 NVIDIA 產品需求時，這類合作所形成的資金與需求關係應如何看待。
不過，就此次聯發科合作而言，雙方公布的技術內容相當明確，包括 NVLink Fusion、客製化 XPU、AI 機櫃、PC 晶片及車用平台等。
Rational Equity Armor Fund 投資組合經理人 Joe Tigay 則從合作關係的角度指出，聯發科取得資金發展與 NVIDIA 相容的晶片，而 NVIDIA 則在不需要完整收購聯發科的情況下，取得更緊密的合作夥伴及潛在的股權利益。
對企業 AI 架構的訊號
此次合作所呈現的另一項變化，是 AI 基礎架構的「異質運算」程度提高。
過去 AI 基礎架構多以 GPU 作為主要加速運算元件；隨著大型雲端服務商開始發展自研晶片，資料中心內可能同時存在 GPU、CPU 以及不同類型的 ASIC 或 XPU。
NVIDIA 此次透過 NVLink Fusion 開放客製化 XPU 接入自身架構，合作模式因此從「單一硬體平台」進一步轉向「多種運算元件共同運作的平台」。
這類變化直接涉及 AI 基礎架構的長期規劃。當企業開始自行建置 AI 運算環境，或使用具有 AI 加速能力的雲端服務時，運算晶片的選擇、軟體相容性、互連架構，以及未來擴充能力，都會成為基礎架構的一部分。
從技術合作內容來看，NVIDIA 提供 AI 加速運算、AI 軟體與 NVLink 等平台能力，聯發科則提供客製化晶片、SoC、封裝、互連與連網技術。雙方共同將客製化 XPU 從晶片層帶入機櫃級 AI 系統。
[ 推薦閱讀：全球資料中心資本支出上看 50 兆美元 電力、GPU成 AI 布局關鍵 ]
從單一晶片走向完整 AI 運算平台
這次 35 億美元投資值得企業 IT 觀察的部分，是 NVIDIA 與聯發科所共同描繪的 A I基礎架構方向。
NVIDIA 並未把客製化 XPU 視為與 GPU 完全分離的運算平台，而是透過 NVLink Fusion 提供一條進入其 AI 系統的路徑；聯發科則利用自身客製化晶片與系統設計能力，協助雲端服務商及 AI 模型業者打造符合特定需求的運算元件。
Hendi Susanto 認為，客製化 XPU 與 NVIDIA 的 AI 生態系可以形成共存關係；Joe Tigay 則認為，投資讓聯發科取得發展 NVIDIA 相容晶片的資金，同時使 NVIDIA 與合作夥伴形成更緊密的關係。
而 NVIDIA 本身則將合作定位為從 AI 工廠、PC 到汽車的跨世代 AI 運算平台。
因此，這項合作所呈現的 AI 基礎架構，將是由運算晶片、互連、網路、軟體、先進封裝及機櫃系統共同構成。也可預測，未來 AI 基礎架構的規劃，或將需要從單一設備選型，延伸至整體運算架構及生態系的整合方式。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
