以往為了降低雲端運算資料傳輸的時間與延遲，遂出現了將運算下放至本地端的邊緣運算。如今，隨著 Nvidia DGX Spark 的推出，AI 訓練與推論所需的超級算力更進一步地走向至桌面。有鑑於其劃時代的影響力，《時代雜誌》因而將它評為「2025 年最佳發明之一」。
編譯／酷魯
Nvidia DGX Spark個人AI 超級電腦最早是在 2025 年初的 CES 國際消費性電子展上首次發表，不過當時尚無產品名稱，而是以「Project DIGITS」的代號公諸於眾。
隨後 DGX Spark 的外觀樣貌首度亮相 GTC 大會上黃仁勳發表的主題演講中，且被定位為該公司對「代理式 AI」（Agentic AI）需求快速提升的應對方案。黃仁勳在演講中將這個小盒子放在手掌上展示，並指出 DGX Spark 與其工作站對應機種 DGX Station 是「從零開始打造，用於驅動下一代 AI 研究與開發」的兩款新產品。
高達 1 petaFLOPS 的效能，AI 應用敏感資料不外流
DGX Spark 核心是 GB10 Grace Blackwell Superchip，該晶片配備 20 核心處理器，由 10 個 Arm Cortex-X925 核心與 10 個 Arm Cortex-A725 核心組成，採用台積電 3 奈米製程技術，可提供高達 1 petaFLOPS 的效能，約等於每秒一千兆次浮點運算。該機整合了 ConnectX-7 高速網路與 Nvidia 完整的 AI 軟體堆疊，有效讓新創公司、研究人員與開發者能以隨插即用方式取得工業級的運算能力。
這款超級桌機配備 128GB 統一記憶體與最高 4TB 儲存空間，鎖定需要即時資料處理、避免雲端延遲的企業。兩台 DGX Spark 系統可透過 NVIDIA ConnectX-7 SmartNIC 串接成迷你叢集，以處理高達 4,050 億參數的模型。對此，Nvidia 產品行銷總監 Allen Bourgoyne 表示：「你真的可以打造自己的個人雲端。」不僅如此，使用者可微調多達 700 億參數的模型、在本地端執行推論，並讓敏感資料完全留在場域內，無需依賴雲端基礎設施。
四大台廠共襄盛舉，通路合作夥伴也做好市場布局準備
除了 Nvidia 官方版 DGX Spark 之外，宏碁、華碩、技嘉、微星四大台廠，以及 Dell（Dell Pro Max with GB10）、HP（ZGX Nano）、Lenovo（ThinkStation PGX）也會在市面上推出搭載 NVIDIA GB10 Grace Blackwell Superchip 的 OEM 版 DGX Spark。
其中，宏碁直到目前為止完全沒有其推出 DGX Spark 的任何消息，而只有名為 Veriton GN100 的 DGX Station AI 迷你工作站的發表新聞。
目前，華碩名為 Ascent GX10 的 OEM 版 DGX Spark 除了去年 9 月開放預購外，且已能在 VIPERA 上購得，但價格較貴。華碩全球資深副總裁、開放平台事業群暨智慧物聯網事業群共同總經理許祐嘉表示：「華碩提供一系列完整的個人 AI 超級電腦，從工作站到採用 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 加速的 NVIDIA MGX 伺服器，以及採用 NVIDIA HGX B300 與 NVIDIA GB300 NVL72 平台的大型基礎架構。」，他進一步指出，該公司將在客戶的 AI 之旅中提供支援，協助他們擴大在 NVIDIA 生態系統中的布局。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 linkedIn，與全球CIO同步獲取精華見解 ]
技嘉也推出名為 AI TOP ATOM 的自家 OEM 迷你 AI 超級電腦，除了採用 NVIDIA 的 AI 軟體堆疊外，亦整合自家圖形化軟體環境 AI TOP Utility，可簡化模型原型建立、微調、推論與部署，涵蓋 LLM 大型語言模型、LMM 大型多模態模型及其他裝置端 AI 應用。
和其他 OEM 商一樣，其 AI TOP ATOM 也在全球上市。其零售清單已出現在 Newegg 電商網站上，配置從 1 TB PCIe 4.0 SSD 的型號起跳，最高階為 4 TB PCIe 5.0 SSD 配置。
MSI 也揭露自家 EdgeXpert MS C931 迷你 AI 超級電腦新品，並鎖定教育、金融與醫療等領域，在這些領域中，資料隱私與低延遲可能使本地端硬體比雲端服務更具可用性。
在通路合作夥伴方面，除了 Nvidia 官網公布的 Micro Center 及 PNY 之外，神達旗下的新聚思科技（TD Synnex）也已將 DGX Spark 供貨給英國及愛爾蘭的合作夥伴。
將超級算力放到每個人的桌面，全面帶動 Agentic AI 發展
「AI 將在每一個產業的各種應用中成為主流……。透過 Project DIGITS，便能將 Grace Blackwell Superchip 交到數百萬開發人員手中。」NVIDIA 創辦人兼執行長黃仁勳在新聞稿中表示。「把一台 AI 超級電腦放在每位資料科學家、AI 研究者和學生的桌上，能讓他們投入並形塑 AI 時代。」
DGX Spark 的推出，正呼應了本地端處理能力之需求正在攀升的事實與趨勢。「想像在工廠車間這類的工業應用場景中，你會希望運算能力就在製造發生處的手邊，」IBM Consulting 副總裁 Shobhit Varshney 在一場《Mixture of Experts》podcast 節目中說道。「從呼叫伺服器或雲端 API 到獲得回應，中間有很多延遲。」
他更進一步指出，這對高度敏感的作業尤其如此，使用者莫不強烈希望敏感資料不會離開自身所在的場域。面對沒有伺服器連線的戰爭前線，你會希望就地處理從無人機上下載的重要影像內容。
DGX Spark 採用以 Linux 為基礎的 NVIDIA DGX OS，讓使用者可在本地端開發，之後再部署至雲端或資料中心基礎設施。軟體公司 KX 執行長 Ashok Reddy 表示，製造工廠可導入由邊緣運算驅動的即時監控、預測性維護與流程最佳化。金融機構則能取得以前所未有的速度進行即時交易、風險管理與預測洞察的工具。同時，醫療機構可運用此技術，在加速診斷、影像分析與藥物開發上受惠於先進的 AI 分析。
賓州大學工程學教授 Benjamin Lee 表示，他將 NVIDIA 的迷你超級電腦視為整體朝向 Agentic AI 更大趨勢的一部分，也就是系統不再只處理單一任務，而是管理整個工作，進而大幅提升生產力。
Varshney 指出，Nvidia 已將其最近以 7 億美元收購的 Run AI 技術全面開放原始碼，以確保整個產業可以更貼近這個實體 AI、Agentic AI 以及自動駕駛的時代，並進而讓自己成為所有這些領域的骨幹。可以確定的是，透過 DGX Spark，Nvidia 想讓運算民主化，亦即變得如同插上電源般地容易取得，而他們更想藉此成為全世界的電力超級強權。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
