Neoclouds（新興雲服務商）作為專為 AI 和高效能運算（HPC）而建立的雲端供應商，正在市場上迅速佔據一席之地。CIO 必須以謹慎的眼光，透過合約保障、專業化服務和混合式 AI 策略來利用 Neoclouds 的優勢，同時管理其固有的風險。
編譯／Frances
人工智慧（AI）正以前所未有的速度推動企業運算基礎設施的轉型。傳統超大規模雲端服務（Hyperscalers，如 AWS、Azure、GCP）在面對新一代 AI 工作負載所需的 GPU 規模、超低延遲和成本效益 時，往往難以完全滿足。
Neoclouds（新興雲服務商）作為專為 AI 和高效能運算（HPC）而建立的雲端供應商，正在市場上迅速佔據一席之地。根據 JLL（一家全球房地產和數據中心顧問公司）的報告，Neoclouds 行業的複合年收入增長率（CAGR）自 2021 年以來已高達 82%。ABI Research（一家市場情報和研究分析公司）預測，Neoclouds 提供的 GPU 即服務（GPUaaS）收入將從 2024 年的 240 億美元，成長至 2030 年的 650 億美元 以上。
然而，Neoclouds 的商業模式是資本密集且高槓桿的，高度依賴債務融資購買昂貴的 GPU。這引發了 CIO 對供應商在算力成本快速下降時是否會面臨倒閉風險，從而導致企業 AI 專案面臨 連續性風險（continuity risks）的合理擔憂。
CIO 必須以謹慎的眼光，透過合約保障、專業化服務和混合式 AI 策略來利用 Neoclouds 的優勢，同時管理其固有的風險。
Neoclouds 的演化：AI 運算骨幹的專業化
Neoclouds 的出現並非偶然，它們是 AI 基礎設施專業化需求的結果。
▪從加密貨幣到 AI 運算從加密貨幣到 AI 運算從加密貨幣到 AI 運算
許多知名的 Neoclouds 供應商，例如 CoreWeave 和 Crusoe，最初都是從加密貨幣挖礦業起步，利用 GPU 進行挖礦，累積了大規模管理 GPU 叢集的專業知識。隨著加密貨幣市場冷卻，以及生成式 AI 需求的爆發，這些公司迅速將其大規模 GPU 資源重新定位到 AI 處理。
▪AI-First 的設計與效能要求
Neoclouds 專注於提供 GPU 即服務（GPUaaS）模型，其架構與傳統 Hyperscalers（以 CPU 為核心）形成鮮明對比。
‧高密度運算：AI 訓練要求數千個 GPU 並行運作，推動基礎設施轉向 極度密集的集中式站點，機架密度遠超傳統標準。
‧低延遲網路：Neoclouds 採用 InfiniBand 和 NVLink 等先進互連技術，確保 GPU 之間的直接高速通訊。NVIDIA NCP（Cloud Partner）Reference Architecture 的標準即要求使用 InfiniBand 網路來運行 GPU 算力。
‧最小化虛擬化：Neoclouds 通常提供 Bare Metal 或 Thin-VM 存取，以消除 Hypervisor 層，減少虛擬化開銷，實現近原生硬體的速度。CoreWeave 透過這種方式，將硬體利用率提升了 20%。
Neoclouds 的差異化價值與企業成效
Neoclouds 透過其專業化、速度和成本結構，吸引了對算力有極高要求的企業。
▪快速存取與部署成效
GPU 供應短缺使得傳統雲端服務商的 GPU 存取通常需要 2 到 4 週，甚至 3 個月或更久。Neoclouds 則能提供快速服務：
‧優先供貨權：Neoclouds 與 NVIDIA 等晶片製造商緊密合作，能夠優先取得最新一代的 GPU（如 H200 和 GB200）。作為 NVIDIA NCP 廠商，供應商可以在三到四個月之內，完成從拿貨、建制到交付算力的流程。
‧快速啟動：CoreWeave 可以在 4 到 8 秒內啟動 GPU，大幅領先傳統雲端。
▪性能加速與成本優勢
Neoclouds 的專業化架構帶來了直接的性能提升和成本節省：
‧速度提升：IBM 在 CoreWeave 平台上成功將其 Granite 模型的 AI 工作負載加速了 80%。CoreWeave 曾實現 29 倍更快的 AI 模型訓練速度。
‧成本節省：HostingAdvice（一家網路託管評論網站）的調查顯示，近一半的受訪者表示，轉向 Neoclouds 可以節省 25% 或更多的 AI 基礎設施預算。JLL 引用分析指出，Neoclouds 相比 Hyperscalers 可以降低約 6.6% 的費用。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 linkedIn，與全球CIO同步獲取精華見解 ]
▪企業與產業應用
Neoclouds 的客戶集中在對 AI 效率和成本極為敏感的領域：
‧LLM 開發商：OpenAI 和 Meta Platforms 等公司是領先 Neoclouds 的主要客戶。
‧Hyperscalers 擴容：微軟 Azure 透過與 Nebius 簽訂 170 億美元的五年協議，以及使用 CoreWeave 的容量，來補充自身的 AI 基礎設施容量。
‧金融與主權 AI：Wells Fargo（富國銀行）等金融機構利用 Neoclouds 獲取爆發性容量（burst capacity），用於詐欺檢測和即時交易監控。Neoclouds 亦支援 資料主權 和 合規性 要求，對於受監管行業至關重要。
‧高效能產業：包括醫療保健（影像分析）、汽車業（自駕車模擬）、以及媒體與娛樂業（即時渲染）。
CIO 的核心擔憂：財務風險與技術過時
儘管 Neoclouds 增長驚人，但其重資產、高槓桿的商業模式帶來了重大的長期風險。
▪資本密集性與高債務風險
Neoclouds 的擴張是資本密集型的，需要巨額資金來滿足 AI 需求。
‧債務融資：這些公司大量依賴債務融資。Futuriom 統計六家主要 Neoclouds 已籌集超過 320 億美元的債務融資。CoreWeave 的淨債務（含租賃）截至六月已達到 130 億美元。
‧資產/合約錯配：JLL 警告，GPU 合約期（2 到 5 年）短於硬體資產回收期（7 到 9 年），這形成了「關鍵的錯配」。
‧技術過時的威脅：NVIDIA 新一代產品的推出將加速現有 GPU 的貶值。Blackwell 平台在能效和推理性能上的巨大提升（最高達 40 倍）將迅速稀釋舊資產的價值。如果 AI 泡沫破裂或算力價格暴跌，缺乏規模和穩定收入流的供應商將難以生存。
▪企業級「適用性」的差距
Neoclouds 的專業化是以犧牲廣泛的企業級服務為代價的。
‧Everest Group（一家全球管理顧問公司）建議企業採用「三 A 評估透鏡」：負擔能力（Affordability）、可存取性（Accessibility），以及適用性（Applicability）。Neoclouds 在前兩者表現優異，但在 適用性 方面存在差距。
‧治理與整合：Neoclouds 往往缺乏 Hyperscalers 提供的廣泛的 治理、法規遵循、資安 和 多雲整合 能力。
‧區域覆蓋限制：許多 Neoclouds 仍然主要集中在美國和歐洲。由於推論（Inference）對 延遲極為敏感，這限制了需要全球部署的國際企業的應用。
CIO 的策略性保障與未來定位
面對這些風險，CIO 必須將 Neoclouds 定位為經過仔細風險對沖的策略夥伴。
▪透過合約結構確保連續性
最有效的風險管理工具是利用 Neoclouds 的合約結構來保障收入穩定性。
‧「照付不議」合約：CoreWeave 96% 的合約是「承諾，照付不議」（take-or-pay）的固定價格長期合約（通常 4 到 6 年）。這種結構將風險轉嫁給客戶的資產負債表，保證了 Neoclouds 的收入流，這間接保護了企業的算力供應連續性。
‧財務背書：選擇有策略性財務支持的 Neoclouds。NVIDIA 不僅投資了 CoreWeave，還承諾購買其所有的閒置容量直到 2032 年 4 月，這提供了強大的風險對沖。
[ 推薦文章：提示工程已死！情境工程成為 GenAI 新顯學 ]
▪採取混合式 AI 策略
CIO 應將 Neoclouds 納入更具彈性的 混合式 AI 架構 中。
‧彈性容量：Wells Fargo 認為 Neoclouds 最適合作為策略夥伴，提供 爆發性容量（burst capacity）來應對突發流量或 GPU 緊急需求。
‧模組化與主權 AI：某些 Neoclouds 提供模組化的軟體許可證，允許客戶在自己的本地（on-prem）或其他雲端環境中控制 GPU 集群。這為需要遵守地域法規或進行 主權 AI 專案的企業提供了更大的數據控制權。
‧全球管理：由於推論對延遲敏感，提供 Multi-region management 功能的平台（用單一平台管理全球不同地點的 GPU 資源）對於全球化運營的企業至關重要。
▪專注於全棧 AI 轉型
為了抵抗硬體商品化和技術過時的風險，CIO 應評估供應商在軟體和服務層面的投入。
‧軟體與 MLOps：Neoclouds 的長期生存能力取決於能否從單純的 GPUaaS 供應商轉型為 全棧 AI 平台。例如，CoreWeave 收購 Weights & Biases 來擴展其 MLOps 和軟體工作流程層。
‧專業服務：供應商必須提供優化的軟體棧（如 Cluster Engine 和 Inference Engine）、排程管理（如 Slurm/K8s），並提供 AI 專家顧問服務，以支援客戶的模型調優和選型。
結論
Neoclouds 的崛起是對 AI 運算專業化需求的必然反映。Synergy Research Group 預計，到 2030 年，雲端運算的新進入者可能會佔據全球 AI 級晶片租賃市場 20% 的份額。
CIO 必須將 Neoclouds 視為 專業化但高槓桿的策略夥伴。透過利用其在速度、成本和專業性能上的優勢，並將其納入具備彈性的混合式 AI 架構中，企業將能確保 AI 專案的連續性，加速創新進程。
Neoclouds 與傳統 Hyperscalers 的關係，就像是高性能 F1 賽車隊與大型汽車製造商。汽車製造商提供了廣泛、可靠的日常交通工具，而 Neoclouds 則專注於以極致的性能和專業化調校，在特定的高強度賽道（AI 工作負載）上追求突破極限的表現。企業 CIO 的挑戰在於，要確保購買 F1 級的服務時，其背後的車隊擁有足夠穩健的資金流和長期合約，避免因技術競賽中的任何一次「爆胎」（技術過時或倒閉）而導致專案提前出局。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
