Azure Maia 200 現已投入生產，Azure Maia 300 預計於 2027 年推出
文．圖／ Microsoft
微軟 AI 基礎建設發展進入全新階段，宣布將擴大 Azure Maia 系列部署，於 2027 年擴展至數 GW（Multi-Gigawatt，數十億瓦）規模，成為微軟產品與服務的主要 AI 推論（inference）系統。
橫跨多個世代的 Azure Maia 發展計畫已成為微軟 AI 基礎建設策略的核心要素。Maia 200 現已正式支援包括 Microsoft Copilot 在內的實際生產工作負載，並協助 Microsoft AI（MAI）團隊開發新一代模型；GitHub Copilot 與 Microsoft Foundry 則預計於今年底加入。Maia 200 可執行的工作負載涵蓋 OpenAI 模型、微軟自研 MAI 模型，以及主流開源模型系列。透過微軟大規模 AI 服務累積的洞察，得以從硬體系統到軟體應用進行協同設計（co-design），針對企業應用及不同產業的實際使用需求進行最佳化。
Maia 300 是一套專為新一代 AI 工作負載打造的完整 AI 系統，包含長上下文推理（long-context reasoning）、對延遲高度敏感的對話式體驗，以及需要長時間持續執行的多步驟的 agentic 任務。透過提升系統效率，微軟預期相較於頂尖 GPU 運算系統，Maia 300 每兆瓦（Megawatt，MW）token 處理量將提升 40%，並在 96 顆加速器的完整配置下，其機櫃級（rack-scale）token 處理量最高可達 Maia 200 的 7 倍。
Maia 200：驅動微軟大規模運行的工作負載
Azure Maia 系統以微軟實際運行的大規模工作負載，以及對未來模型發展的預期需求為設計基礎。由於晶片開發週期長達數年，微軟的軟硬體團隊從研發初期便展開合作，預先規劃未來架構、規模與運算能力，並將這些需求落實為更大的記憶體容量、更高的頻寬，以及與更多加速器共同運作的統一系統。
這項軟硬體協同工程（co-engineering）已展現可量化的效率提升。Maia 200 已部署於美國、歐洲及澳洲，支援 Microsoft Teams、Copilot 與 Cowork 等內建 AI 功能，相較於業界頂尖的 GPU 基礎架構，每瓦 token 處理量提升高達 1.7 倍。
微軟於 Maia 200 運行 AI 模型與服務所累積的經驗，直接為 Maia 300 的設計方向提供重要依據。兩代系統皆以支援微軟多元 AI 服務而設計，包括可提升 GitHub 程式開發體驗效率的多步驟 agentic 工作、協助支援 Microsoft Foundry 因應多元模型架構與環境部署需求的雲端級規模模型服務、MAI 團隊的推論與資料生成、以及協助 Dragon Copilot 規模化工作流程規模並減輕臨床醫護人員的行政負擔所需但對於延遲較敏感的互動。
Maia 300：讓每一兆瓦創造更多 AI 價值
AI 正逐漸成為各類應用、工作流程與企業營運的基礎。隨著企業從單純聊天體驗，邁向可推理、執行與協作的 agent 系統，AI 基礎建設必須提供安全且高效的大規模 AI 智慧，並持續因應模型與工作負載的快速演進靈活調整。
作為 Azure Maia 計畫的第三代產品，Maia 300 採用推論優先（inference-first）的架構設計，針對長上下文、高記憶體需求與高解碼需求（decode-heavy）等 AI 工作負載優化，同時在雲端級規模下平衡運算、記憶體頻寬、網路與能源效率。
Maia 300 系統核心能力包含：
- 減少資料移動，提升有效運算：在大型 AI 推論系統中，資料移動效率正逐漸成為關鍵瓶頸，而非單純運算能力。Maia 300 的軟體定義資料流程架構與 AI 輔助的核心（kernel）優化相互協作，可最大化資料區域性（locality）、減少資料移動，並提升運算、記憶體及網路資源的使用效率。透過將資料流視為核心設計原則，Maia 300 在每瓦效能表現相較傳統 GPU 架構具備顯著優勢。
- 更高的每瓦記憶體頻寬：隨著 AI 工作負載越來越受情境與記憶體影響，Maia 300 提供引領業界的 HBM 頻寬每瓦效能，8 組 HBM4 記憶體堆疊在 950 瓦熱設計功耗（Thermal Design Power，TDP）下，可提供最高 18.0 TB/s 的記憶體頻寬，高效執行大型模型與長上下文工作負載。此外，專用核心支援則將晶粒內的 SRAM 作為軟體管理的暫存空間（scratchpad），進一步降低 HBM 的存取壓力。
- 透過小晶片（chiplet）架構提升效率：Maia 300 採用全新多顆小晶片架構設計，將運算、記憶體控制器、I/O 功能分別配置，藉此提升效率、可擴充性（scalability）與成本結構。小晶片採用 TSMC N2P 製程節點，以最佳化每瓦效能。
- 支援更長的上下文與更強大的智慧：Maia 300 以針對強化版 MXFP4 等先進低精度格式進行設計，可降低運算與 KV 快取（KV-Cache）儲存所需的記憶體與頻寬，進而在相同的功耗範圍內支援更大的上下文視窗、更高的處理量與更高的模型效率。
- 支援資料中心規模的網路垂直擴展：Maia 300 將網路視為軟體定義資料流架構的無縫延伸。不同於透過獨立的通訊層傳輸資料，資料流運作將運算、記憶體與網路資源視為單一整合系統。高頻寬互連技術協助 Maia 加速器優化張量平行化（tensor parallelism），而客製化 AI 傳輸則在加速器與機櫃之間，提供高效且可靠的垂直擴展通訊。AI 優化的傳輸技術採用基於乙太網路（Ethernet）的網路基礎架構，打造統一的拓撲（topology），從單一機櫃高效擴展至資料中心規模的部署。
- 提升每個機櫃的 AI 處理量：Maia 300 機櫃系統在 167 千瓦功耗範圍內整合 96 顆加速器，提供 27.6 TB 的 HBM 容量，並在高速垂直擴展網域中實現 1.7 PB/s 的 HBM 總頻寬。此高密度配置協助微軟的每個機櫃支援更多同步進行的 AI 互動與更大型的工作負載，以提升資料中心容量與AI 服務規模化擴展的經濟效益。
Azure Maia 是前瞻轉型的核心
未來的 AI 發展不會由單一模型、單一晶片或單一技術創新所定義。模型與晶片的選擇是微軟實現前瞻轉型願景不可或缺的一部分。微軟致力於打造負責任、可負擔且具備可擴充性的 AI 平台，協助每個人運用 AI 擴展自身智慧，推動真正具有意義的突破性成果。
微軟的獨特之處，在於能夠在開放、異質且支援多元模型的平台上，從晶片、系統到 agent 進行優化，協助客戶滿足當前需求並因應未來發展持續推動 AI 轉型。此平台正是前瞻轉型的核心，而 Azure Maia 則是微軟擴展 AI 存取、加速創新的基礎要素，讓客戶能從 AI 中創造更多價值。
微軟將於下個月在美國舊金山及線上舉辦 Microsoft Ignite 2026，屆時將進一步分享微軟的 AI 策略、技術採用趨勢，以及前瞻轉型的成功案例。
