全新解決方案可廣泛應用於仰賴低延遲與即時連線的AI服務與應用場景，包括零售個人化、製造業的預測性維護、醫療場域的本地邊緣推論，以及電信級的AI服務
文／HPE
HPE宣布推出HPE AI Grid，這是以NVIDIA參考架構為基礎打造的端到端解決方案，可安全串聯跨區域及遠端邊緣站點的AI工廠與分散式推論叢集。透過HPE AI Grid，服務供應商可大規模部署並運營數千個分散式推論節點，將原本分散的AI部署整合為單一且智慧化的運作平台。
AI原生應用需要可預測且低延遲的分散式基礎架構。作為NVIDIA AI Computing by HPE產品組合，HPE AI Grid可在大規模環境下提供可預測的超低延遲效能，支援即時AI服務、零接觸部署，透過整合協同調度實現自動化資安防護。
「我們正重新定義AI的交付方式，將運算能力移動到資料與使用者所在之處，並讓網路成為支撐即時體驗的可靠骨幹，」HPE執行副總裁暨網路事業群總裁與總經理Rami Rahim表示。「結合NVIDIA技術的HPE AI Grid，讓服務供應商得以安全且可擴展的方式，將分散式推論整合為單一系統運行。此系統能提供可預測的超低延遲效能，協助客戶加速創新、降低風險並開創新服務。」
「AI Grid可統整分散於各地的AI叢集，讓AI工作負載在最適合的環境中運行，在AI工廠、區域節點與邊緣之間有效平衡效能、成本與延遲，」NVIDIA電信業務全球副總裁Chris Penrose表示。「藉由與HPE的合作，我們將此願景付諸實現。透過結合NVIDIA的加速運算與網路技術，以及HPE的電信級多雲路由與邊緣基礎架構，我們共同打造適用於分散式推論的單一智慧架構。」
HPE提供端到端AI Grid解決方案，加速部署實現價值
HPE AI Grid符合NVIDIA AI Grid參考架構，為服務供應商提供統一的軟硬體堆疊。HPE AI Grid的差異化優勢在於HPE能夠提供全堆疊的AI伺服器與AI網路，包括：
- HPE Juniper的電信級多雲路由與同調光學技術，提供可預測的長距離與都會區連線、雲端原生與多租戶資安防護、防火牆、WAN自動化，以及協同調度功能，以支援零接觸部署與生命週期管理
- HPE ProLiant Compute邊緣與機架式伺服器，搭載NVIDIA加速運算技術，包括NVIDIA RTX PRO 6000 Blackwell GPU、NVIDIA BlueField DPU、Spectrum-X乙太網路交換器（Ethernet switches）、Connect-X SuperNIC與加速AI推論（AI Inference）的AI藍圖（AI Blueprints）
HPE AI Grid為服務供應商開創全新商機
從零售個人化、預測性維護、邊緣醫療到電信級AI服務，各類服務供應商應用情境皆需要可預測且超低延遲的連線能力。HPE AI Grid使營運商能將具備電力與連線能力的既有據點轉型為RAN適用的AI電網，實現分散式推論與擴展新服務。
在推進AI Grid策略的同時，Comcast今日宣布在其高度分散的網路架構上展開全新AI實地測試，針對即時邊緣AI推論進行驗證，為下一波AI應用帶來更快速且的使用體驗。初步測試涵蓋多項應用情境，包括利用搭載NVIDIA GPU的HPE ProLiant伺服器，執行Personal AI（HPE Unleash AI合作夥伴計畫成員）的小型語言模型，為中小企業提供AI驅動的「前台服務」解決方案。
業界對HPE AI Grid與NVIDIA合作的回應
「HPE與NVIDIA一直是TELUS主權AI工廠（Sovereign AI Factory）的策略合作夥伴。該系統為加拿大速度最快、運算能力最強的超級電腦之一，讓研究人員、企業與機構能夠推動大規模創新，」TELUS執行副總裁暨技術長Nazim Benhadid表示。「隨著TELUS持續將AI能力推向更貼近客戶端的應用、加速AI驅動的網路效能優化並提升服務效率，我們對搭載NVIDIA技術的HPE AI Grid解決方案有進一步探索的興趣，並將持續推進我們的AI轉型歷程。」
「我們的客戶對應用與服務支援的要求不斷提升。他們期望能獲得毫秒級的回應速度、低延遲的連線能力，以及完善的資安防護，」CityFibre技術資訊長Neil McRae表示。「我們正在評估基於NVIDIA參考架構打造的HPE AI Grid，能如何支援分散式AI推論，使智慧能力更貼近使用者與資料。透過我們的光纖網路資產，我們期待高效能連線與智慧服務的結合能為客戶開創更多價值。」
HPE Financial Services加速推動支援AI的網路與分散式AI基礎架構
為進一步加速採用AI網路與分散式AI基礎架構，HPE Financial Services亦將其零利率融資方案擴展至網路AIOps軟體（包括HPE Juniper Networking Mist），並針對AI的網路設備租賃方案提供相當於10%現金折扣的融資優惠。
