第十八屆CIO價值學院第一堂課
企業要建置 AI 基礎架構的難度非常高，且不一定能滿足 AI 專案需求。GMI Cloud 可提供客製化的私有雲服務、靈活的 AI 算力租賃模式，以及專業的 AI 顧問諮詢服務，助企業選擇最適合 AI 基礎設施解決方案，佈局全球市場。
文／林裕洋
儘管全球各種 AI 應用情境持續擴大中，然企業在 AI 基礎架構建設與維運過程中，卻面臨高階算力資源不足、AI 基礎架構穩定性不足、網路問題導致的研發精力耗費、以及對 AI 供應商的可靠性擔憂等多種挑戰。根據 Meta 公布研究報告顯示，在 Llama 3 等大型模型預訓練過程中，GPU 叢集穩定性也至關重要。以自身在為期 54 天預訓練階段中，在 466 次工作中斷事件中有多達 419 次屬於意外發生，其中有 58.7% 與 GPU 相關，突顯維持 AI 基礎架構穩定性的難度極高。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 IG，與全球CIO同步獲取精華見解 ]
GMI Cloud 雲端基礎架構副總裁 Jay Hsueh 指出，看準企業欠缺足夠維運 AI 基礎架構的痛點，她說，「我們從全球視野角度切入 AI 基礎建設市場，為企業提供國際級的 GPU 算力叢集解決方案服務，實踐部署應用服務與擴充 AI 算力的願景。目前我們 AI 算力原生雲端平台已獲得 NVIDIA 合作夥伴網路 (NPN) 合作夥伴、NVIDIA Cloud Partner（NCP）與亞太區的 GPU 優先分配權，並在全球市場吸引眾多用戶採用。」
驗證體系：確保硬體相容性與效能可靠性
為克服 AI 基礎架構維運的眾多挑戰，GMI Cloud 推出高穩定性、高效率的 GPU 算力叢集解決方案-GMI Cloud Cluster Engine。在預防未知故障方面，GMI Cloud 採取全方位的規劃與分層保護策略，從內部監控與診斷、本地備料庫存的快速更換，與多家資料中心業者的緊密合作，可將非預期停機時間降到最低最小化停機時間。在高穩定的 AI 算力服務之外，GMI Cloud 還提供技術諮詢、簽訂 SLA、問題追溯，以及 7×24 小時全天候服務，可確保客戶的應用服務穩定性。
Jay Hsueh 建議，企業在選擇 AI 雲服務時，應根據自身 AI 應用場景、業務需求與預算進行綜合評估。針對長期穩定的工作負載，私有雲是理想的解決方案；而短期或臨時專案，則可採用彈性的 AI 算力隨需租賃模式。
「GMI Cloud 已正式通過 NVIDIA Cloud Partner（NCP）認證， 這代表我們在 GPU 叢集的品質與效能上均符合最高標準。」Jay Hsueh 強調，「我們能提供客製化私有雲部署、靈活的算力租賃方案，以及專業的 AI 技術顧問服務，協助企業打造最適切的 AI 基礎架構。」
(本文授權非營利轉載，請註明出處：CIO Taiwan)
