第十一屆製造業 CIO 論壇 台北場 會後報導
製造業在實踐 AI 技術時，必須在安全、合規與時效間取得平衡，故需突破挑戰自建 AI 私有雲。是方憑藉 AI 資料中心與國內外光纖網路，希冀協助製造業滿足 AI 部署需求，加速創新轉型。
文／明雲青
毌庸置疑，當今業界最關注的熱門議題正是 AI。隨著眾多企業運用 AI 強化競爭力，將 AI 位階從 Nice to have 提升至 Must have，意謂算力將成關鍵資源，是未來最重要軍火庫。
是方電訊資深經理蔡銘鴻指出，現今大部分算力掌握於幾家大型公有雲與科技業者 (如Meta)，他們聯手購置逾七成 NVIDIA 晶片，許多企業亦透過這些公有雲取得算力。以製造業來說，儘管也透過公有雲執行若干 AI 運算，但另一方面也希望以私有架構發展自身算力資源，支持一些 AI 應用場景的運行。
除了在製造業常見的瑕疵檢測AI應用以外，更有業者期望以生成式 AI 技術打造自動化溝通情境，以便透過自然語言與機台對話，更輕易完成參數設定或改善某些流程，讓相關作業時間有望從過去數十天或上百天，驟減為短短數分鐘。
但製造業現有的機房環境，能否充分支援 AI 算力的部署，顯然問題重重。蔡銘鴻說，以 NVIDIA 最新發表的 NVL72 機器而論，主要透過一個個模組化 Super Node 來匯聚為驚人算力，意即藉由更高模組式擴展，展現前所未見的強大效能。但部署 NVL72 時，亦需一些新的配套，如水冷技術，因為其單櫃電力需求高達 120kW，這也將同時帶動高用電機櫃需求。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
多數製造業機房每櫃電力密度設計約在 2~4kW，而 NVL72 一櫃就抵上 60 個傳統機櫃。再者 NVL72 每櫃重量達 1,360 公斤，反觀一般專業機房內，承受每櫃 1,000~1,200 公斤重量就已到頂；意謂企業欲自建 AI 算力，不僅要負擔高成本，亦因不同於以往的電力、冷卻、樓板承重甚或高速網路需求，使得部署的地方也相對受限。
是方電訊預計於 2024 年下半年啟用最新 LY2 AI 智能資料中心大樓，採隔震設計，具有 2,000 公斤承重能力，並提供 20MW 總電力。客戶若欲將 NVIDIA H100 或 B200 伺服器進駐於此，都可充分滿足用電與環境需求；即使面對客戶需求更高、密度更大的解決方案，是方亦能配合提供客製化水冷設計。
另值得一提，是方為五大公有雲直連交換中心，許多製造業廠區遍佈海內外，正好凸顯是方身為數位匯流連結樞紐的優勢，確保客戶能藉助是方完整的國內光纖骨幹與國際海纜，高速連接企業資料中心與是方資料中心，甚至經由是方骨幹以私網方式連結公有雲，安全交換數位資料。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
