台灣科學園區生成式 AI 論壇
當前企業面臨 AI 數位變革迫切性。思科(Cisco)深知 AI 應用對底層基礎設施有著高標準要求,尤其在數據流動與高效運算方面。作為領先的網路解決方案供應商,其致力提供 AI 就緒資料中心與先進網路架構,賦能企業在 AI 浪潮中展現卓越效能。
文/明雲青
據統計全球 98% 企業已意識到 AI 導入的急迫性,其中半數高階主管將 AI 投資列為首要任務。報告顯示高達 85% 組織預計在未來 18 個月內部署 AI 策略,更有 50% 企業擬將 10~30% 預算投注於 AI 專案。AI 不再是未來展望,而是當下企業力拼轉型與競爭力升級的關鍵進行式。
思科台灣解決方案工程師劉緯鎧指出,AI 應用分為模型訓練與推論兩階段。訓練模型耗費資源,但地端環境企業更重推論(Inference),因為推論才是將 AI 轉化為實際利益的核心。預計至 2030 年,推論將佔 AI 總體應用逾九成。然而高效推論面臨諸多實務挑戰,包括 GPU 的高功耗與伴隨而來的散熱需求,以及資料中心分散化趨勢,都對 AI 基礎設施構成嚴峻考驗。
為確保 AI 運算效率最大化,底層網路效能至關重要。為此思科打造「AI 就緒資料中心」(Cisco AI ready Data Center),其核心基礎涵蓋強大 GPU、高效伺服器與高頻寬網路。伺服器內部 GPU 間透過 NVLink 高速互聯,外部仰賴 PCIe 與網卡高速傳輸,結合超低延遲的乙太網路技術(如 RoCEv2),確保數據暢行無阻。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 IG,與全球CIO同步獲取精華見解 ]
思科提供全面的企業級 AI 網路方案,可支援傳統接入、儲存及 AI 運算(訓練)等多元網路需求。憑藉 Lossless Ethernet 技術,思科 Nexus 9000 系列交換器能有效整合不同網路流量,簡化複雜度,並提供高效能與高可靠性。思科的 AI PODs 提供預先驗證的基礎設施堆疊,加速價值實現,搭配 Intersight 與 Nexus Dashboard 等工具實現統一管理與監控。此外思科積極佈局 AI 安全,率先發布 Foundation-sec-8b 開放式 AI 資安模型,並致力打造永續設計,相較前代產品節省 49% 能耗,全方位助攻企業 AI 發展。
思科 AI 戰略不僅著眼於硬體層面,更涵蓋廣泛生態系合作與軟體創新。從支援 NVIDIA 的 GPU 基礎設施,到提供涵蓋硬體、軟體與管理的全棧式 AI 解決方案,思科全面賦能企業在 AI 旅程中的每個階段。透過持續投入研發,思科確保其解決方案適應從地端到邊緣的多元部署場景,並提供企業所需卓越性能、擴展彈性與營運效率。思科產品線涵蓋 UCS 伺服器、Nexus 交換器等關鍵組件,並透過 AI PODs 等整合方案,為企業 AI 應用奠定堅實可靠的基石,助力迎接智能時代的挑戰與機遇。
(本文授權非營利轉載,請註明出處:CIO Taiwan)