打造AI超算新紀元

掌握逆分工與私有化趨勢，加速AI模型訓練與應用開發

AI帶來前所未有的機遇，除了借鏡產業實戰經驗、善用尖端技術進展，更需要掌握趨勢並搶先布局。就技術投資而言，AI的開源與地端化，正是加速且精確落實企業AI策略的必然走向。在「AI Solution Day超算新紀元：AI模型訓練效能爆發的硬核實踐」研討會裡，匯聚產業實戰經驗與尖端技術分享，共同為企業布局AI提供關鍵助力與行動方向。

AI逆分工的思維與對策

生成式AI做為擁有全人類知識的博學助手，將會打破專業界線，讓人類重回通才時代。台灣大哥大資訊長蔡祈岩表示：「人類社會分工細化、高度專業化的模式正在轉變，面對逆分工的大勢所趨，企業不應只將AI視為工具升級，而是組織進化的契機。」

面對AI引發的逆分工趨勢，首先在行動面，企業應該全員擁抱AI，除了在內部推動AI訓練、導入AI工具，高階主管更要帶頭使用AI；其次是培養跨領域人才，包括跨職能團隊、建立輪調計畫，鼓勵專才轉向通才，例如：IT、行銷、財務等專業課程開放給不同部門學習。

[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 IG，與全球CIO同步獲取精華見解 ]

而在思維面，企業必須重塑價值鏈，因為AI不只是提升效率，而是顛覆流程，必須善用AI重新設計價值鏈；另一方面，導入AI的目標是創造價值，而非縮減成本，要避免傾軋內耗或管理階層削減過快等問題。

企業外部值得注意的趨勢則是AI代理的崛起正在顛覆消費習慣，引動商業模式大洗牌，首當其衝的是搜尋引擎、電商和品牌企業，消費者對AI推薦商品的接受度持續上升。蔡祈岩資訊長指出，為了確保競爭力，企業必須儘快布局，作法包括強化服務基礎、站內導入AI對話功能、行銷策略轉型、利用會員制提升高貢獻客群的黏著度等做為防禦策略。

建置私有化AI的利器，加速AI模型訓練落地

從技術架構面來看，AI當前正處於雲端走向地端的重要分野，企業面對不想讓核心機器上雲但又面臨資料必須全部上雲的兩難。此外，雲端必須接受更多監管、公有雲平台因為法規道德等的考量而限制AI技術的使用，亦是挑戰。相對地，在地端建置AI同樣有必須克服的挑戰，也就是昂貴的機器投資。

群聯電子技術長林緯說明，生成式AI不只需要GPU的算力，更需要記憶體。群聯以NAND Flash結合記憶體管理程式，讓GPU可搭配用量不受限的記憶體，從而調節在算力的投資。以90B的模型訓練為例，地端化門檻從100萬美元起跳，但群聯的解決方案僅需1/10的投資，如此一來，企業就能在地端進行模型訓練，推論速度也可加快。

他進一步指出，台灣受限於繁體中文資料量，較難讓模型進行快速迭代，如何將國外模型本土化就成為重要的訓練方向；另一方面，企業採用的模型必須根據其工作的方法、工具、資料進行企業化。這兩項趨勢都將加速AI模型訓練的落地。

軟硬兼備、橫跨雲地的AI解決方案，實現GenAI應用

隨著 AI 技術加速推動企業架構現代化轉型，企業迫切需要建立橫跨雲端與地端的混合多雲環境，以打造具備 AI-Ready的基礎架構。然而，在 AI 模型訓練過程中，企業普遍面臨數據孤島、訓練效率低落、GPU 資源閒置等關鍵挑戰，加上基礎架構日益複雜化與整體成本壓力攀升，使得高效能 AI 儲存方案成為不可或缺的核心基礎設施。MinIO AIStor 作為目前業界傳輸速度最快、唯一達到 Exabyte 級別擴展能力的物件儲存解決方案，能夠實現資料高速直通 GPU 的優化架構，大幅提升 AI 模型訓練效率，協助企業有效突破運算與儲存間的效能瓶頸，為數位轉型奠定穩固基礎。

而在資料面，亦思科技的HARE新世代湖倉平台融合資料湖的彈性與資料倉儲的查詢效能，提供整合的單一平台處理各類型資料與工作負載，包括即時分析與報表查詢、機器學習與 AI 應用、批次與串流處理整合。國內某IC設計公司因此大幅提升資料查詢效能，縮減高達98%的執行時間，並降低在資料庫與硬體的支出。

精誠資訊從豐富的產業經驗出發，提出應用面和管理面兩大解決方案。Langflow可快速生成AI Agent，透過這個平台讓開發人員及非AI專家能以高效率進行生成式AI專案，構建知識型應用，兼顧快速部署與衡量效能的需求。RE:FORM則是實踐多雲基礎架構的平台工程，提供全域IT部署及管理視角，以資源目錄化結合自動化部署，大幅縮短開發專案的申請流程；此外，資源配置透明度和可視性的提升，更有助於降低費率和優化營運。

面對快速演進的AI技術與應用，市場需求持續激增，從技術架構建置著手，確立GenAI應用核心價值，才能掌握先機，以變制變。

AI火力靠群聯、MinIO打好數據基地、資料處理靠Hare、RE:FORM自動省錢又省力、GenAI應用馬上端！歡迎聯繫精誠資訊業務，為您從規劃、建置到維運提供最完善服務。

　Kevin 楊凱偉
　kyang@systex.com | 0938-539283