生成式 AI 發展迅速，除了先行導入者累積了許多導入經驗，相關科技組織也積極布建準備大力衝刺！除了我們已留意的生成式 AI 幻覺與隱私，終究我們發現生成式 AI 可能帶來企業流程全面再造！
彙整／何信達
AI 時代對個人最直接也最具衝擊性的一點，莫過於軟體工程師生產力提升以及隨之而來的淘汰危機。過去我們可能認為 AI 是提高效率的工具，但現在它已成為必備生存技能。
中華電信董事簡立峰提到，美國軟體工程師使用 AI 工具後，85% 的人認為產能提升了 30% 以上。當我們更深入的探討，簡立峰提到另一個顛覆性的洞見是關於未來人才從「解題」轉向「管理 AI」的「提問」能力。
知識成為一種「製造業」
除了人才之外，一個抽象卻極具震撼力的概念：知識成為一種「製造業」，運算能力能夠直接決定知識產能。這將過去視為成本中心的 IT 基礎設施（特別是運算硬體）提升到戰略資產的高度。而關於台灣企業的處境，簡立峰點出了一個極為尖銳且震撼的現實：「軟體重新定義硬體製造這件事情是台灣的重中之重」。台灣作為硬體製造強國，必須積極利用 AI 與軟體實現彈性製造和遠距管理。這不僅能提升效率，更是在全球供應鏈變局下，讓台灣能夠「研發在台，遠距管理海外生產」的戰略基石。
[ 推薦文章：2025 製造業 IT 投資趨勢 ]
工研院 AI 實務部署與技術解方
在 AI 實際部署中，企業資訊長們還需面對幻覺（hallucination）、偏見（bias）、複雜度及傳輸頻寬限制等問題。工研院資通所暨服科中心技術長郭景明說明工研院與台灣政府正積極開發相關解決方案：
- RAG（Retrieval Augmented Generation）解決幻覺問題。
- 可信賴 AI（Trustworthy AI）與驗測機制。
- Agent AI 降低偏見。
- 優化模型架構提升效率：
▫ML Attention（MLam Latention）
▫Mixture of Experts（MoE）
▫Multi-Path Prediction（MPP）
▫混合精準度（FP8）
工研院也積極將這些技術應用於實際場域，例如在展覽中透過 AI 生成虛擬人與觀眾互動、將舊有程式碼（VB）自動轉換為新語法（C#）以利企業數位轉型，甚至與醫療機構合作，利用 AI 自動生成放射科診斷報告，大幅提升效率。
聯發科由內累積經驗 共榮外部夥伴
聯發科董事長與執行長室顧問陳志成提到 ，聯發科生成式 AI 的起點是從 MediaTek DaVinci GenAI Platform（達哥）開始。公司並決定主動探索駕馭這項技術，從內部試點開始，證明其價值與安全性，同時有助於打消對 IP 安全性的顧慮。
透過 GenAI 發展的迭代過程，在內部應用並累積經驗後，他們開始嘗試將「達哥」對合作夥伴推廣後更收到了許多企業用戶的回饋，「達哥」確實為企業運作帶來了效益。
最大的挑戰將是工作流程再造
聯發科在導入與推廣 GenAI 的過程中，遇到了多重挑戰，並採取了相應的應對策略。首先是 AI 本身的不完美性。儘管 GenAI 發展迅速，但它不完美，且短期內也不會完美。陳志成認為，企業管理者必須先掌握 AI 的限制，了解其強項並管理其短處。例如，AI 產生的「幻覺」（hallucination）問題，即生成錯誤或無關的資訊，是企業必須正視的弱點。例如導入 RAG（檢索增強生成）等技術來提升答案的準確性和可靠性。而在特定情境下，他們也會透過加入免責聲明（disclaimer）作為管理措施，提醒使用者 AI 僅供參考。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 IG，與全球CIO同步獲取精華見解 ]
其次是技術選擇與資源分配的挑戰。GenAI 技術複雜且發展迅速，對於任何一家公司而言，不可能具備所有技術的開發資源。聯發科認為，關鍵在於判斷哪些核心技術必須自行開發，哪些則可透過合作或併購獲得，並將資源專注於公司的核心競爭力，提供獨特的產品和服務。
還有一個更大的挑戰，是既有工作流程再造。陳志成提到，導入 GenAI 並非簡單地將 AI 工具嵌入現有流程，而是需要重新設計現有的工作流程、製造流程甚至企業組織管理流程。若不進行流程再造，可能導致 AI 使用不一致、答案標準化程度不足，或因額外「複製貼上」（copy-paste）的負擔而降低員工使用意願。透過將 AI 導入流程中，使其系統化並持續獲取知識和數據，從而實現 AI 的持續進化與優化。
瑞昱生成式 AI 導入挑戰與策略
在 AI 技術快速發展的背景下，生成式 AI 因其易用性，正逐步改變企業內部的工作模式。瑞昱半導體總經理特助魏士鈞分享了公司在導入與應用生成式 AI 方面的觀察與策略。
▪從 AI 基礎素養到流程重構的起始點
魏士鈞指出，生成式 AI 一個關鍵的改變在於它大幅降低了使用和開發 AI 的能力門檻，這意味著公司裡的每位員工即便不熟悉程式碼，也能透過 AI 生成程式。因此，瑞昱著重於協助員工快速建立 AI，使他們了解 AI 的能力並能立即在工作上應用，這有助於提升員工的素質、思考範疇及解決問題的能力。
在推動應用上，公司鼓勵員工透過自下而上的方式接觸與採用 AI 工具。同時，為了讓 AI 的應用更普及化，建議可參考早期推動品管圈（QC Circle）的模式，依據功能部門或職能相似性，成立「AI 學習圈」（AI circle）。
[ 推薦文章：MCP 為企業打通代理式 AI 任督二脈 ]
魏士鈞表示，生成式 AI 處理大量資訊的能力，正被用於協助公司內部識別各個營運循環或市場中真正的營運瓶頸。一旦識別出這些瓶頸，公司便能更精準地加以改善。對於製造部門或有大量新進員工的部門，魏士鈞建議企業開始累積「具身智能（Embodied Intelligence）的資料」，將過去設備記錄資深師傅的經驗融入，這些數據對於未來實現自動化將是關鍵。
▪管理外部工具、推動流程重塑與培養重度使用者
儘管生成式 AI 潛力巨大，但在實際導入與深化應用過程中，瑞昱也面臨著數項挑戰。魏士鈞觀察到，台灣多數公司在開發 AI 工具的速度上，通常會比全球或美國的領先企業來得慢。因此，一個挑戰在於如何讓員工能夠快速且安全地採納最新的外部 AI 工具來解決工作上的問題，以提升公司在全球的競爭速度。這要求 IT 部門在管理多元且快速迭代的外部 AI 服務時，需考量其兼容性與資料安全性。
他特別指出，AI 最終將導致工作流程的「全面重構」，而非僅僅是既有流程的優化。這種根本性的改變，難以僅從上而下推動，因為基層員工更容易直接發現問題。當他們理解 AI 的能力後，便會自然地提出改善方案，使工作更簡便輕鬆。因此，挑戰在於如何建立一個開放且支持性的環境，鼓勵由下而上的創新，並同時管理大規模的流程變革，確保其符合公司策略目標。
國網中心提供生成式 AI 算力服務
企業資訊長在 AI 模型訓練與測試階段，常面臨龐大算力資源的初期投資問題。國網中心提供國家級的大型 AI 算力，供各單位在研發初期進行嘗試、驗證與測試，企業無需自行購買昂貴的設備。這項服務旨在降低硬體採購與維護成本，並為企業的 AI 策略佈局提供彈性。
國家高速網路與計算中心副主任姚志民說道，在硬體選項方面，國網中心不僅提供 Nvidia GPU，亦支援 Intel Gaudi 或 AMD GPU 等多元異質算力。此外，國網中心也支持國內自行發展的 AI 晶片的驗證，提供環境讓使用者測試不同晶片情境下的模型效能。這有助於企業在採購決策前進行評估，並在供應鏈多元化方面獲得更多選擇。
▪TAIWAN AI RAP 平台：生成式 AI 應用開發環境
國網中心推出的 TAIWAN AI RAP（Rapid Application Platform）是為生成式 AI 應用開發而設計的雲端平台，內建多種開源模型。國網中心並整合多種開源工具，也提供環境供用戶嘗試 RAG 等多種 AI 技術。
▪AI 模型市集與 AI Tribe：共築台灣 AI 生態系
為促進產學研合作與 AI 應用的落地，國網中心旨在建立一個「一站式服務架構」的 AI 模型市集，整合資料、模型、運算和管理等功能。學術研究機構可在此平台上開發、上架 AI 模型，使其研究成果有機會與產業連結並應用。平台內建 MLflow 工具，並採用 PaaS（Platform-as-a-Service）架構，平台本身免費使用，而運算與儲存資源則按需求收費。
在生態系建構方面，國網中心致力於打造一個台灣的 AI 聚落（AI Tribe）。此聚落鼓勵國內學界與業界將其開發的軟體工具及晶片，部署至國網中心的平台上，形成一個多元的 AI 共創研發平台。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
