GenAI 成功落地的秘訣
世界正進入以 AI 為「工作」與「基礎設施」核心的新時代。這不僅是一場技術升級,而是繼電力與網際網路之後,下一個計算平台的歷史轉折點。對 CIO 而言,掌握這波轉型的節奏與策略,將決定企業未來十年的數位競爭力。
文/編輯部
生成式人工智慧(GenAI)已從實驗室的概念階段,正式進入大規模企業部署的時代。這不僅僅是技術的漸進式升級,更是繼加速運算(Accelerated Computing)之後,計算平台的歷史性轉型。
計算平台轉型的時代召喚
對企業資訊長(CIO)而言,這場轉型不容錯過:數據顯示,近乎所有財務長(94%)都預計 GenAI 將在未來 12 個月內為其財務職能帶來實質益處,這項數據來自 Bain Capital 的一項研究。
而 NVIDIA 創辦人兼 CEO 黃仁勳在 NVIDIA GTC 2025 大會上發出了核心論斷:
- AI 是「工作」而非「工具」:過去的軟體是工具,而 GenAI 的核心價值在於 AI 是工作(AI is work),它是能夠利用工具的「AI 工作者」(AI Agents/Workers)。這是一個深刻的區別,意味著 AI 首次能夠接觸並最佳化過去人力主導的全球數十萬億美元經濟領域。
- AI 即「基礎設施」:AI 已成為新工業革命,它像電力和網際網路一樣,是必要的基礎設施。
- 雙指數級增長的匯聚:當前業界面臨兩股平台轉型同時發生:從通用計算轉向加速運算,以及 GenAI 模型變得更智慧、人們願意付費使用所導致的計算需求呈指數級增長。
因此,CIO 的新使命不再是單純購買 GenAI 軟體,而是必須規劃和建構一個能夠支撐這些具備「代理能力」(Agentic AI)的完整三支柱架構,以應對這場轉型:

跨越邊界的應用與價值放大
GenAI 的落地應用已跨越產業邊界,從後勤行政到前瞻研發,實現了效率的指數級放大:
▪金融業:效率、風險與遺留系統的現代化
GenAI 在金融服務業中的價值巨大,MIT Technology Review 預計其每年可為該產業節省高達 3,400 億美元,而 McKinsey Global Institute(MGI)估計在銀行業應用 GenAI 可帶來每年 2,000 億至 3,400 億美元的價值增值。
在流程自動化與洞察生成方面,GenAI 能夠實現更高效的財務規劃和報告。GenAI 模型可以根據新的即時數據刷新預測(動態情境建模),並自動生成管理報告、差異分析和執行摘要的初稿。Workday 的報告確定了 GenAI 在財務規劃、報告、應付/應收帳款自動化、財務和現金管理等七個關鍵領域帶來巨大影響。
在風險管理與欺詐檢測方面,GenAI 表現出強大的放大器潛力。它能夠透過生成合成的欺詐交易範例,來訓練和增強傳統機器學習演算法。Mastercard 運用 GenAI 掃描交易數據,預測並檢測被盜支付卡數據,結果是受損卡片的檢測率提高了一倍。此外,GenAI 也被應用於合規文件的自動編譯,並測試潛在的欺詐方案或法規變動,以識別漏洞。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 linkedIn,與全球CIO同步獲取精華見解 ]
在客戶服務與系統現代化方面,LLM 驅動的虛擬助理提供了更自然、具情境相關性的回應。例如,摩根士丹利(Morgan Stanley)部署了 OpenAI 驅動的聊天機器人,利用公司的內部研究數據來支援財務顧問。 GenAI 模型也能將 COBOL 等傳統程式語言的程式碼轉換為現代語言,從而加速應用程式現代化,降低維護成本。高盛(Goldman Sachs)的員工已確認 GenAI 在應用程式開發和增強方面表現強勁。
▪高科技、製造業與實體 AI 的具身化
高科技和製造業是 GenAI 發展「具身化(Embodiment)」潛力的核心場景,將 AI 工作者延伸到物理世界。
在軟體工程方面,GenAI 極大地提升了效率。AI 協作助手(AI Copilot)有潛力自動化 20% 至 45% 的軟體工程職能。NVIDIA 內部使用的 Cursor,即是一種代理式 AI 系統(Agentic AI system),協助軟體工程師生成程式碼。
在工業設計與製造方面,GenAI 可生成最佳化的產品設計以滿足精確的功能要求(例如強度重量比),從而加速設計週期。而 AI 驅動的再工業化 更成為全球趨勢。
實體 AI 與數位孿生方面,實體 AI 應用(例如機器人、自動駕駛汽車)需要三個運算系統共同運作:用於訓練 AI 模型的 Grace Blackwell、用於在數位孿生中模擬和訓練機器人的 Omniverse 電腦,以及用於機器人運行操作的 Thor Jetson 機器人電腦。這種模式正在被實踐:
- 工廠自動化:富士康(Foxconn)正在休士頓建造一個最先進的機器人設施,用於製造 AI 基礎設施系統。Foxconn 工程師在數位孿生中進行虛擬工廠裝配和最佳化。Caterpillar 也正在將數位孿生應用於其製造方式。
- 機器人與物流:Agility(倉庫自動化機器人公司)和 Johnson & Johnson(外科手術機器人)等公司都在開發實體 AI 應用。
在電信業,GenAI 正被用於重新定義基礎設施。NVIDIA 與 Nokia 將進行合作,將 NVIDIA Arc(一種基於加速運算和 AI 的軟體定義無線電網路電腦)整合到其未來基地台中,並將該技術與 Airscale 兼容,以升級全球數百萬個基地台。
▪醫療業:應對倦怠與加速創新
醫療業正面臨著高昂的營運成本、員工短缺和醫師倦怠率高等挑戰。Medscape 的 2024 年報告 顯示,近 49% 的醫師感到倦怠,其中行政負擔(62%)是主要原因。GenAI 的應用正為此提供解決方案。
在行政負擔減輕方面,GenAI 透過環境語音技術,能夠被動擷取醫患對話,將非結構化音訊即時轉換為結構化的臨床筆記或出院摘要,並自動填寫電子健康紀錄(EHR)欄位。例如,Microsoft 的 Nuance 已將 GPT-4 整合到其臨床轉錄軟體中。Navina 開發的 GenAI 助理可檢索 EHR、保險理賠等資訊,並生成轉診信函和進度記錄等結構化文件。這種行政流程自動化預計能為醫療業每年節省約 1,500 億美元的開支。
在藥物開發與科學研究方面,GenAI 則充當了強大的放大器。傳統新藥研發成本高昂(介於 10 億到 20 億美元之間),且有約 90% 的候選藥物在臨床試驗階段失敗。GenAI 模型能夠設計符合目標要求的新化合物和蛋白質,並預測潛在的毒性和療效。這些模型能夠在電腦模擬中測試虛擬化合物,將藥物先導最佳化時間縮短 60% 至 70%。具體合作案包括 OpenAI 與 Moderna、NVIDIA 與 Genentech、AWS 與 Pfizer。此外,Recursion Pharmaceuticals 收購了專注於 GenAI 設計藥物候選物的 Valence。
GenAI 還有助於數據稀缺和隱私保護。由於醫療數據(PHI)敏感且難以分享,GenAI 可生成逼真且保護隱私的合成醫療數據集。例如,德國研究團隊開發了基於 GAN 的 GANerAid 模型,用於生成臨床試驗所需的合成患者數據,即使原始訓練數據集規模有限也能達成。
落地挑戰、技術鴻溝與治理緊迫性
成功落地 GenAI 不在於技術本身,而在於 CIO 如何透過戰略基礎設施投資,解決整合、成本和信任問題。
▪GenAI 規模化的策略邏輯:從廣泛工具到全棧系統
如前所述,許多案例(如加速運算、傳統 ML 增強、機器人控制)的納入,是為了提供 CIO 一個「全棧(Full-Stack)」的策略視角。GenAI 的大規模部署,無法脫離這三大邏輯支柱:
- 基石:加速運算與 TCO 優化
AI 模型的智慧程度和使用量呈雙指數級增長。傳統摩爾定律已放緩,無法滿足需求。因此,企業必須透過加速運算和極限協同設計(Extreme Co-design)來持續壓低 Token 的生成成本(TCO)。最新的 Grace Blackwell MVLink72 系統,正是這種極端設計的成果,其 AI 推論效能相較於前代 H200 提升 10 倍,並能產生世界上最低成本的 Token。這使得 GenAI 的良性循環(Virtual Cycle)得以持續。
- 放大器:內容生成、效率提升與傳統 AI 強化
企業必須將 GenAI 視為增強現有機器學習資產的工具。例如,TECHVIFY 等公司同時提供 Generative AI Development、Agentic AI 和 Machine Learning Development 服務,這反映了實際業務中這些技術是相互整合、共同作用的。
- 具身化:AI 工作者與實體 AI
代理式 AI 的最終目標是能夠在物理世界中執行複雜任務(如 Foxconn 的機器人化工廠),這要求 CIO 必須部署跨越訓練、模擬和運行的三種計算系統。
▪信任與治理的三大挑戰
GenAI 最大的風險在於其可能產生看似權威但事實錯誤的輸出(即幻覺,Hallucinations)。在高風險、嚴監管的領域(如醫療診斷 或金融合規),錯誤的後果可能非常嚴重。
‧人類在環中(Human-in-the-Loop):
為了應對幻覺和準確性問題,必須將 GenAI 視為輔助工具,並強制實施「人類在環中」的驗證機制,確保醫療專業人員仍參與決策過程。
‧數據偏差與倫理:
GenAI 模型會從訓練數據中繼承偏見,導致在醫療或金融中產生不公平的決策。歐洲央行(ECB)指出,AI 可能會受到顯著的數據質量問題影響。機構正投資建立內部 AI 治理委員會,並關注模型的可審計性、數據隱私和演算法偏見。
‧法規不確定性與責任歸屬:
監管框架仍在發展。CIO 必須解決核心治理問題:當 AI 做出錯誤決策導致損害時,責任歸屬於誰(開發者、醫師、機構)? 史丹佛 HAI 的 2025 年 AI 報告 指出,美國 FDA 在 2023 年批准了 223 個 AI 輔助醫療設備,但 AI 相關事件也正在急劇上升。
CIO 的戰略路線圖與致勝未來
GenAI 的競爭已經開始,CIO 的戰略決策將決定企業未來十年的競爭力。GenAI 正在帶來生產力提升和增長加速的雙重指數增長。Workday 的調查顯示,有 98% 的 CEO 預見到 AI 能帶來即時的業務效益。
CIO 應採取分階段導入策略,從低風險、高影響的內部應用(例如,自動化行政任務或內部知識檢索)開始累積經驗和 ROI,然後逐步擴展到複雜的臨床或決策系統。成功的關鍵不在於技術本身,而在於 CIO 領導的文化轉變和員工賦能。IT 部門必須提供培訓,讓員工學習監督 AI 模型,並將 GenAI 塑造成能夠幫助他們將時間用於高價值、高情感任務的協作夥伴。
[推薦閱讀:臺中榮總以數據為本打造智慧醫療新典範 ]
在基礎設施層面,CIO 必須將投資重點放在加速運算平台和「AI 工廠」的數位化設計,以確保具備可持續降低 TCO 的能力。
這場全球 GenAI 革命正在重新定義效率和創新邊界。對於位於全球高科技供應鏈核心的台灣各產業而言,這場競爭尤其關鍵。台灣作為全球半導體、高科技製造和智慧醫療的重鎮,GenAI 的落地現狀將直接影響其國際競爭力。特別是在製造業,全球正走向 AI 驅動的再工業化(re-industrialization),其核心是將數位孿生、物理 AI 與大規模加速運算平台相結合。台灣的製造業和高科技業必須將 GenAI 視為提升知識型生產最佳化和供應鏈韌性的戰略機遇。下一篇文章,我們將深入探討台灣各產業如何將上述全球 GenAI 應用模式,轉化為在地化的成功案例與致勝策略。
[閱讀下一篇:生成式 AI 重塑金融服務 邁向自主決策 ]
(本文授權非營利轉載,請註明出處:CIO Taiwan)















