2025 金融科技高峰會秋季場
生成式 AI 技術日益成熟，金融業導入已成趨勢。為釋放 AI 潛能並確保穩定運作，一套完善的管理平台至關重要。由中華電信內部育成的 InventAI 團隊，憑藉多年來的技術積累，打造一站式生成式 AI 管理平台，可協助金融機構在高度監管環境中實現敏捷部署與智慧治理。
文／明雲青
生成式 AI 正重塑金融業的運作模式，從國際銀行巨頭斥資打造內部平台，到虛擬人生成技術協助分析師節省時間與成本，顯見已從輔助工具蛻變為業務決策核心。隨著2025年被視為「AI Agent 元年」，AI 將從被動分析邁向主動行動，未來人人皆可能擁有專屬 AI 代理人。
InventAI 執行長李柏青表示，中華電信自2016年啟動 AI 1.0 計畫，其團隊從語音辨識專案起步，深切體認到 AI 與 GPU 算力間密不可分。為有效管理昂貴 GPU 算力資源，團隊著手建置共用 GPU 平台，逐步從內部服務延伸至對外推廣，成功獲得公部門及金融客戶青睞。InventAI 的兩大核心產品，包含 AI 平台DeepFlow 與客戶心聲分析工具 DeepVoice，皆是長期技術成果的展現。
他指出，AI Agent 的強大能力來自「大腦」架構，它整合了規劃、記憶、運用工具、行動等關鍵模組。隨著多步推理與強化學習技術成熟，生成式 AI 已能執行複雜任務，展現高度應用價值。但金融業導入 AI Agent 仍面臨諸多挑戰，包括人員角色轉換、工具架構設計及風險治理；如何避免模型誤判、確保資料可稽核與留存，並在雲地之端間取得效能與成本的平衡，都是不可忽視的課題。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 IG，與全球CIO同步獲取精華見解 ]
著眼於這些挑戰，InventAI 推出一站式生成式 AI 管理平台，作為端到端解決方案，其中內含三大核心模組。首先是 AI Agent Builder，提供視覺化拖拉式介面，能降低 AI Agent 建構門檻，確保專案隔離、安全治理，並支援雲地 LLM API 混合串接。以核保為例，Agent Builder 可讓資料處理、風險評估與結果統整等三個Agent 協作，為核保流程提供智慧化的風險評分與摘要報告。
其次為 DeepFlow 服務上線平台，它不僅兼容機器學習（ML）與大型語言模型（LLM），更內建熱門開源 LLM，可快速部署為 API 供企業內部使用，並提供完整的日誌與稽核記錄。此平台透過規則或輔助 LLM 檢查等機制，能有效確保模型推論的準確性與安全性。
最後是 AI Agent 監控平台，提供全面的成本追蹤、效能監控與品質評估，可逐層剖析多 Agent 執行狀況，確保 AI Agent 的運作具高度透明度與可追溯性。李柏青總結，InventAI 致力協助金融業快速切入 AI Agent 領域，有效應對技術轉型與治理挑戰，從而邁向 AI 驅動的智慧未來。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
