文／周樹林‧臺灣亞太監理科技協會常務理事
人工智慧（Artificial Intelligence, AI）的發展，自 1950 年起歷經多次的技術突破，其演算能力已由基於識別或分類現有數據，提供預測或輔助決策功用，升級至具備資訊創建功能的生成式 AI。
2024 年 5 月，歐洲中央銀行（European Central Bank，ECB）發表「The rise of artificial intelligence: benefits and risks for financial stability」報告指出，生成式 AI 每年可創造約 2.6 兆至 4.4 兆美元的經濟價值，且「金融機構」是主要的受益者。
AI 可以穩定金融市場的營運與強化對金融市場的監管
AI 可以自動化處理金融機構的日常任務。ECB 報告指出，在量化分析、風險管理、客戶互動以及網絡安全等領域，AI 可執行更精確的數據處理與分析，提高金融機構的資訊處理能力及量化預測的準確性。
在金融監管面向，國際清算銀行（Bank for International Settlements，BIS）報告指出，AI 可以協助監理機關更好的梳理市場現況。例如，神經網路（neural network）可以處理比傳統經濟模型更多的輸入變數（input variables），讓監理機關可以更好的監管通膨問題。
機器學習可以處理多個市場的高頻數據分析（如：交易量、價格變動）與異常模式識別（如：異常資金流動、突發性價格波動），提高監理機關對金融市場的即時分析與壓力點預測警報能力。
值得注意的是，AI 技術仰賴大量數據進行訓練與學習，若數據集本身不夠完善（如：債券市場統計數據、銀行貸款統計數據、勞動市場指標等），可能導致 AI 模型的分析結果出現偏差（bias）或幻覺（hallucination），而出現錯誤或誤導性的預測。
AI 濫用可能導致分析結果產生偏差與幻覺
分析偏差是指，AI 模型在訓練過程中，因為數據收集、清理、處理過程的偏頗或數據本身的偏見，而學習到數據中的系統性偏差。例如：如果訓練數據主要來自某個特定的經濟環境或市場，模型可能對這些環境或市場有較高的依賴性，從而在其他環境或市場中表現不佳。
AI 幻覺是指，AI 模型生成不存在或不真實的資訊。例如：生成式 AI 可能會生成或預測出不存在或不真實的資訊。這種情況通常出現在模型試圖回答問題或生成內容時，結果模型提供聽起來合理但實際上是錯誤或虛構的訊息。
BIS 研究指出，AI 工具的普及可能會加劇市場的順周期性（procyclicality）與波動性（volatility），而這是由於金融機構使用相同的演算法與數據集所導致。例如：過度依賴少數 AI 供應商。
顯然，AI 雖然可以革新金融服務與強化金融監管，但不完善的數據集，可能會導致金融市場出現羊群效應（herding effect）、流動性囤積（liquidity hoarding）及拋售行為（fire sales）等諸多問題。避免 AI 模型的偏差與幻覺，人與機器的協同運作是解決辦法之一，但問題的根本，還是必須解決數據本質的問題。
追求金融革新的前提，首要追求數據的完整性、可用性以及透明性
2021年世界經濟論壇（World Economic Forum，WEF）發布之「Towards a Data Economy： An enabling framework」白皮書指出：「資料治理下的資料共享，將在資料經濟的發展中發揮關鍵作用。」。
所謂良善的資料治理，包含三個要素：數據的完整性、可用性以及透明度。數據完整性是指，數據應當是全面且無缺失。
BIS 報告指出，數據的完整性將直接影響 AI 模型的準確性與可靠性。例如，在風險評估中，如果數據集中缺少某些重要的歷史事件，AI 模型可能無法準確預測未來的風險，從而導致錯誤的決策。
數據的可用性是指，數據應當是可獲取且可處理的。IMF 報告指出，如果存在數據難以獲取或處理的問題，AI 技術的應用將受到嚴重限制。例如，在金融市場中，即時數據的獲取與處理能力，會顯著影響 AI 系統能否及時做出反應，從而關聯金融市場的穩定性。
數據透明性是指，數據的來源與處理過程應當是透明且可追溯的。ECB 報告指出，如果數據的來源與處理過程不透明，將難以保證 AI 系統的公平性與可靠性。例如，在貸款授信過程，如果 AI 系統使用的數據不透明，可能會引發對決策公平性的質疑，從而損害金融機構的聲譽。
AI 技術在金融領域的應用已是趨勢，但穩定的金融革新，不僅需要人機協作，確保數據集的完整、可用以及透明更是關鍵，值得金融機構與監理機關省思。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
