匯豐銀行全球零售及財富銀行業務資訊長 Gavin Munroe 表示,該銀行正利用來自新創公司CognitiveScale的軟體,監控其人工智慧演算法中的偏見、資料偏離及其它企業風險。
文/Clint Boulton 譯/黃貝玲
當嘗試部署人工智慧技術──這類該技術往往自動執行任務,並產生難以輕易被解釋的結果──時,身處受高度規範產業中的企業經常因為所謂「黑盒子」(black box)的問題而一路磕磕碰碰。
尤其是銀行界,該產業正努力審查機器學習模型及人工智慧軟體的透明度與可解釋性,從中了解從欺詐偵測到資產可追溯性及出處等蛛絲馬跡。匯豐銀行也不例外,但是,這間英國銀行正運用軟體幫助它提升大眾對其AI演算法的信任。因為這些演算法被視為容易受偏見、資料偏離及對企業構成風險的其它議題所影響。
[ 下載 2020-21 CIO大調查報告,掌握最新企業IT導入趨勢 ]
匯豐銀行全球零售及財富銀行業務資訊長 Gavin Munroe 表示,當愈來愈多消費者在新冠肺炎大流行期間採用數位服務時,該銀行的努力對於提升信任至關重要。
「在向他們展示模型中有什麼、以及人工智慧中有什麼,之間具有一種平衡,解釋了我們正在使用的東西具有正確的品質、血統及我們需要的最精準資料,」Munroe告訴我們。「我們不認為,我們可以在缺乏信任的環境底下工作。」
為何銀行界對人工智慧態度猶疑不決
銀行知道,人工智慧可以幫助它們實現自動化及擴展營運,並保護客戶的資產,但是如果它們無法向監管機關、審計委員會及消費者解釋其演算法的運作方式,它們便必須克制對這類技術的採行。人們對人工智慧充滿不信任感,主要是因為演算法有可能幫助搭載錯誤訊息的活動如病毒般蔓延,以及臉部識別具種族偏見。
在監管機關監督下的金融服務業者對它們用來支持業務的技術抱持遲疑的態度,因為偏見會阻止合格的人獲得貸款。因此,Gartner的研究顯示,2019年只有4%受訪的會計長表示他們使用人工智慧技術。該研究還發現,有79%的企業主管將「對未知的恐懼」歸因於金融界對抗拒採用人工智慧的主因。當他們真的採用人工智慧時,往往是為了對付欺詐交易,而不是為了加速數位產品與服務。
Munroe表示,金融界採行人工智慧的關鍵在於信任,他將建立對人工智慧的信任的重要性,與在汽車加裝安全帶、里程表及其它安全設備加以比較。「一旦疏於檢查,你將須承擔組織中的諸多固有風險,」Munroe補充道。「我們不允許資料模型產生固有偏見。」
隨著消費者期盼在疫情流行期間運用更多數位服務,信任的建立尤顯重要。匯豐銀行已經透過諸如WhatsApp及WeChat等社交媒體服務,還有感應支付(tap-to-pay)及其它無需接觸的技術來促進交易。Munroe表示,這類服務的使用必須受到密切監控,因為「隨著透過銀行的數位足跡移轉資金的頻繁愈多,暴露在欺詐的風險便愈高」。Munroe補充,這類例子從經典信用卡欺詐到涉及新冠肺炎試劑的虛假交易之投機性騙局,不一而足。
為人工智慧技術設置防護欄
為了幫助匯豐銀行驗證它的人工智慧模型,做為該銀行數位服務的擋球網,Munroe正利用CognitiveScale的軟體 Cortex Certifai,致力減輕企業風險。CognitiveScale執行董事長 Manoj Saxena 表示,Cortex Certifai 幫助公司解釋機器生成的預測,並揭露基本資料類型、資料集、機器學習模型及人工智慧開發流程中的偏見。他描述該解決方案為人工智慧衡量工具,是人工智慧信任的HTTP協定。
曾於2007年至2014年期間領導 IBM Watson Solutions 的Saxena表示,該軟體也有助於找出「資料偏離」,顯示出機器學習模型中不同時間點資料的變化。新冠肺炎疫情爆發以來,資料偏離已經成為一個重大議題,因為顧客的購買模式已經轉移至線上,從衛生紙到個人防護用品等各種物品的購買暴增,迫使零售商正視供應鏈面臨的僵局。這些變化中的動態所生成的新資料,必須被納入模型中。
銀行在這方面處於不利地位,因為它們目前的人工智慧模型正急就章地詮釋新消費模式生成的資料。Munroe舉例表示,「一個在疫情流行的封鎖期間前從未上網購物的人,突然開始在 Amazon.com 購買商品,這在銀行的欺詐偵測系統中會傳送一個註記!」
「部分模型不能反映出我們面對新冠肺炎的現實,」Munroe表示。「隨著數位採行不斷前進與加速,將出現什麼規範呢?」
Cortex Certifai 利用「信任指數」(trust index)來量化帶數字分數的人工智慧模型,它幫助匯豐銀行的資料模型為這類新的行為做出詮釋,這對於滿足顧客至關重要。「當核心決策委由機器進行時,便關乎顧客忠誠與信任的建立,」Saxena表示。
CognitiveScale正應用其軟體於廣泛的企業案例子集中。Saxena表示,在另一項概念驗證裡,某家公司正利用 Cortex Certifai,於顧客撥打電話進入互動式語音回覆系統時,把他們導引給適當的支援服務人員。
[ 加入 CIO Taiwan 官方LINE,與全球CIO同步獲取精華見解 ]
偉大的偏見之戰
這項解決方案看似是為銀行量身定制的,儘管銀行仍然不願意信任人工智慧模型,但是它們正下注在此類新興的解決方案上。
無論CognitiveScale──該公司已經從 Norwest Venture Partners、Intel Capital、Microsoft Ventures、The Westly Group 及USAA等投資人那裡獲得5000萬美元的資金──是否命中最佳擊點而替軟體產業增添價值,對它的大肆宣傳唯有圍繞著它的懷疑論才能超越。
Gartner研究人工智慧可解釋性的分析師 Saniye Alaybeyi 表示,在使用決策樹及回歸演算法的預測模型中向來存在偏見,尤其是那些包含成千上萬的 if/then/else 陳述的偏見。「這些問題都不是新問題,也不是神經網路特有的,」Alaybeyi表示。
她表示,建立對人工智慧的信任的關鍵,是確保軟體開發人員在將一套高品質的人工智慧模型轉交給企業使用之前,會先經過全面測試與驗證。Alaybeyi堅稱,程式化的防護欄是滿足所有利害關係方的需求的關鍵。
對此,匯豐銀行表示同意。「將風險與法規遵循納入我們的文化並不是事後諸葛,」Munroe表示,「固有的設計及解決方案需要建立在其內的控制與透明度。」
(本文授權非營利轉載,請註明出處:CIO Taiwan)