文／林宏文
日前我回陽明交大主持一場「華仁全球講座」，討論主題是「從生成式 AI 邁向代理人 AI，台灣面臨的機會與挑戰」，三位與談人是數發部次長侯宜秀、聯發科處長梁伯嵩、群聯技術長林緯。會中討論到代理人 AI 時代，「信任」就是最大商機，這場討論很精彩也很有價值，在此與大家分享。
侯宜秀去年上任，律師出身的她，2000 年就參與開源社群並踏入科技領域，九年前協助設立台灣人工智慧學校基金會並擔任秘書長，她的先生是交大資工所博士，讓她與科技結下不解之緣。她也笑說自己耳濡目染，已培養出「解釋法律給非法律人聽」與「解釋科技給非科技人聽」的專長。
[ 推薦閱讀：企業 AI 治理現況、缺口與行動路徑 ]
侯宜秀演講時提到，代理人 AI 要真正產生商業價值，缺的到底是什麼？答案是「信任」。
首先，她先界定代理人 AI 和前兩代 AI 的本質差異。它用一個表格區分三個階段：生成式 AI 裡，AI 是「內容產生者」、人類負責判斷與執行、信任需求是「中」。到了 AI Copilot 階段，AI 是「協作者」、人類負責審核批准、信任需求「高」。如今到了 AI Agent 階段，AI 成了「代理人」、人類只做授權與監督、信任需求「極高」。
也就是說，越往 Agent（代理人）走，人類介入越少，對信任的要求就越極端。
因此，代理人 AI 真正的商業價值，是來自「降低 Human-in-the-loop（人在迴圈之內）的頻率」，但企業只有在足夠信任 AI 時，才願意降低人工審核。所以它下了一個結論，「Agentic AI 的生產力紅利，其實就是信任紅利」。這個結論還可以寫成一個公式：
Agentic AI 的經濟價值 = Intelligence（智慧）× Autonomy（自主）× Trust（信任）。
聯發科處長梁伯嵩在討論時也提到，現在大家工作時都離不開 AI，若缺乏信任，用更多 AI 只會更忙，因為代理人 AI 每天 24 小時不斷運作，若每到一個節點就要人去審核與判斷，這樣只會把人累死，人類還會成為最大瓶頸。「因此，不能是 Human-in-the-loop （人在迴圈之內），而是要 Human-on-the-loop （人在迴圈之上）」。
侯宜秀還把「信任」這種模糊的概念，拆解成一個具體、可操作的「Agentic AI Trust Stack（信任堆疊）」，共六層，由下而上是：一是能力信任（二十步的任務能不能完成）、二是行為信任（只做被授權的事）、三是安全信任（保護 AI 能操作的整個環境）、四是身分信任（你是誰、你代表誰）、五是可問責信任（誰授權、誰負責、能否還原）、六是制度信任（標準、認證、責任與保險）。
這六個層次，每一層都是產業機會，因為都可以對應到具體的產業或技術領域，能力層對應「可靠性工程（Reliability engineering）」，行為層對應「授權層（界定 can do 與 may do）」，安全層對應「Agent security（防注入、憑證與工具濫用）」，身分層對應「Agent identity infrastructure （可驗證憑證）」，問責與制度層對應「稽核軌跡、認證與保險」。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn，與全球 CIO 同步獲取精華見解 ]
侯宜秀說，台灣如今已抓到 AI 時代最大的硬體商機，在 AI 晶片、伺服器都進占全球九成市場，但未來可以努力的方向，則是上面提及各種層面的信任機制，這些都與軟體相關，每一個都是產業商機，她尤其認為台灣在軟體產業要急起直追，投入開源（open source）社群會有很大機會。
她也舉例，台灣是很特別的地方，每天都要面臨龐大的資安攻擊，一天次數就高達 263 萬次，這在全世界是很少見的，但這種實戰淬煉是花錢買不到的稀缺資產，就像以色列把長期國防對抗的經驗，轉化成全球頂尖的網路安全產業，台灣也可以把攻擊變成實際的資安商機，讓詛咒變成祝福。
侯宜秀這個看法確實是很好的切入點，因為 AI 時代同時帶來挑戰與機會，而「讓詛咒變成祝福」，正是想辦法把挑戰變成商機。這對台灣來說別具意義，台灣已取得 AI 硬體機會，未來更需要強化軟體領域的進展。
[ 閱讀所有林宏文的專欄文章 ]
其實，「信任」確實是很重要的事，台灣半導體與電子業能夠有好表現，正是因為取得客戶信任。不管是台積電的晶圓代工，日月光的封測代工，再到聯發科、群聯的 IC 產品，背後都是信任。
在截稿時刻，正好看到川普總統爆料，在美伊戰爭時，他請求南韓總統李在明協助，但被拒絕了。他回說，「美國有 3.9 萬名士兵駐紮南韓，讓南韓不受金正恩威脅。現在你們卻不願意幫忙？這很奇怪，我們為什麼要介入幫你們呢？」
這段話也透露出，在美中對抗之際，南韓能否與美國維持同盟信任關係，將出現變數。在地緣政治影響力日益重要的當下，目前面臨強大考驗的中國企業，由於難以取得歐美信任，只能將發展重心放在國內市場。
信任不只是代理人 AI 時代的關鍵核心，信任本身就可以形成一個產業，而且產業規模與影響力，都與信任成正比，很值得企業主與創業家關注。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
