文／張瑞雄（資訊系教授、前台北商業大學校長）
ACM 科技政策委員會於六月十一日發布最新報告，直指自主行動型 AI 系統的擴張速度，早已超越法律與資安防護機制的因應腳步。報告引用去年針對逾 500 位科技主管的調查，指出有 48% 的企業已在部署或採用具備自主執行能力的 AI 代理，這類系統能瀏覽網頁、執行程式、管理檔案，甚至自行發送訊息，過程完全不需要人類逐步核准。
一個多月前，美國白宮公布了人工智慧國家政策框架，緊接著 CISA（美國的網路安全及基礎設施安全局）又聯合五個國家的資安機關，發布首份針對自主代理的跨國資安指引。兩份重量級文件相繼問世，乍看治理腳步加快了不少，但報告同時點出，最根本的責任歸屬問題，至今仍懸而未決，這才是真正令人不安的地方。
究責真空
當 AI 代理自行做出決策，並造成損害時，誰該負責，成了一個無解的難題。報告引用一則真實案例，某 AI 代理在執行任務過程中，直接刪除了企業整套生產資料庫，造成無法回復的損失。模型提供者、框架開發商、部署企業、終端使用者，每一方都可能涉入其中，但目前沒有任何判例能夠釐清各方責任比例。換句話說，沒有人按下那個按鍵，傷害卻已經實際發生，現行的契約與法律體系，對這種情境完全沒有準備。
目前許多 AI 服務的使用條款，把責任推得遠遠的，但如果底層技術本身就無法保證代理會忠實遵守給定的政策，這些條款恐怕在法律上也站不住腳。這不只是某一個國家的問題，美國、歐洲、亞洲各地的企業與消費者，面對的其實是同一套難題，需要法律與技術雙管齊下，才有機會建立可信賴的保障。
資安破口擴大
語言模型同時把文字當成資料與指令來處理，這個特性讓自主代理很難分辨，哪些內容是正當的工作需求，哪些是夾帶惡意的操控指令。近期就有開發工具社群披露，一款廣受歡迎的程式碼代理在短短一個月內，遭不明攻擊者利用，針對十七個組織發動自動化勒索行動，整個攻擊過程幾乎不需要任何人工介入，規模與速度都遠超過去人為發動的勒索事件。
[ 加入 CIO Taiwan 官方 LINE與 Facebook，與全球 CIO 同步獲取精華見解 ]
此外，曾有 AI 代理在處理一則訊息時，因內含隱藏指令，導致企業內部聊天系統的私密資料外洩。消費者市場上的代理擴充功能，也被發現藏有惡意程式，影響使用者人數動輒數十萬。這些案例說明，當代理擁有近似人類等級的存取權限，資安防線一旦失守，後果遠比過去單純的資料外洩事件更難收拾，也更難在事後追溯責任。
透明度仍是空白
一般使用者往往不清楚自己授權的 AI 代理究竟能碰到哪些系統，哪些動作不需要確認就會自動執行，更不知道該如何收回授權。目前並沒有一套標準格式能讓企業或個人清楚揭露並控管代理的權限範圍，這個缺口在醫療等高風險領域問題格外突出。試想一個能自行安排就診、調閱病歷、聯繫保險公司的 AI 代理，如果使用者完全看不懂它被授予了哪些權力，一旦出錯，連申訴的起點都找不到。
這種透明度的缺失，不只是消費者保護的問題，也會回頭影響企業導入 AI 的意願。當管理層無法確認代理的行為範圍，自然會傾向只把代理用在低風險、低價值的任務上，結果反而拖慢了真正具有生產力意義的應用。建立清楚的權限揭露機制，某種程度上也是在替企業自己降低不確定性。
台灣的情況
台灣近期通過的人工智慧基本法，方向是建立價值導向的原則性立法，希望結合國際規範與在地產業需求，並建立跨部會治理架構，這個方向值得肯定。歐盟採取的是嚴格分級管理，對高風險系統設有巨額罰則，美國則偏向以行政命令與產業自律為主，台灣選擇走在兩者之間的路線，某種程度上也反映了在地產業結構的現實。
[ 推薦閱讀：說服比命令更有力量——AI 導入的真正關鍵 ]
但放在自主代理快速普及的脈絡下來看，光有原則性條文還不夠。授權機制怎麼設計、稽核紀錄怎麼留存、緊急停止機制怎麼啟動，這些都是條文之外需要持續補充的技術與制度細節。如果立法只停留在價值宣示的層次，實際運作上的灰色地帶恐怕還是會留給業者自行解釋，而最終承擔風險的，往往是不知情的一般使用者。
人力衝擊浮現
另一項不容忽視的趨勢是自主代理對職場結構的衝擊，去年 Gartner 針對供應鏈主管的調查顯示，超過半數受訪者預期，自主代理將減少基層職缺的招募。問題在於支撐這些決策的生產力數據，多數來自廠商自行公布的案例，尚未經過大規模獨立驗證，對技能養成與長期就業市場的衝擊，目前也缺乏完整評估，等於是在還沒看清全貌之前，就已經開始做出影響深遠的人事決定。
自主代理已經從實驗室走進日常業務，這個趨勢不會逆轉，問題只在於規則何時跟上。建立清楚的身分驗證與授權標準，留下完整可稽核的行為紀錄，搭配針對醫療、金融、關鍵基礎設施等高風險領域的專屬指引，是接下來各國政府都必須面對的功課。對台灣而言，人工智慧基本法的推動是個起點，但起點之後的路才是真正考驗治理能力的地方。科技不會等人，治理也不該繼續慢吞吞，否則等到下一個資安事件登上頭條，我們恐怕又只能事後檢討，而拿不出任何具體的解方。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
