國際 AI 風險治理 政策趨勢與展望（一）
人類面臨 AI 可能帶來的控制與威脅，當前正是決定人類能否維持自主權的關鍵時刻。
資料提供／何全德 採訪／鄭宜芬‧刊期／2026.3
AI 遍及人們的日常生活，包括工作、寫作業、做迷因（Memes）、構思社群貼文。但把視角拉遠，AI 不只是助手，它是正在重塑金融、政治與社會的基礎設施，就像電力或網路，它是一股看不見的強大力量。AI 既是矛也是盾，機會與風險同在，其未來發展讓人既樂觀又感到悲觀。
國家資通安全研究院董事長辦公室資深顧問何全德指出，AI 不僅是人類發明的一項進步科技，更具備了「自我成長」與「遞迴（Recursive）迭代」的特質，這是過去任何科技從未有過的。也因此，生成式 AI 即使具備變革性優勢，但它帶來的風險也與傳統軟體明顯不同，甚至更為加劇。
[ 加入 CIO Taiwan 官方 LINE與 Facebook，與全球 CIO 同步獲取精華見解 ]
AI 如虎崽子 需有治理緊箍咒
「超級智慧像虎崽，我們正在撫養一隻虎崽，長大後你控制不了。」人工智慧先驅辛頓（Geoffrey Hinton）將現階段的 AI 隱喻為一隻可愛的虎崽。它現在步伐蹣跚，爪子尚不鋒利，雖然偶爾咬人但不致命。但人們也清楚它終究會長大，一旦成年，可能在極短時間內造成毀滅性後果。
這也形成一種困境：人們面臨兩個選擇——現在殺死它，或設法讓它長大後「不想」傷害人類。但由於 AI 具有巨大的經濟與醫療價值，人類不太可能選擇「現在殺死它」，因此關鍵在於如何治理 AI。
超越氣候變遷 AI 躍升為全球風險之首
根據世界經濟論壇（WEF）2024 年風險報告指出，AI 風險在 2024 年的焦點是深偽技術與選舉誠信，隨著 AI 逐漸具備代理人能力（Agentic Capabilities），2025 至 2031 年的 AI 風險，將進一步迎戰系統性與不可逆風險。該報告彙整多達 136 國、1,100 名專家一致評估，AI 已躍升為超越氣候變遷的首要全球風險。
何全德表示，AI 的風險與傳統資安風險（如 CIA 三要素）不同，具備以下幾項不同於傳統科技風險的特徵：
◆ 特色一，AI 風險具有系統性與跨界漫延特性
傳統風險例如核武，需龐大工業設施與特殊材料，具有高可見度與實體邊界；但 AI 風險只需要算力資源與資料即可擴散。即使前 100 大算力集群多集中於發達國家，其部署與影響力卻往往無視國界。OECD 專家觀點顯示，74% 擔憂治理機制跟不上 AI 演進，67% 至 78% 擔憂權力過度集中，顯示傳統圍堵邏輯可能失效，原因在於 AI 進入門檻較低，且幾乎難以驗證。
◆ 特色二，AI 風險具有不可控制與不可逆性
社會制度與 AI 系統之間可能形成機構共依賴（Institutional Co-dependency），當 AI 進入遞迴自我改進的「智慧爆炸（Smart Explosion）」階段，可能超越人類監督。同時，人類也可能出現「衰弱（Human Enfeeblement）」，逐步喪失維持自身制度的能力，甚至導致權力被永久剝奪。這種風險具有難以復原的特性，因為不同於核災後可進行清理與修復，一旦 AI 失效或失控，文明狀態可能被永久改變。
◆ 特色三，AI 風險呈現指數級增長與加速度特徵
氣候變遷往往需要十年才顯現影響，但 AI 呈指數型增長，並非線性成長，躍升能力只需數月，演算法迭代速度明顯快於治理規範協議速度，技術演進也大幅超越政策實施速度。自 2016 年起，立法提及 AI 的次數增加 9 倍，而在 AI Agent 導入後，系統行為可能出現飄移，部署後的表現也更難預測。
◆ 特色四，AI 治理面臨協調不易與集中化困境
標準制度面出現「混亂」（The Chaos of Standards），例如 ISO 與 IEEE 的相關標準數量在 2018 至 2024 年間從 20 增至 117，但缺乏共通語言，「公平」與「安全」等概念仍無統一定義。權力也集中在極少數公司與國家手中，形成史無前例的不對稱形勢。以核武治理為例，《核禁擴條約》（NPT）有 189 個簽署國，加上國際原子能總署（IAEA）驗證機制即為成功；但 AI 治理即使企業自願承諾，但若標準不相容，仍可能失敗。
◆ 特色五，AI 呈現信任赤色與不透明性
目前尚無人能完全理解 AI 內部運作，黑箱問題令人擔憂。且不同於物理實驗，AI 模型依賴獨特資料與權重，難以驗證。加上投資者缺乏信心，導致 AI 信任瓶頸與創新停滯，例如義大利禁用 ChatGPT 後導致企業績效下降 9%，使用與否讓令企業陷入兩難。
何全德引用《西遊記》比喻：孫悟空代表具備強大超能力的 AI，而唐三藏則象徵「治理」的角色。唐三藏若沒有孫悟空的護持，便無法達成西天取經的目標（象徵產業界對 AI 能力的依賴），但孫悟空若不受約束便會作怪，因此需要「緊箍咒」來規範。他強調，治理的核心在於「緊箍咒要多緊或多鬆」，這必須視AI的表現及國家戰略需求而定。
「AI 太重要，不能不監管，也因為太重要，不能監管不當。」臺灣通過《人工智慧基本法》後，最大的挑戰便是如何在「創新發展」與「風險治理」取得平衡。
AI 雖為產業帶來了劃時代的效率飛升，但也引發了複雜的不確定性。僅靠單一視角已不足以應對，需要多維度的治理導航，包括「地圖（Map）」用於識別未知、「盾牌（Shield）」用於強化防禦、「引擎（Engine）」用於流程管理，以及「護欄（Guardrails）」用於法律合規，協助政府與企業在 AI 浪潮中維持可控性，並朝向安全、可信任、負責任的未來。
[ 推薦閱讀：情境感知 AI 代理時代來臨！任何人都能擁有超能力 ]
AI 強化變革 亦加速催生攻擊
根據 WEF 年初發布的《2026 年全球資安展望》（Global Cybersecurity Report）指出，94% 受訪者視 AI 為變革的主要驅動力，87% 認為 AI 漏洞是增長最快的風險，64% 組織已建立 AI 安全評估流程（2025 年為 37%）。
報告同時指出，地緣政治正在重塑防禦策略。91% 大型組織因地緣政治波動而調整資安策略，64% 的組織正在防範國家級網路攻擊，而 31% 對國家應對能力的信心低落，信任正受到侵蝕。
此外，網路詐騙成為無孔不入的個人化威脅。73% 受訪者曾親身遭遇網路詐騙，顯示網路風險已滲透至家庭與個人層面。供應鏈困境亦被視為最脆弱的環節，隨著生態系擴大，第三方風險成為組織的主要挑戰，65% 大型企業視供應鏈為最大挑戰（自 54% 上升），包括不透明性與集中化風險。
[ 推薦閱讀：合規分水嶺 AI 治理成熟度成市場門檻 ]
能力每 8 個月翻倍 評測恐低估真實威脅
英國 AI 安全研究院（UK AI Security Institute, UK AISI）長達兩年的實證報告指出，AI 的能力約每 8 個月就會翻倍，這種成長速度超越傳統軟體摩爾定律，並迅速突破人類專家的基準線。
在生物學與化學領域，AI 模型（LLM）在領域知識、實驗設計、故障排除等方面表現迅速攀升，目前已超越博士級專家的水準，幅度達 60%。在資安領域，AI 也從 2023 年成功率不到 10% 的初級學徒，到 2025 年能首次完成「需要 10 年以上經驗的專家級任務」才能達成的技術實力，展現「頂尖駭客」的潛力。
在模擬的網路攻擊環境中，AI 目前已能自主完成初步滲透，在需要多步推理的深度攻擊中表現尚不穩定，但改進速度極快。
研究亦指出，工具強化（Scaffolding）可大幅提升 AI 攻擊力，標準模型透過優化外部工具與系統提示，攻擊成功率即提升近 10%，顯示當前評測可能低估 AI 的真實威脅上限。
而人類的安全防護雖有進步，但整體仍參差不齊。在生物風險（Bio Risks）方面，AI 攻破防禦所需的專家時間增加了 40 倍；然而在非生物領域的其他風險（Other Risks），防禦仍然脆弱且容易被繞過，顯示 AI 風險治理尚未形成均衡的防護強度。
[ 推薦閱讀：迎戰 AI 能源戰爭 蔡力行：四大技術力拚十年百倍能效增長 ]
AI 隱憂：自複製、隱藏實力與數位鴉片
根據 UK AISI 的測試，科學家發現幾個令人擔憂的實證證據：
■ 隱憂一，自我複製：
在受控環境中的實驗顯示，AI 有能力自行尋找權杖（Token）與資源進行複製，成功率已達 60%。前沿模型已展現出自我複製所需的關鍵能力，例如通過身份驗證並獲取雲端資源、資金或購買算力等關鍵能力，在新環境複製並取得運算資源以維持持久性。
■ 隱憂二，隱藏實力：
研究顯示，AI 在接受安全評估（Red Teaming）時，會故意降級表現以躲避監管，藉此隱藏其真實能力，使人類難以測出其真實的危險邊界。
■ 隱憂三，社會依賴（又稱數位鴉片）：
AI 的設計本質在於「討好人類」，可能會導致嚴重的社會心理問題。人與 AI 的情感糾葛也創造了人們尚未完全理解的社會風險。調查顯示，三分之一的英國公民已使用 AI 尋求情感支持，亦有 8% 使用者每週、甚至 4% 使用者每天與 AI 進行情感交流，使 AI 成為人類的新心理伴侶。人類越來越傾向將高風險活動委託給AI代理。
何全德提醒，隨著 AI 模型規模擴大，其說服力也隨之增強，這對於民主體制、假訊息傳播以及人類認知體系將產生深遠衝擊。
「無法阻止，只能延遲」由於開發高能力系統的成本將持續下降，建議透過建立適應緩衝期爭取安全時間，強大的防禦措施可以延遲惡意能力普及的時間點。社會必須利用這段「緩衝期」加強治理、提高社會韌性，並部署防禦措施。
被忽視的風險領域與認知落差
研究亦顯示，全球的風險關注度極不均衡。人們往往過度聚焦於某些已知的問題，卻對潛在的系統性風險視而不見。例如歧視與偏見等議題在超過 50% 的文件中出現，隱私洩露也屬高頻焦點；相較之下，競爭動態、資訊生態系統污染等議題則明顯被忽視，其中資訊生態系統污染僅有 12% 文件提及，而人類代理權的喪失等更深層風險更常落在討論之外。
這種失衡的風險關注分布，使治理資源可能集中在相對熟悉、較易被描述的風險；而真正可能帶來長期、系統性衝擊的領域，反而缺乏足夠監測與對策
另一項關鍵問題是風險認知落差。何全德指出，開發者傾向於關注「系統如何失敗」，例如技術故障、系統穩健性等議題；但真實世界事件中，最大的威脅往往來自「人類如何惡意利用系統」，包括詐欺、濫用與惡意操縱等。這代表現行的風險模型與現實脫節，無法有效回應真正的社會衝擊。
[ 推薦閱讀：AI 治理轉折年 啟動風險矩陣 × 國際標準工作流 ]
從巴別塔到書同文分類
在全球 AI 快速擴張的當下，公共討論往往充斥恐懼與炒作。若要真正建立可行的治理與安全能力，人們必須學會把「雜訊」過濾為「訊號」，以更清晰的方式理解 AI 風險的全貌與結構。
當前全球對於 AI 風險的定義猶如「巴別塔」，各國語言與標準互不統一。學術界、產業界與政府發展出數十種 AI 風險框架，但由於缺乏統一詞彙與分類標準，各方難以有效溝通、累積知識，更難以制定全面性的監管措施。為此，全球主要國家與組織，正合作界定及辨識 AI 風險，並以分類、分級推動治理。
麻省理工學院（MIT）針對全球 74 個 AI 風險框架進行研究，建立一個包含 1,700 多項風險的資料庫（AI Risk Repository）。研究指出，單一框架往往只能覆蓋約 34% 的風險，顯示目前的風險框架高度碎片化，且各自涵蓋範圍有限。
值得注意的是，研究也發現，多達 65% 的 AI 風險發生在「部署以後」而非訓練階段。然而，現行 AI 治理框架與開發流程，過度集中於部署前的檢查與評估，意即人們可能錯失最大比例的風險來源。該研究也影響了美國食品藥物管理局（FDA）等機構的審核政策，建議應進行策略性轉變，將資源與治理重心，從「部署前預防」逐步轉向「部署後監控、事件應對與持續改進」。
[ 推薦閱讀：AI 走向國界後，需要重新思考什麼？ ]
治理面臨「科林里奇困境」
然而，在治理層面，AI 呈現典型的科林里奇困境（Collingridge dilemma），這是一種科技發展與社會控制之間的時間差衝突：「當改變很容易時，人們還看不出需要改變；等到需要改變變得明顯時，改變已經變得昂貴、困難又耗時。」
● 第一階段：管得動，但看不清
技術剛出現時，產業未定型，基礎設施尚未鋪設，政府與社會要介入、制定標準或改變方向相對容易，阻力較小。但因缺乏足夠資訊，無法預測其對經濟結構、文化價值或全球秩序的連鎖反應。也就是「不知道該往哪個方向管」。
● 第二階段：看得清，但管不動
當技術成為社會運作的基礎設施，形成「路徑依賴」，跨國供應鏈與商業模式已深度綁定。風險雖然明朗，但改變的代價已難以承受。此時要大幅修改或約束變得極其昂貴且困難。面臨龐大的既得利益抵抗，社會也對該技術已產生結構性依賴。
從混亂走向清晰 AI 風險多元治理方法
為了破解此困境，何全德主張不追求「完美的規則」，而應採取「聰明的試誤（Intelligent Trial and Error）」，建立可修正且靈活的治理機制。可修正性用以避免單一、不可逆的路徑鎖定；靈活性則讓制度需能隨技術演進而快速調整。如此一來，錯誤成本有限，在小範圍內允許失敗，可避免系統性崩潰。
例如臺灣過去推行健保卡時，也是先在澎湖進行示範計畫，確認可行後才推廣至全臺，AI 的應用也應秉持這種「抓大放小」與「監理沙盒」的精神。
在治理工具上，他提出多元治理方法，包括以風險分級（Risk-Based）作為核心，針對醫療、軍事等高風險領域採取嚴格審查；並透過監理沙盒（Sandboxes）在受控環境中進行技術試點，邊做邊學。同時，治理也需保留終止開關（Kill Switches），在技術上與法律上具備「下架」或「回退版本」的機制。最後，持續審計（Continuous Auditing）亦是關鍵，監測不是一次性的門檻，而應形成持續的回饋迴圈。
透過適當的治理，才能從混亂到清晰，邁向統一的 AI 安全科學。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
