文／鄭宜芬
2026 年《國際人工智慧安全報告》（International AI Safety Report）近日發布報告指出 6 大類關於通用人工智慧功能、新興風險，以及當前風險管理與安全措施現狀的最新國際共同評估。值得注意的是，AI 深偽事件不斷攀升、在生物技術領域被濫用，甚至地下市場現已售賣預先封裝的 AI 工具，即使眾多防護措施不斷完善，但現行風險管理技術仍非萬無一失。
此第二版《國際人工智慧安全報告》，由圖靈獎（Turing Award）得主 Yoshua Bengio 主持，匯集逾百位國際專家，並獲專家諮詢委員會支持，委員會成員由來自歐盟 （EU）、經濟合作暨發展組織（OECD）、聯合國（UN）等 30 多個國家和國際組織提名。報告的結論將為本月下旬印度主辦的人工智慧影響力峰會（AI Impact Summit）提供討論依據。
[ 加入 CIO Taiwan 官方 LINE與 Facebook，與全球 CIO 同步獲取精華見解 ]
- 通用人工智慧功能繼續快速進步，在數學、編程和自主運作領域尤甚。
2025 年，頂尖 AI 系統在國際數學奧林匹克題目上表現達到金牌水準，在科學基準測試中超越博士級專家水平，並能自主完成一些人類程式員需要耗時幾小時的軟件工程任務。但性能表現依舊參差不齊，系統在某些較簡單的任務上仍然無法完成。
- AI 普及速度迅速，但全球分佈不均
AI 普及速度已超越個人電腦等過往技術，目前每週至少有 7 億人使用頂尖 AI系統。部分國家有過半人口使用 AI，但在非洲、亞洲和拉丁美洲的許多地區，估計採用率仍低於一成。
- 深偽事件不斷攀升
AI 深偽技術越來越頻繁用於詐騙。同時，AI 生成未經同意的私密影像也日益普遍，這對女性和女童的影響尤其嚴重。例如，一項研究發現，在 20 款流行的「脫衣」應用程式中，有 19 款專注於模擬女性脫衣。
- 對生物技術濫用的已敲響警鐘
2025 年，鑒於預部署測試未能排除系統或將實質協助新手研發生化武器的可能，促使部分領先模型增強安全措施，幾間 AI 公司紛紛推出防護升級的新型號。
- 犯罪份子積極利用通用人工智慧發動網路攻擊
AI 系統能生成惡意代碼，並找出犯罪份子可利用的軟件漏洞。2025 年，一個 AI 代理在一場重大網路安全比賽中躋身隊伍排名前 5%。地下市場現已出現販售預先封裝的 AI 工具，降低攻擊所需的技能門檻。
- 防護措施不斷完善，但現行風險管理技術仍非萬無一失
即使如幻覺等特定失誤類型已越來越少見，但部分模型現已具備區分評估與部署情境的能力，並可相應調整行為，對於風險評估與安全測試造成新一波挑戰。
[ 推薦閱讀：全球 AI 監管制度成形 企業風險分類與資安治理新考驗 ]
該報告主席、蒙特利爾大學教授、LawZero 科學主任暨魁北克 AI 研究所科學顧問 Yoshua Bengio 表示：「自一年前首份《國際人工智慧安全報告》面世以來，我們目睹模型能力與潛在風險同步飛躍。技術進步之快與有效落實防護措施存在落差，這仍是嚴峻挑戰。此報告的目的為決策者提供所需之嚴謹證據，以引導 AI 邁向安全可靠、普惠全民的未來。藉此第二版，我們正於全球各地更新並增強先進 AI 快速演進的科學的共識與理解。」
英國人工智慧部長 Kanishka Narayan 表示：「對 AI 的信任及信心，是徹底發揮其潛力的關鍵。此技術將帶來升級公共服務、嶄新工作機遇以及改變生活的創新，但我們也決心在此技術發展過程中保障民眾安全。負責任的 AI 發展是共同要務，唯有通力合作才能塑造精彩未來，讓 AI 帶來積極變革。本報告正是協助我們達成此目標——當中匯集全球專家，確保我們基於堅實的科學證據作出當下的正確決策，從而奠定根基，開創更光明、更安全的未來。」
[ 推薦閱讀：AI 基本法通過後應知道的要事 ]
關於《國際人工智慧安全報告》
《國際人工智慧安全報告》綜合關於先進 AI 系統能力與風險的證據。報告旨在通過為決策者提供證據基礎，以支持全球制定明智政策。報告由 Yoshua Bengio 教授主持，逾百位獨立專家組成的多元團隊執筆，並獲專家諮詢委員會背書。該委員會由來自歐盟、經濟合作暨發展組織、聯合國等 30 多個國家和國際組織的提名代表組成。報告雖然認可 AI 具備莫大潛在裨益，但其焦點在於識別風險和評估緩解對策，確保安全地開發和使用 AI，以惠及全民。此報告由英國政府委託進行，其秘書處設於英國人工智慧安全研究所（UK AI Security Institute），負責提供運作支援。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
