整理/鄭宜芬
AI 代理在系統入侵與漏洞利用過程中承擔更多工作,不僅大幅降低對人類參與的需求,更加速了攻擊生命週期。Google 威脅情報小組(Google Threat Intelligence Group, GTIG)今(17)日發布了第四季「AI 威脅追蹤報告(AI Threat Tracker)」詳細說明威脅發動者透過代理式 AI 所使用的最新攻擊手法,以及 Google 如何偵測並阻斷對 Gemini 服務的濫用、停用相關帳號,並根據這些發現強化安全防護機制。
這一季的調查結果,凸顯出威脅發動者在使用 AI 手法上的重大轉捩點。GTIG 首次觀察到攻擊者利用 AI 代理,在完全無需人類介入的情況下,將安全修補程式(security patches)轉化為實際可用的攻擊手法。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn,與全球 CIO 同步獲取精華見解 ]
此次報告包含以下重點:
- GTIG 發現首例「無需人類介入(human-out-of-the-loop)」的漏洞利用案例:
一個名為 exploit_agent 的大型語言模型(LLM)框架,配置了俄語工具,能持續比對修補前後的程式碼、識別安全漏洞,並在無人類干預的狀況下自動開發出漏洞攻擊(詳見報告第 6 頁)。
- 攻擊者在實際入侵行動中利用開源 AI 代理:
GTIG 觀察到受財務動機驅使,以及疑似進行網路間諜活動的威脅發動者,紛紛使用 CAIRN、PentAGI 與 CyberStrikeAI 等開源的代理式滲透測試工具(pentesting tools),來自動化執行攻擊過程中的各個步驟。其中一個案例顯示,某個攻擊者在針對美國航太產業的入侵行動中部署了 CAIRN。
- AI 正助長境外影響力行動規模,手法也更難辨真偽:
GTIG 發現,資訊作戰已不再侷限於使用 LLM 來生成內容。國家級組織與商業化的「影響力即服務(Influence-as-a-Service)」供應商,正運用 LLM 建立自動化流程、設計基礎架構並規避偵測。
在一個案例中,攻擊者利用 Gemini API 建立平台,透過雲端手機農場(cloud phone farms)管理超過 10 萬個合成帳號(synthetic accounts);該平台甚至能模擬智慧型手機的相機瑕疵,讓生成的內容看起來更為逼真。
- 國家級威脅發動者將 AI 應用於間諜活動與目標鎖定行動:
GTIG 觀察到,與中國相關的攻擊者正利用 LLM 將竊取來的資料處理為情報產品。同時也追蹤到與北韓相關的攻擊活動,利用 AI 生成的假身分(部分帶有 SynthID 浮水印)鎖定加密貨幣公司,並試圖操縱自主程式編碼輔助工具的系統配置。
(本文授權非營利轉載,請註明出處:CIO Taiwan)














