• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 產業速報

【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

2026-11-17
分類 : 產業速報, 科技解碼
0
A A
0
【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

(圖/AI生成)

整理/鄭宜芬


AI 代理在系統入侵與漏洞利用過程中承擔更多工作,不僅大幅降低對人類參與的需求,更加速了攻擊生命週期。Google 威脅情報小組(Google Threat Intelligence Group, GTIG)今(17)日發布了第四季「AI 威脅追蹤報告(AI Threat Tracker)」詳細說明威脅發動者透過代理式 AI 所使用的最新攻擊手法,以及 Google 如何偵測並阻斷對 Gemini 服務的濫用、停用相關帳號,並根據這些發現強化安全防護機制。

這一季的調查結果,凸顯出威脅發動者在使用 AI 手法上的重大轉捩點。GTIG 首次觀察到攻擊者利用 AI 代理,在完全無需人類介入的情況下,將安全修補程式(security patches)轉化為實際可用的攻擊手法。

[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn,與全球 CIO 同步獲取精華見解 ]

此次報告包含以下重點:

  • GTIG 發現首例「無需人類介入(human-out-of-the-loop)」的漏洞利用案例:

一個名為 exploit_agent 的大型語言模型(LLM)框架,配置了俄語工具,能持續比對修補前後的程式碼、識別安全漏洞,並在無人類干預的狀況下自動開發出漏洞攻擊(詳見報告第 6 頁)。

  • 攻擊者在實際入侵行動中利用開源 AI 代理:

GTIG 觀察到受財務動機驅使,以及疑似進行網路間諜活動的威脅發動者,紛紛使用 CAIRN、PentAGI 與 CyberStrikeAI 等開源的代理式滲透測試工具(pentesting tools),來自動化執行攻擊過程中的各個步驟。其中一個案例顯示,某個攻擊者在針對美國航太產業的入侵行動中部署了 CAIRN。

  • AI 正助長境外影響力行動規模,手法也更難辨真偽:

GTIG 發現,資訊作戰已不再侷限於使用 LLM 來生成內容。國家級組織與商業化的「影響力即服務(Influence-as-a-Service)」供應商,正運用 LLM 建立自動化流程、設計基礎架構並規避偵測。

在一個案例中,攻擊者利用 Gemini API 建立平台,透過雲端手機農場(cloud phone farms)管理超過 10 萬個合成帳號(synthetic accounts);該平台甚至能模擬智慧型手機的相機瑕疵,讓生成的內容看起來更為逼真。

  • 國家級威脅發動者將 AI 應用於間諜活動與目標鎖定行動:

GTIG 觀察到,與中國相關的攻擊者正利用 LLM 將竊取來的資料處理為情報產品。同時也追蹤到與北韓相關的攻擊活動,利用 AI 生成的假身分(部分帶有 SynthID 浮水印)鎖定加密貨幣公司,並試圖操縱自主程式編碼輔助工具的系統配置。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

標籤: AIAI代理AI威脅GeminiLLM加密貨幣合成帳號大型語言模型資安
上一篇文章

跨境 + 跨界 伊雲谷海外佈局再下一城

相關文章

【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI
科技解碼

【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI

2026-11-17
科技解碼

網購收到詐騙電話該怪誰?當系統外洩資料,品牌商不能只說「還在查」!

2026-11-17
國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性
產業速報

國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

2026-11-16
2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • 【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊
  • 跨境 + 跨界 伊雲谷海外佈局再下一城
  • 【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI
  • 憑證管理不能只追到期日 資褓儲存 × 普鴻資訊 11/18 線上講座談「看得見、來得及、換得對、驗得到」
  • 網購收到詐騙電話該怪誰?當系統外洩資料,品牌商不能只說「還在查」!

📈 CIO點閱文章週排行

  • 台達電 SustainX 的能碳合一平台經濟學

    台達電 SustainX 的能碳合一平台經濟學

    0 分享
    分享 0 Tweet 0
  • 昕力資訊攜手 HPE 深化策略結盟 布局主權 AI 「智算力」服務

    0 分享
    分享 0 Tweet 0
  • AI 網攻擴大企業受害 72 小時內應變成資安關鍵

    0 分享
    分享 0 Tweet 0
  • 【專訪】臺灣中小企業銀行數位金融部協理蔡育呈:聚焦中小企業 深化 AI 布局

    0 分享
    分享 0 Tweet 0
  • 平台業者個資外洩 消費者問責品牌商

    0 分享
    分享 0 Tweet 0
  • 思邁智能推 MaiAgent 打造企業 AI 核心

    0 分享
    分享 0 Tweet 0
  • AI 資安國際標準 ISO 27090 強化 AI 治理

    0 分享
    分享 0 Tweet 0
  • 強化金融資安韌性 金管會:聚焦 AI 攻擊與代理 AI 安全

    0 分享
    分享 0 Tweet 0
  • 2027 CIO Insight 調查報告 (1) 科技採用 / AI治理成熟度,兩重點指數定位產業現況

    0 分享
    分享 0 Tweet 0
  • 2027 CIO Insight (6) CIO 影響力:積極投入 AI 策略,把地基搭得更穩固更安全

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

AI 訓練資料如何取得與授權?政府研議資料創新利用與著作權規範

整理/鄭宜芬 為因應AI發展對資料流通與創新利用需求,並同時兼顧內容產業的著作權

從企業防禦到供應鏈資安治理 臺灣攜芬蘭拓展跨國資安合作

整理/鄭宜芬 數位發展部部長林宜敬率團赴芬蘭赫爾辛基,應主辦單位「芬蘭資訊安全聚

2027 CIO Insight (3) AI 治理:先讓風險看得見 再決定哪些要嚴管

企業管理 AI 的實際做法平均 41.1 分,前段只有 16.7%;CIO 替自

【影】自駕車商用化還缺哪一哩路?從法規沙盒到全生命週期安全管理

整理/鄭宜芬 當 AI、感測器與車聯網加速改寫交通樣貌,自駕車能否真正走進日常,

健保署挹注 3 億推動基層醫療上雲 強化雲端資安與資料備援能力

整理/鄭宜芬 為了協助中臺灣基層院所克服硬體維護、設備更新及資安防護等痛點,衛生

提升 AI 資安,從事後補救轉向採購前嵌入規格

LLM 開發商喊出「AI 放緩」,但 CIO 在公司裡可不能喊放緩,事實上,Ga

Shadow AI 安全威脅難防,企業重要系統需優先納入治理

過去,不論企業內部使用何種軟體,理論上 IT 部門總能掌握到其使用的軌跡,如今

台灣數位資產與未來資本市場協會成立 布局代幣化金融基礎設施

整理/鄭宜芬 全球金融市場加速布局資產代幣化、穩定幣支付與區塊鏈金融基礎設施,台

TLS 憑證亂數強度未達國際標準 企業應檢視憑證安全

整理/鄭宜芬 國際社群 Bugzilla 於 10 月 30 日通報,臺灣網路認

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音