• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

人工智慧 (AI) 對攻擊與防禦的影響

2024-07-02
分類 : 新聞速寫
0
A A
0
人工智慧 (AI) 對攻擊與防禦的影響

文/Palo Alto Networks

隨著 AI 的熱度不斷攀升,網路安全從業者也嘗試釐清 AI 對其領域造成的實質影響。Palo Alto Networks 技術長 Michael Sikorski 直言預測 AI 對網路攻擊與防禦的近期及長期影響。

網路釣魚威脅大幅加劇

Sikorski 認為,近期 (未來 6-12 個月) 主流的手法是利用 AI 強化社交工程攻擊,例如網路釣魚和商業電子郵件詐騙 (BEC)。他坦言:「此情況會短暫維持一段時間,而網路釣魚將在 AI 的加持下,再度成為首要威脅。」

AI 語言模型能夠研究攻擊目標的完整電子郵件記錄和通訊模式,製作毫無破綻、以假亂真的網路釣魚訊息。Sikorski 解釋:

「AI 能夠迅速建立信任感。人們會在電子郵件往返中閒話家常,談及狗狗或家人,而 LLM 甚至能複製這種對話模式,在培養足夠的信任後話鋒一轉:『對了,可以填一下那張發票嗎?』就像 6 個月前填過的那樣,此時的受害者較可能配合,對吧?因為他們的戒心降低,更容易受騙。」

Sikorski 認為,這類自動化網路釣魚威脅已經開始發生,規模可能持續擴大,而且會在短期內更加普遍,成為攻擊者首選的標準方法。

攻擊者試圖產生惡意軟體,對 AI 訓練資料和系統植入病毒

展望未來 12 個月到數年之間,Sikorski 預期惡意行動者會在兩個關鍵領域發展 AI 攻擊能力:

  1. 製作惡意軟體,方法是以現有惡意軟體程式碼訓練 AI 語言模型,並組合成全新病毒變種,藉此躲過偵測。Sikorski 談到 Palo Alto Networks 主動防禦技術的開發工作:「我們正嘗試使用 LLM 實際製作惡意軟體,對它饋送資料並投入我們的產品中,看看表現如何。」
  2. 此為攻擊 AI/ML 系統本身的策略,方法是使用提示注入 (prompt injection) 和訓練資料集植毒 (poisoning training dataset) 等技術,藉此操縱模型的輸出結果。「未來甚至會有攻擊嘗試對訓練資料下毒。由於 LLM 是一項新興技術,因此中期應該會有更多攻擊將此作為下手目標。」

AI 助長攻擊活動的自動化和擴張能力

Sikorsk 最擔心的時間點落在未來 5 年後,屆時 AI 將可同時對數千到數百萬個目標發動自主攻擊,而且能夠大幅擴張規模,遠遠超出人類迄今所做過的攻擊活動。他發出警告:

「試想在 AI 的助力下,攻擊者就能以自動化方式判定攻擊目標、如何橫向移動,以及擷取有價值的資料。我認為這是未來的發展趨勢。我們面臨完全自動化的入侵對手,因此也必須防範全自動的攻擊者。」

Sikorski 以 SolarWinds 供應鏈攻擊事件為例進行比較,指出「…… 即使出動駭客團隊,攻擊者的資源和人力依然有限」;因此雖然中毒軟體廣泛散播,但仍只能利用一小部分後門進行攻擊。

「現在有了 AI,他們就能夠以自動化方式完成這一切…… 想像一下,他們不只會攻擊數百個網路,而是數千個網路,而且還會植入誘餌,等待日後發動攻擊。」

樂觀的一面:AI 可支援大規模防禦

然而從樂觀的一面來看,Sikorski 也預期 AI 能夠強化網路安全防禦能力。他認為在 AI/ML 的進步下,軟體中可能遭利用的漏洞總數可望逐漸減少,因為隨著技術不斷發展,自動化測試和大規模修復的能力也會提升。Sikorski 的理由如下:

「利用 AI 生成漏洞利用和零日攻擊程式碼的做法雖有爭議,但我認為軟體開發人員也會藉此技術測試並修復漏洞,防止不肖份子發現它們。」

這場攻防有如軍備競賽,防守方需要全力以赴才能取勝。

在資安營運方面,Sikorski 認為 AI/ML 有助於團隊更專注於提升主動防禦技術,例如威脅獵捕 (threat hunting) 而非被動的漏洞分檢 (triage):

「若能自動化處理 SOC 已知的所有威脅,我們的 SOC 就能轉向關注威脅獵捕等主動防禦任務。這項目標有賴於大幅提升創造力,並發現未知的新型攻擊。」

Sikorski 表示,資安主管的重點是密切追蹤 KPI,掌握 AI 在多大程度上有助於「降低成本」,以及他們「有多少比例的時間用於搜尋新威脅」。他建議:

「若此數字逐漸增加,就表示團隊不再只是成天忙著分檢已知的攻擊或誤報。」

隨著 AI 網路攻擊和防禦能力同步進展,如 Michael Sikorski 等實務從業人員分享的實用見解至關重要,有助網路安全團隊運用 AI 潛在優勢,同時保持警惕,清楚掌握新興威脅態勢。

標籤: AI惡意軟體攻擊漏洞網安網路釣魚資安防禦零日攻擊電子郵件詐騙
上一篇文章

beBit TECH 公布「節慶行銷 2.0 白皮書」三大策略助品牌長尾收益

下一篇文章

健康觸手可及 華碩新一代VivoWatch 6在台上市

相關文章

半導體擴廠人才荒 Profet AI 助企業擴大專家量能
新聞速寫

半導體擴廠人才荒 Profet AI 助企業擴大專家量能

2026-11-19
中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
新聞速寫

中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性

2026-11-19
台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解
新聞速寫

台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解

2026-11-18
下一篇文章
ASUS VivoWatch 6不僅可量測血氧、血壓、心率、心電圖,錶面另採用1.39吋AMOLED康寧大猩猩螢幕,色彩飽和與觸控靈敏度大幅提升,續航力更長達14天。

健康觸手可及 華碩新一代VivoWatch 6在台上市

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • AI 代理人應用於銀行法遵的價值與導入關鍵
  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!
  • 半導體擴廠人才荒 Profet AI 助企業擴大專家量能
  • 中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
  • 雲林培育 2,900 人次智慧農業人才 推動 AI 導入與產業升級

📈 CIO點閱文章週排行

  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!

    0 分享
    分享 0 Tweet 0
  • 平台業者個資外洩 消費者問責品牌商

    0 分享
    分享 0 Tweet 0
  • 強化金融資安韌性 金管會:聚焦 AI 攻擊與代理 AI 安全

    0 分享
    分享 0 Tweet 0
  • 國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

    0 分享
    分享 0 Tweet 0
  • 台灣數位資產與未來資本市場協會成立 布局代幣化金融基礎設施

    0 分享
    分享 0 Tweet 0
  • 【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

    0 分享
    分享 0 Tweet 0
  • 昕力資訊攜手 HPE 深化策略結盟 布局主權 AI 「智算力」服務

    0 分享
    分享 0 Tweet 0
  • 【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI

    0 分享
    分享 0 Tweet 0
  • 【專訪】國泰金控數位數據暨科技發展中心副總經理陳維銘

    0 分享
    分享 0 Tweet 0
  • AI 網攻擴大企業受害 72 小時內應變成資安關鍵

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

【影】技術司推動無人機系統整合 AI 導航成關鍵

整理/鄭宜芬 在非紅供應鏈、地緣政治與AI快速演進的交會下,無人機已從單純設備,

【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

整理/鄭宜芬 AI 代理在系統入侵與漏洞利用過程中承擔更多工作,不僅大幅降低對人

設備聯網 鑄就 AI 轉型底座

園管局智慧化升級典範企業-嘉鋼精密工業 鑄造產業面對缺工、供應商縮減,以及國際市

國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

整理/鄭宜芬 國家科學及技術委員會今(16)日召開第 24 次委員會議,由數位發

2026 AI 物聯網大聯盟年會 聚焦主權 AI、算力建設與產業 AI 模型

採訪/鄭宜芬 2026 AI 物聯網大聯盟年會 28 日登場,國發會主委葉俊顯與

【威脅分析】CrowdStrike:網攻滲透律師事務所,實體攻擊風險升高

攻擊者招募人員滲透律師事務所,竊取客戶機密資訊,進一步進行資料竊取與勒索。CHA

雲林培育 2,900 人次智慧農業人才 推動 AI 導入與產業升級

從人才培育到場域實作 打造智慧農業轉型輔導體系 整理/鄭宜芬 雲林縣政府於15日

台灣數位資產與未來資本市場協會成立 布局代幣化金融基礎設施

整理/鄭宜芬 全球金融市場加速布局資產代幣化、穩定幣支付與區塊鏈金融基礎設施,台

高雄 AI 燈塔計畫秀成果 讓城市治理更聰明有效率

整理/鄭宜芬 高雄市政府 29 日於棧叁庫 PIER F 舉辦「高雄 AI 燈塔

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音