文／Palo Alto Networks
隨著 AI 的熱度不斷攀升，網路安全從業者也嘗試釐清 AI 對其領域造成的實質影響。Palo Alto Networks 技術長 Michael Sikorski 直言預測 AI 對網路攻擊與防禦的近期及長期影響。
網路釣魚威脅大幅加劇
Sikorski 認為，近期 (未來 6-12 個月) 主流的手法是利用 AI 強化社交工程攻擊，例如網路釣魚和商業電子郵件詐騙 (BEC)。他坦言：「此情況會短暫維持一段時間，而網路釣魚將在 AI 的加持下，再度成為首要威脅。」
AI 語言模型能夠研究攻擊目標的完整電子郵件記錄和通訊模式，製作毫無破綻、以假亂真的網路釣魚訊息。Sikorski 解釋：
「AI 能夠迅速建立信任感。人們會在電子郵件往返中閒話家常，談及狗狗或家人，而 LLM 甚至能複製這種對話模式，在培養足夠的信任後話鋒一轉：『對了，可以填一下那張發票嗎？』就像 6 個月前填過的那樣，此時的受害者較可能配合，對吧？因為他們的戒心降低，更容易受騙。」
Sikorski 認為，這類自動化網路釣魚威脅已經開始發生，規模可能持續擴大，而且會在短期內更加普遍，成為攻擊者首選的標準方法。
攻擊者試圖產生惡意軟體，對 AI 訓練資料和系統植入病毒
展望未來 12 個月到數年之間，Sikorski 預期惡意行動者會在兩個關鍵領域發展 AI 攻擊能力：
- 製作惡意軟體，方法是以現有惡意軟體程式碼訓練 AI 語言模型，並組合成全新病毒變種，藉此躲過偵測。Sikorski 談到 Palo Alto Networks 主動防禦技術的開發工作：「我們正嘗試使用 LLM 實際製作惡意軟體，對它饋送資料並投入我們的產品中，看看表現如何。」
- 此為攻擊 AI/ML 系統本身的策略，方法是使用提示注入 (prompt injection) 和訓練資料集植毒 (poisoning training dataset) 等技術，藉此操縱模型的輸出結果。「未來甚至會有攻擊嘗試對訓練資料下毒。由於 LLM 是一項新興技術，因此中期應該會有更多攻擊將此作為下手目標。」
AI 助長攻擊活動的自動化和擴張能力
Sikorsk 最擔心的時間點落在未來 5 年後，屆時 AI 將可同時對數千到數百萬個目標發動自主攻擊，而且能夠大幅擴張規模，遠遠超出人類迄今所做過的攻擊活動。他發出警告：
「試想在 AI 的助力下，攻擊者就能以自動化方式判定攻擊目標、如何橫向移動，以及擷取有價值的資料。我認為這是未來的發展趨勢。我們面臨完全自動化的入侵對手，因此也必須防範全自動的攻擊者。」
Sikorski 以 SolarWinds 供應鏈攻擊事件為例進行比較，指出「…… 即使出動駭客團隊，攻擊者的資源和人力依然有限」；因此雖然中毒軟體廣泛散播，但仍只能利用一小部分後門進行攻擊。
「現在有了 AI，他們就能夠以自動化方式完成這一切…… 想像一下，他們不只會攻擊數百個網路，而是數千個網路，而且還會植入誘餌，等待日後發動攻擊。」
樂觀的一面：AI 可支援大規模防禦
然而從樂觀的一面來看，Sikorski 也預期 AI 能夠強化網路安全防禦能力。他認為在 AI/ML 的進步下，軟體中可能遭利用的漏洞總數可望逐漸減少，因為隨著技術不斷發展，自動化測試和大規模修復的能力也會提升。Sikorski 的理由如下：
「利用 AI 生成漏洞利用和零日攻擊程式碼的做法雖有爭議，但我認為軟體開發人員也會藉此技術測試並修復漏洞，防止不肖份子發現它們。」
這場攻防有如軍備競賽，防守方需要全力以赴才能取勝。
在資安營運方面，Sikorski 認為 AI/ML 有助於團隊更專注於提升主動防禦技術，例如威脅獵捕 (threat hunting) 而非被動的漏洞分檢 (triage)：
「若能自動化處理 SOC 已知的所有威脅，我們的 SOC 就能轉向關注威脅獵捕等主動防禦任務。這項目標有賴於大幅提升創造力，並發現未知的新型攻擊。」
Sikorski 表示，資安主管的重點是密切追蹤 KPI，掌握 AI 在多大程度上有助於「降低成本」，以及他們「有多少比例的時間用於搜尋新威脅」。他建議：
「若此數字逐漸增加，就表示團隊不再只是成天忙著分檢已知的攻擊或誤報。」
隨著 AI 網路攻擊和防禦能力同步進展，如 Michael Sikorski 等實務從業人員分享的實用見解至關重要，有助網路安全團隊運用 AI 潛在優勢，同時保持警惕，清楚掌握新興威脅態勢。
