Google Cloud 預測生成式人工智慧(Generative AI)的持續使用將提升網路釣魚的技術水準;同時,資安專業人士也將使用相同的技術工具來進行防禦,以及彌補與攻擊者之間的技能差距。
文/Samira Sarraf‧譯/Christy
在 2024 年,一般人透過檢查拼寫錯誤、語法錯誤和缺乏文化背景來判斷電子郵件是否合法或有無詐騙的跡象,然而,這些方法都將變得更加難以辨識。攻擊者將繼續利用生成式人工智慧和大型語言模型(LLM)來進行網路釣魚、簡訊和其他社交工程操作,以使其內容,包括語音和影片,看起來更為真實。
根據 Google Cloud 2024 年的網路安全預測報告,生成式人工智慧也將在大規模的惡意活動中發揮作用。報告指出,攻擊者如果能夠獲取姓名、組織、職稱、部門或健康數據等資訊,他們甚至可能無需使用惡意的大型語言模型,因為使用生成式人工智慧來撰寫發票提醒並無本質上的惡意。 Google Cloud on AI 資安長 Phil Venables 在一份聲明中表示:「攻擊者將盡其所能的利用一切手段來模糊良性和惡意人工智慧應用程式之間的界線,因此防禦者必須更快速、更有效地應對這些挑戰。」
該報告還提醒了一個可能性,由於使用生成式人工智慧來編撰假新聞、模擬與接聽者進行積極互動的假電話,以及基於生成式人工智慧創造的虛假內容進而製作深度偽造的照片和影片,可能會造成公眾對企業和政府的懷疑和不信任。同時,Google Cloud 還預測,生成式人工智慧和大型語言模型將作為付費服務提供給攻擊者使用。
然而,幸運的是,資安防禦者也將使用相似的工具來對抗這些威脅。根據 Google Cloud 的預測,人工智慧的一個重要應用案例是引導組織如何將大量資料整合並將其融入威脅情報中,從而產生可操作的檢測或其他分析。人工智慧和生成式人工智慧將大大提升人類的能力,使其能夠在分析和推斷應對這些大型資料集時更加靈活。
2024 年全球威脅預測
由於攻擊者的目標是盡可能長時間地保持對目標環境的持久潛伏,為了實現這一目標,他們將在 2024 年利用零日漏洞(zero-day vulnerabilities)和邊緣設備(edge devices),以延長他們對系統的潛伏時間。而這項預測則是來自於對 2023 年零日漏洞數量的推算,其數量將超越在 2021 年所創下的先前紀錄。
隨著俄羅斯入侵烏克蘭後所觀察到的具破壞性駭客活動增加了許多,而這些類似的活動很有可能會持續,因為在哈馬斯和以色列的衝突期間也觀察到了一些類似的活動。這些駭客組織的破壞性活動主要包括分散式阻斷服務攻擊(DDoS attacks)、資料洩露(data leaks)和網頁篡改(defacements)。Mandiant Intelligence 認為,由於類似的活動在過去曾獲得成功,因此在未來也可能再次發生這樣的駭客行動。
在俄羅斯入侵烏克蘭之前觀察到一些國家可能會添加了擦除器惡意軟體(wiper malware)。當時,俄羅斯的 APT 組織成功地獲取了對烏克蘭系統、資訊或網路資源的存取權限,並發起了一次破壞性的攻擊,而這次攻擊剛好與實際的軍事行動同時發生。報告中指出:「由於台灣海峽的緊張局勢以及其他全球安全威脅上升,在 2024 年,更多國家會仿效俄羅斯在重要戰略目標處預先部署破壞性的擦除器惡意軟體。」
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球CIO同步獲取精華見解 ]
Google Cloud 也預測了針對太空基礎設施的攻擊、對混合雲和多雲環境日益成熟的攻擊 、網路犯罪份子和國家級駭客將更廣泛地利用雲端的無伺服器技術、持續的勒索行動、間諜活動和潛伏型僵屍網路的使用,以及攻擊者重新採用一些老舊但未被太多防禦技術覆蓋的技術來躲避檢測,如 SystemFunctionXXX 功能和反虛擬機器。
惡意軟體的設計者將繼續使用諸如 Go、Rust 和 Swift 等現代程式語言來開發出更多的惡意軟體。這是因為這些語言提供了良好的開發體驗、低階功能、大型標準程式庫,以及能輕鬆整合第三方開發者製作的套裝軟體。而近年來,針對套裝軟體管理器供應鏈的攻擊,不難發現軟體開發者已經成為攻擊者的熱門目標。
隨著資安保險需求的增加,預計保費將持續保持穩定。Google Cloud 也預期將看到更多安全營運(SecOps)領域的整合,因為越來越多的客戶要求在其安全營運解決方案中整合風險管理和威脅情報。
2024 年值得關注的區域趨勢
在即將到來的美國總統選舉中,將會有越來越多的國家以及其他威脅行為者參與網路活動,這些活動可能包括針對選舉系統的間諜活動和影響操作、社交媒體上冒充總統候選人的行為,以及旨在影響選民本身的資訊操作。預計針對美國政府的魚叉式釣魚活動(spear phishing)和其他攻擊活動將會增加,特別是來自中國、俄羅斯和伊朗的攻擊。
台灣、南韓、印度和印尼也將舉行選舉,預計也會發生類似的活動。同時,中國新繪製的地圖也可能成為印度和印尼選舉期間的爭論焦點。
兼具網路犯罪和人口販賣元素的殺豬盤詐騙(Pig Butchering) / 浪漫騙局,在 2024 年仍將繼續成為日本及亞太地區(JAPAC)等國家執法部門的棘手難題。隨著端點偵測和回應解決方案(Endpoint Detection and Response Solutions ─ 包括即時監控與收集端點安全性資料的功能,並具備自動威脅回應機制)在日本及亞太地區越來越普及,攻擊者也將調整他們的攻擊策略,以減少被偵測到的可能性。(殺豬盤詐騙的說明可參考此處)
在之前歐洲議會選舉期間,有可能會有威脅行為者針對該事件進行網路間諜活動和資訊操作,在報告中,俄羅斯被指出是最顯著的潛在威脅。
俄羅斯和中國針對非洲國家進行越來越多的網路宣傳活動,目的是在散佈錯誤訊息,透過支持獨裁政權、挑撥離間,和破壞民主制度來影響非洲。同時,中國和俄羅斯團體被預計將瞄準稀土礦業,這對許多高科技產品,如智慧型手機、電腦和電動車,是必不可少的資源。
預計在 2024 年巴黎夏季奧運會期間,網路犯罪分子將瞄準售票系統和商品,特別是透過大量的網路釣魚活動,試圖竊取財務資訊或證件。最後,預測中國、俄羅斯、北韓和伊朗將在明年持續進行間諜活動、網路犯罪、資訊操作和其他活動,以達到各自的目標。
Mandiant Intelligence 和 Google Cloud 的副總裁 Sandra Joyce 表示:「中國、俄羅斯、北韓和伊朗在短期和長期的地緣政治需求的驅動下,各自擁有獨特的網路能力。隨著全球緊張局勢升級的情況下,特別是在中東、東歐和東亞的熱點地區,這些國家將無疑地利用他們的網路能力來實現某些政治、軍事或經濟目標。因此,必須對這些行為主體進行有目標性的預備和預防措施。」
(本文授權非營利轉載,請註明出處:CIO Taiwan)