網路安全高階主管與從業人員對 AI 的看法:今日的熱潮,炒作或許大過現實,但隨著這塊市場的發展,將出現許多意想不到的驚喜。
文/Rick Grinnell‧譯/曾祥信
最近大眾媒體對於 ChatGPT 的熱衷,讓很多人相信人工智慧已成為「此時此刻」的科技,預期它轉眼間就會在企業和消費產品中普及。甚者,微軟對 ChatGPT 幕後公司 OpenAI 做出的 100 億美元投資,更讓許多人期盼,人工智慧技術將完整且徹底地整合到微軟的產品線,從 Office 365 到 Xbox 等各項產品。
微軟已將 ChatGPT 整合到自家的 Bing 搜尋引擎與 GitHub Copilot 當中,宣佈其 Azure OpenAI 服務已開放使用 ChatGPT,且正在考慮進一步將 ChatGPT 整合到 Word、PowerPoint 與 Outlook 應用程式。
不過,人工智慧是否正成為安全領域的主流趨勢?過去十年間,我們已見到人工智慧在網路安全領域取得的進展,在 2017 和 2018 年,包括 Darktrace、被 Blackberry 收購的 Cylance,以及許多其他類似公司,在黑帽大會(Black Hat)及舊金山附近的 101 號公路上,以廣告和標誌牌大肆推銷他們基於人工智慧的安全技術。
從我在風險投資界的角度來看,人工智慧的滲透程度幾乎還沒有觸及網路安全市場的表面,但為求看法完整起見,我最近與十幾位頂尖的資安長(CISO)、安全主管與從業人員進行了交談。他們的回應,證實了我認為人工智慧在資安市場仍處早期階段的初步看法。但對我而言更有趣的一點是,這些專家們對於人工智慧目前發揮重要角色的地方,存有分歧的意見。
網路安全市場裡的人工智慧
我交談過的所有專家一致指出,現今人工智慧在協助人類整理、分類龐大資料上做的極為出色,可有效「減少背景噪音」,並找出資料中的模式(pattern)或異常(anomaly),若沒有人工智慧的協助,要發掘這些模式與異常不僅相當困難且曠日費時。
人工智慧也很擅長根據過去的模型,創造出新的安全威脅變體和模式。然而,人工智慧並不擅於預測未來,儘管有些行銷宣傳可能會引導你相信這點。人工智慧或許可協助展示未來的攻擊會以何種面貌出現,但是它無法產生明確的結果,去展示特定的漏洞如何被加以利用。
專家普遍認同的另一點是,人工智慧的炒作程度超出現實。儘管每個供應商都在談論人工智慧,但高階主管們認為目前他們使用的多數產品中幾乎沒有(甚至完全沒有)整合人工智慧技術。
一位著名的前 500 大企業安全主管表示:「雖然許多供應商聲稱他們使用人工智慧技術,但我並不清楚它是否真的存在。例如,人工智慧也許是 SIEM(安全資訊與事件管理)技術裡的秘密配方,或用來加強威脅偵測與威脅搜尋活動。但我的質疑來自於缺乏透明度」。如果連這位技術嫻熟且經驗豐富的高階主管都不知道「牛肉在哪裡」(即 AI 的實質成效在哪裡),那麼今日的現實情況又是什麼?
感知的現實
人們說,感知即是現實,那麼這些產業專家感受到的現實是什麼呢?或是反過來說,今日人工智慧的現實又是什麼?
我交談過的專家普遍認同,當使用情境牽涉到大型資料集,無論是作為模型訓練用途還是在實際使用案例之中,人工智慧都極有價值。這些專家認為,SIEM(安全資訊與事件管理)、釣魚電子郵件偵測(email phishing detection)與端點防護(endpoint protection),是目前人工智慧最能扮演重要角色的三種情況,未來也極可能持續發揮價值。
在 SIEM 與 SOAR(安全編排、自動化及回應)類別,今日人工智慧已有一席之地,它可分類大量安全事件資料,以協助人類更迅速地偵測出安全威脅及漏洞,並作出回應。特別是 Splunk,被點名為這塊領域中使用人工智慧的領先供應商。同樣地,這項觀點並未獲得所有專家的一致認可,但多數專家認為,與其他類別相比,人工智慧與此類別的相關程度是很高的。
在電子郵件過濾與反釣魚(anti-phishing)類別裡,大量電子郵件資料可用來訓練像是 Proofpoint 和 Mimecast 這種公司的產品系統,有效地找出電子郵件收件匣裡的許多釣魚攻擊(phishing attack)。我交談過的幾位安全主管相信,這些產品使用某程度的人工智慧技術,然而,與此同時,有些人則質疑分類與偵測背後的主要技術是否真為人工智慧科技。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球 CIO 同步獲取精華見解 ]
端點防護公司利用多年來從數百萬台機器上收集的資料,協助訓練他們的系統。過去,這些系統產生出模式對比用的特徵,提供給部署的平台使用。如今,這些產品可使用人工智慧,以更即時的方式偵測安全漏洞。
雖然沒有人工智慧系統能夠偵測到所有的零時差攻擊(zero-day attack)(如同稍早所述,人工智慧無法預測未來),但像是 CrowdStrike 這種公司的較新產品,被認為可以更有效地縮小這項差距。
我交談的一位前 500 大企業主管斬釘截鐵認為,CrowdStrike 是展示人工智慧價值的最佳典範公司。但另一方面,有兩位資安長提到,即使他們是付費客戶,他們卻看不到證據顯示人工智慧技術確實存在於這家供應商的端點防護產品之中。
僅從以上提到的三個領域,以及意見的分歧,就可明顯看出網路安全產業的問題所在。當這個產業裡的最高階主管與從業人員都無法得知產品是否真有運用人工智慧(儘管產品行銷聲稱確有),我們其他人要如何了解,我們使用的關鍵防護系統背後究竟是用什麼技術驅動?或是,我們需要在乎嗎?
或許我們可以抽離底層技術,只看最終的結果。如果一個系統能夠防止 99.9% 的攻擊,它是否用到人工智慧還重要嗎?有任何關係嗎?我認為答案是肯定的,因為我們將會看到更多由人工智慧驅動的攻擊,一般傳統的防禦手段恐將失效。
人工智慧作為問題解決者
展望未來及其他安全領域,人工智慧將在身份與存取管理中發揮重要作用,協助發現異常的系統存取活動。一位資安長希望,最終人工智慧能夠幫助解決內部威脅問題,這是當今最棘手的領域之一。此外,人們相信人工智慧將有助部份自動化紅隊(Red Team,指攻擊方)的責任,且或許能自動化藍隊(Blue Team,指防守方)的所有活動。
與此有關的一項主題是,敵人可能會使用 ChatGPT 和其他人工智慧工具,創造出惡意應用程式或惡意軟體(malware),帶來新的威脅。而反過來說,有些人認為這些相同工具可用來建構更好的防禦措施,在惡意攻擊者實際使用前,事先產生惡意程式碼範例,就像是注射疫苗,利用這些程式碼範例來提升防禦系統能力。
另一項擔憂是,人工智慧生成的程式碼,若沒有適當的管理,會與訓練它的人類所寫出來的程式碼同樣存在缺陷,或具有更多缺陷。如此一來,創造出具有弱點的程式碼的規模將遠甚過往,並且為以人工智慧為基礎的弱點掃描程式帶來必須克服的新難題。
最後一個關鍵點是,人們相信微軟、Google、亞馬遜和其他大型公司將提供底層的人工智慧演算法。較小型的網路安全供應商將擁有與客戶互動的資料和前端產品,但後端的大腦則是使用大型公司提供的技術。因此,理論上來說,人工智慧導向的安全公司,不會真的在技術上擁有人工智慧。
未來的人工智慧
在安全防護系統方面,人工智慧的發展滲透還在早期階段。過去,人工智慧在研究社群經歷數十年的發展,直到近幾年才出現成熟的技術與平台,使得人工智慧能夠被實際應用和部署。那麼,在網路安全領域,未來五到十年的情況會是如何?
我對於具備人工智慧的網路安全解決方案,具有明確的投資論點,相信我們將在未來十年內,看到企業更廣泛、更深入地應用人工智慧。從我訪談專家的觀點來看,普遍認為人工智慧將在多項領域成為現實,包括上述三個領域。
雖然專家相信,人工智慧將在安全的各個領域發揮越來越重要的作用,但在以下領域的機會是最大的:
- 詐欺偵測。
- 網路異常偵測。
- 發現深偽內容(deep fake content),包括在公司網站和社交媒體資產之中。
- 風險分析。
- 合規管理和報告(事實上,人工智慧可能會為組織帶來新的合規難題,因為更多針對人工智慧而制訂的法規,將迫使企業組織必須建立新的流程與政策)。
目前,人工智慧在網路安全解決方案中所處的位置及其能耐,仍有很多不確定性。但我相信,這種不確定性將驅策企業家創造出新一波的產品,來幫助人們航向這塊未知的邊疆。而這種趨勢可能會超出網路安全領域,遍及到組織內使用的所有軟體產品。
可以肯定的是,未來五到十年的人工智慧應用將會引人入勝。今日的熱潮,炒作成份或許大於現實,但隨著這個市場的發展,肯定將發生許多出乎意料的驚喜。
(本文授權非營利轉載,請註明出處:CIO Taiwan)