• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

CyberArk 推出突破性開源工具FuzzyAI,協助企業防範 AI 模型越獄攻擊

2024-12-25
分類 : 新聞速寫
0
A A
0
CyberArk 推出突破性開源工具FuzzyAI,協助企業防範 AI 模型越獄攻擊

文/CyberArk

身分安全廠商Cyber​​Ark在2024年12月18日宣布推出FuzzyAI,一個先進的開源專案,能破解所有主要測試過的AI模型。FuzzyAI協助企業識別並解決AI模型的漏洞,例如繞過防護機制和產生有害輸出等問題,適用於雲端託管和內部部署的AI模型。2024年歐洲黑帽大會(Black Hat Europe 2024)的參與者將能親身探索這款工具的功能與應用,了解如何在採用AI的同時降低資安風險。

為何需要FuzzyAI?

AI模型正透過創新的應用改變各行各業,包括客戶互動、內部流程改進及自動化。然而,這些模型的內部使用同時也帶來了大多數企業尚未準備應對的新資安挑戰。

FuzzyAI 透過為企業提供一種系統化的方法來測試AI模型對各種對抗性輸入的反應,協助解決部分這些挑戰,揭示其安全系統中的潛在弱點,使AI的開發和部署更加安全。FuzzyAI的核心是一個功能強大的模糊測試工具,專門用於揭露軟體缺陷和漏洞,能夠揭露超過十種不同攻擊技術進而找出漏洞,從繞過道德過濾器到揭露隱藏的系統提示。FuzzyAI的主要功能包括:

  • 全面模糊測試: FuzzyAI 使用各種攻擊技術測試AI模型,揭露漏洞,例如繞過防護機制、資訊洩漏、提示注入或產生有害輸出。
  • 可擴展平台: 企業和研究人員可添加自行定義的攻擊方法,針對特定領域的漏洞進行測試。
  • 社群協作: 不斷壯大的社群生態系統,促進對抗技術和防禦機制的持續進步。

「FuzzyAI 的推出突顯了 CyberArk 對 AI 安全的承諾,並協助企業在解決 AI 模型使用演進中固有的安全問題上邁出重要一步,」CyberArk 產品長 Peretz Regev 表示。「由 CyberArk Labs 開發的 FuzzyAI 已展示其破解所有主要測試過的 AI 模型的能力。FuzzyAI 讓企業和研究人員能夠識別弱點,並積極加強其 AI 系統以抵禦新興威脅。」

FuzzyAI產品供應

FuzzyAI 的完全可擴展平台已於 2024 年 12 月 11 日起在 CyberArk Labs 的 GitHub 頁面上以開源軟體形式提供。CyberArk Labs 並在歐洲黑帽大會的 Arsenal 區舉辦一場「奪旗賽」(CTF)活動,展示其實際應用,強調越獄漏洞對真實世界的影響,以及主動防範的重要性。

標籤: AIAI 安全CTFCyber​​ArkFuzzyAI全面模糊測試可擴展平台新資安挑戰系統化解決AI漏洞雲端託管
上一篇文章

華碩AI雲平台領航智慧醫療!助力長庚高效診療

下一篇文章

華碩尾牙獎千萬 發揮眾智創全方位AI新局

相關文章

半導體擴廠人才荒 Profet AI 助企業擴大專家量能
新聞速寫

半導體擴廠人才荒 Profet AI 助企業擴大專家量能

2026-11-19
中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
新聞速寫

中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性

2026-11-19
台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解
新聞速寫

台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解

2026-11-18
下一篇文章
華碩董事長施崇棠率領主管團隊向全體同仁敬酒致謝。

華碩尾牙獎千萬 發揮眾智創全方位AI新局

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • AI 代理人應用於銀行法遵的價值與導入關鍵
  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!
  • 半導體擴廠人才荒 Profet AI 助企業擴大專家量能
  • 中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
  • 雲林培育 2,900 人次智慧農業人才 推動 AI 導入與產業升級

📈 CIO點閱文章週排行

  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!

    0 分享
    分享 0 Tweet 0
  • 平台業者個資外洩 消費者問責品牌商

    0 分享
    分享 0 Tweet 0
  • 強化金融資安韌性 金管會:聚焦 AI 攻擊與代理 AI 安全

    0 分享
    分享 0 Tweet 0
  • 國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

    0 分享
    分享 0 Tweet 0
  • 台灣數位資產與未來資本市場協會成立 布局代幣化金融基礎設施

    0 分享
    分享 0 Tweet 0
  • 【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

    0 分享
    分享 0 Tweet 0
  • 【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI

    0 分享
    分享 0 Tweet 0
  • 【專訪】國泰金控數位數據暨科技發展中心副總經理陳維銘

    0 分享
    分享 0 Tweet 0
  • 【專訪】台北富邦銀行執行副總經理暨數位金融總處長陳弘儒:全行 AI 能力,打造金融生態圈

    0 分享
    分享 0 Tweet 0
  • AI 網攻擴大企業受害 72 小時內應變成資安關鍵

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

設備聯網 鑄就 AI 轉型底座

園管局智慧化升級典範企業-嘉鋼精密工業 鑄造產業面對缺工、供應商縮減,以及國際市

1200 Adobestock 569893301

虛擬資產監理新制預告 穩定幣與 VASP 納管強化資安及內控

整理/鄭宜芬 金融監督管理委員會啟動虛擬資產監理新制,3 日預告 11 項授權法

CoWiSH 串聯百業需求 國產晶片 AI 應用導入率達 80%

整理/鄭宜芬 「2026臺灣IC智造年會」今(5)日於臺北三創生活園區盛大登場,

【影】技術司推動無人機系統整合 AI 導航成關鍵

整理/鄭宜芬 在非紅供應鏈、地緣政治與AI快速演進的交會下,無人機已從單純設備,

數據治理為 AI 規模化的基礎

產業別之數據治理特性:製造業 台灣約有超過半數企業尚未完全建立能支撐 AI 規模

【防颱警報】資安颱風威脅更大 資安防禦不可懈怠

彙整/編輯部 當下颱風壓境,甚受關注。然而,因為 AI 帶來的資安颱風,其威脅更

【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

整理/鄭宜芬 AI 代理在系統入侵與漏洞利用過程中承擔更多工作,不僅大幅降低對人

雲林培育 2,900 人次智慧農業人才 推動 AI 導入與產業升級

從人才培育到場域實作 打造智慧農業轉型輔導體系 整理/鄭宜芬 雲林縣政府於15日

HITCON CISO Summit 2026 聚焦 AI 威脅、半導體供應鏈與企業韌性

整理/鄭宜芬 由台灣駭客協會主辦的「HITCON CISO Summit 202

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音