• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

釋放AI潛力:在成長中兼顧資安防護

2025-06-17
分類 : 新聞速寫
0
A A
0

文/Palo Alto Networks

AI應用程式的快速整合為企業帶來了豐富的機會。這些智慧系統具有革新營運、推動創新以及提升生產力的潛力。隨著越來越多企業擁抱 AI 的力量,實現其完整潛力的關鍵要素在於建立健全的資安措施。透過主動處理資安考量,我們能夠營造一個值得信賴的環境,促進AI技術的安全且廣泛的採用。

在這個環境中,企業需要對AI工具通常用於訓練和推論等功能所存取的龐大資料進行控管。防護所有這些威脅的最佳方式是採用AI驅動的資安解決方案。能掌握 AI 安全的企業,也將在競爭中搶占先機。

AI採用的成長與相伴隨的風險

AI 的普及速度驚人,無論是生成式 AI(GenAI)還是資料分析工具,都正加速重塑各產業樣貌。根據麥肯錫顧問公司(McKinsey & Company)近期調查,超過 75% 的企業已在多項業務功能中部署 AI,足見其帶來的價值之巨大。

然而,如同任何強大的技術,負責任的導入才是關鍵。雖然 AI 的快速採用令人振奮,但這也需要我們更加關注其底層資料以及系統的安全性。若能將安全性融入 AI 開發與部署的每一個環節,企業便能在充分享受其帶來效益的同時,有效降低潛在風險。

底層資料的挑戰

隨著企業導入 AI,積極主動的資料管理策略變得至關重要。雖然像 Hugging Face 這樣的平台提供了大量的開源模型與資料集(截至目前為止,已有超過 150 萬個模型和 40 萬個資料集),但確保這些資訊的負責任與合乎倫理的使用仍然十分重要。例如,醫療資料集的開放就需特別注意,如同 HIPAA 等隱私法規,透過落實健全的資料治理機制,企業能夠更有效地應對這些複雜的挑戰。

同樣地,針對大型語言模型(LLMs)訓練資料的持續討論,也突顯了尊重智慧財產權的重要性。主動面對這些議題,有助於建立一個更具永續性且合法合規的 AI 生態系統。此外,雖然 Palo Alto Networks 的研究人員發現了惡意 AI 模型,提醒我們需提高警覺,但這也同時促進了相關資安解決方案的發展,以偵測並消除此類威脅。

需要更多控制

企業可以做什麼?暫緩導入 AI並非解答,無論這看起來多麼誘人。對於想要保持競爭力的現今企業來說,這根本不可行。

關鍵在於採取「從設計即安全」(secure by design)的理念。這意味著在 AI 應用程式開發的整個生命週期中融入安全考量,使開發人員與資料科學家能夠打造穩健且值得信賴的模型。一個全面的 AI 安全平台應涵蓋以下幾個關鍵領域:

  • AI代理的安全(Security for AI agents)  – 代理必須受到保護,免受新的代理威脅,如工具濫用、身份冒充和記憶體操縱。
  • AI模型掃描 (Scanning for AI models)– 主動掃描AI模型的漏洞,以便安全採用,將使您的AI生態系統免受反序列化攻擊、模型篡改、惡意腳本和其他風險。
  • 狀況管理(Posture Management)-深入了解 AI 生態系統中與安全狀況相關的風險,有助於避免因配置錯誤、敏感資料外洩或權限過度等問題所帶來的風險。
  • 執行階段安全(Runtime Security)-保護您的資料、AI 應用程式與由大型語言模型(LLMs)驅動的模型,免受執行期間可能出現的威脅,例如幻覺(hallucination)、有害內容、資源過載、提示注入(prompt injection)、敏感資料外洩與惡意程式碼等風險。

擊退 AI 引發的資料外洩風險

在 AI 的無人地帶裡,機會與威脅並存。由於未加保護的 AI 模型與資料集,一場大規模的資料外洩事件可能隨時爆發。面對這些風險,企業彷彿陷入進退兩難的境地—既無法忽視 AI 的潛力,又難以安心使用。但在競爭對手與攻擊者都已經積極運用 AI 的今天,AI 已不再是可有可無的選項。

AI 所帶來的好處無庸置疑,從加速應用程式開發、提升流程自動化,到顯著提高生產力,皆展現出其強大潛力。然而,若要真正實現這些優勢,從一開始就建立一個安全的基礎至關重要。請參考上述所提的最佳實務,打造一個穩固且安全的根基。如此一來,您將能夠在 AI 應用程式開發生命週期的每一階段確保安全,全面追蹤與監控員工對 AI 的使用情況,並隨時保護 AI 應用中所使用的資料,防止遺失或未經授權的存取。

標籤: AILLMsPalo Alto Networks
上一篇文章

施耐德電機與 NVIDIA 宣布全球策略合作

下一篇文章

趨勢科技強化 NVIDIA Enterprise AI 工廠的安全與穩定

相關文章

半導體擴廠人才荒 Profet AI 助企業擴大專家量能
新聞速寫

半導體擴廠人才荒 Profet AI 助企業擴大專家量能

2026-11-19
中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
新聞速寫

中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性

2026-11-19
台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解
新聞速寫

台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解

2026-11-18
下一篇文章

趨勢科技強化 NVIDIA Enterprise AI 工廠的安全與穩定

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • AI 代理人應用於銀行法遵的價值與導入關鍵
  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!
  • 半導體擴廠人才荒 Profet AI 助企業擴大專家量能
  • 中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
  • 雲林培育 2,900 人次智慧農業人才 推動 AI 導入與產業升級

📈 CIO點閱文章週排行

  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!

    0 分享
    分享 0 Tweet 0
  • 平台業者個資外洩 消費者問責品牌商

    0 分享
    分享 0 Tweet 0
  • 強化金融資安韌性 金管會:聚焦 AI 攻擊與代理 AI 安全

    0 分享
    分享 0 Tweet 0
  • 國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

    0 分享
    分享 0 Tweet 0
  • 台灣數位資產與未來資本市場協會成立 布局代幣化金融基礎設施

    0 分享
    分享 0 Tweet 0
  • 【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

    0 分享
    分享 0 Tweet 0
  • 【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI

    0 分享
    分享 0 Tweet 0
  • 【專訪】國泰金控數位數據暨科技發展中心副總經理陳維銘

    0 分享
    分享 0 Tweet 0
  • 【專訪】台北富邦銀行執行副總經理暨數位金融總處長陳弘儒:全行 AI 能力,打造金融生態圈

    0 分享
    分享 0 Tweet 0
  • AI 網攻擴大企業受害 72 小時內應變成資安關鍵

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

資策會串聯產業需求 助攻新創走向市場

整理/鄭宜芬 由資訊工業策進會協辦的 2026 台灣新創育成產業年會於 18 日

台商海外布局有那些新策略?

文/林宏文‧校訂╱CIO 編輯室 最近參加勤業眾信舉辦的閉門論壇,主題是討論台灣

2026 AI 物聯網大聯盟年會 聚焦主權 AI、算力建設與產業 AI 模型

採訪/鄭宜芬 2026 AI 物聯網大聯盟年會 28 日登場,國發會主委葉俊顯與

高雄 AI 燈塔計畫秀成果 讓城市治理更聰明有效率

整理/鄭宜芬 高雄市政府 29 日於棧叁庫 PIER F 舉辦「高雄 AI 燈塔

【影】自駕車商用化還缺哪一哩路?從法規沙盒到全生命週期安全管理

整理/鄭宜芬 當 AI、感測器與車聯網加速改寫交通樣貌,自駕車能否真正走進日常,

雲林培育 2,900 人次智慧農業人才 推動 AI 導入與產業升級

從人才培育到場域實作 打造智慧農業轉型輔導體系 整理/鄭宜芬 雲林縣政府於15日

2027 CIO Insight (2) AI 就緒與效益:八成 CIO 看好 AI,只有一成認為已準備好

對 AI 前景樂觀的 CIO 占八成,認為公司已準備好規模化的只有一成二;效益多

從告警到可決策:企業還要 4 小時

《網路韌性法》的 24 小時通報時限一啟動,差距就在於團隊能否在時限內,從一個受

1200 Adobestock 569893301

虛擬資產監理新制預告 穩定幣與 VASP 納管強化資安及內控

整理/鄭宜芬 金融監督管理委員會啟動虛擬資產監理新制,3 日預告 11 項授權法

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音