員工把公司檔案送進生成式 AI 之事屢見不鮮。以企業防制手法來看，大型組織或大企業已建有日誌，下一步可以攔截送出的資料；但許多中小企業還無法看見員工用了哪些工具，所以第一步是先掌握使用情況。
編譯／Frances‧校訂╱CIO 編輯室
員工的 AI 使用，資訊長掌握了多少？資料安全供應商 Harmonic Security 在 2025 年 11 月發布的第三季分析，統計美英企業裡員工的瀏覽器使用紀錄：上傳到生成式 AI 工具的檔案有 26.38% 含機敏資訊，而機敏資料外洩中有 11.84% 是經由個人或免費帳號送出，這些機敏資料即使在員工離職後可能仍留在個人帳號裡。
大型組織若已採購企業版 AI 服務並建置資安事件管理系統（SIEM），可把事後留存的日誌當成第一道防線；而中小企業缺少專職資安人力，封鎖 AI 網站也許是最低成本的管控手段，但也不能忽視 AI 帶來的 Turbo 生產力！
大型組織：55% 在模型與應用之間加入 AI 管理層
以 AI 模型開發商 Anthropic 的 Compliance API 為例，官方文件說明 Claude Enterprise 客戶可透過這組 API 唯讀介面，取得組織的活動紀錄與對話、檔案內容，再送進 SIEM 稽核。但紀錄產生時，檔案也已經同時送到模型供應商端，因此日誌負責留證；要在資料送出前擋下，得在員工的瀏覽器、AI 閘道，或 AI 代理呼叫工具的環節另設檢查點。
AI 代理讓前置檢查更急迫。AI 代理會自行讀取內部文件、呼叫外部工具，攻擊者可以把指令藏進代理會讀取的資料庫或網頁內容，AI 讀取時一併執行。美國非營利研究機構 MITRE 的 AI 威脅知識庫 ATLAS，將這種手法編為「間接提示詞注入」（AML.T0051.001）。
針對這類風險，部分資安供應商提供執行階段的攔截。作法包括分析代理的提示詞、工具呼叫與存取的資料，判斷代理實際想完成的事，並在危險的工具呼叫執行前加以阻擋或修改。不過第三方工具評比網站 Beri 則指出，有些產品的強項偏向盤點與偵測，代理端的即時阻擋覆蓋程度不如行銷上所描述，未整合的代理框架也無法納入保護。
兩種說法並陳，大型組織導入前應以自家實際工作流程做概念驗證，量測誤判率與延遲。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 LinkedIn，與全球CIO同步獲取精華見解 ]
攔截工具要有政策可執行，這個海外大型企業的做法可以參考。KPMG 於 2026 年 9 月發布的 Global AI Pulse 第三季調查，在 7 月下旬至 8 月下旬訪問 20 個國家與地區（含台灣）2,131 位高階主管，受訪企業年營收至少 5,000 萬美元。調查發現 55% 的組織已建立正式的 AI 管理層，也就是介於 AI 模型與業務應用之間、規範 AI 可以做什麼的控制機制與工具；已確立投資報酬的組織，比例達 86%，仍在實驗階段的組織為 31%。管理層裡最常見的是安全與身分控管、資料存取控管，各占 43%，其次是 AI 輸出監控 41%、成本與用量追蹤 37%，稽核軌跡則只有 28% 的組織納入。權責方面，53% 的組織把 AI 輔助決策的責任放在 CXO 或以上。
同一份調查也顯示，成熟組織傾向分散模型供應商。實驗階段組織有 19% 主要依賴單一全球模型供應商，另有 29% 依賴少數幾家；已確立投資報酬的組織，這兩個比例降到 6% 與 8%。KPMG 把資安曝險、模型主權與供應商依賴視為同一個營運持續問題：模型、供應商或法規轄區一旦改變，AI 方案能否繼續運作。成熟組織的預算也反映這一點，71% 把資安與資料安全列入 AI 預算重點，實驗階段組織為 36%。KPMG 建議 AI 管理層一開始就要同時設計控制、模型路由、權責歸屬與成本效益追蹤四個部分，避免等 AI 規模擴大後再補強。
參考上述做法，大型組織可依序檢查四件事：
- 稽核紀錄是否已串進 SIEM，並設定保留期限與調閱權限
- AI 代理可讀取的資料來源、可呼叫的工具是否有清冊，對外傳送類工具是否需要人工核准，責任歸屬到哪一位主管
- 執行階段攔截工具在導入前，是否已用實際流程測過誤判與延遲
- 模型與供應商是否分散，單一供應商停擺或條款改變時有無替代方案
之後，日誌負責留證，政策與攔截工具負責在資料送出前把關，供應商分散則可讓 AI 服務在單點故障時仍能運作。
中小企業：沒有 SIEM，那先從可見度做起
資安界常用「資安貧窮線」（Security Poverty Line）描述企業因預算與人力不足、跨不過基本安全門檻的處境，RSA Conference 2025 的一場研討中指出，資安貧窮線的概念提出至今已約 14 年。對沒有專職資安人員的中小企業來說，按資料量計費的 SIEM 授權，加上全天候監看日誌的分析人力，都很難編出預算。
借鏡海外經驗之前，先看清楚數據來源的範圍很重要。前述報告不管是 KPMG 的受訪企業年營收至少 5,000 萬美元，還是 Harmonic 的客戶樣本是已採用其產品的美英企業，兩者都以大型或資安投入較多的企業為主。不過，KPMG 觀察到的，先建好安全、身分與資料存取等控制，再發展模型路由這類進階功能。我們認為，這樣的順序同樣適合資源有限的企業。
全面禁用是成本最低的選項，但 Harmonic 的資料顯示效果有限。該公司第二季報告指出，AI 功能已內建在 Canva、Grammarly、Quillbot、Replit 等日常 SaaS 工具中，多數企業的管控機制不會把這些工具歸為生成式 AI，所以員工照樣用它們處理合約、客戶郵件與程式碼。其第三季報告也觀察到，多數企業儘管已發布 AI 使用政策，敏感資料外洩比例仍持續上升，報告認為原因在於員工意識的提升速度追不上 AI 普及的速度。
以下依照成本與門檻，讓預算有限的企業可從三種做法中進行考量：
- 提供核准的替代工具：Harmonic 第三季報告建議企業提供功能相當的核准工具，並偵測員工以個人帳號處理公務的情形。統一採購企業版帳號，讓資料留在企業管理範圍內。
- 自建開源介面加閘道：LibreChat（MIT 授權的開源多模型聊天介面）可自行架設，讓員工在同一介面使用多家模型，資料存在企業自管的資料庫。前端再接 AI 閘道服務，並可加上個資偵測、阻擋規則與各團隊預算上限。軟體本身不收授權費，費用落在主機、模型 API 詞元費與維運人力，企業內部需要有人能維護 Docker 部署與設定檔。
- 瀏覽器端遮蔽：如 Harmonic、Google Chrome Enterprise Premium、Acronis GenAI Protection ，透過外掛或端點小模型，在員工送出內容前攔截並遮蔽敏感資料，免改網路架構。採訂閱制計價（如 Chrome 企業進階版約為每人每月 $6 美元，適合中小企業負擔）
三種做法的共同起點，是先知道員工在用哪些工具、送出了哪些資料。Harmonic 第三季報告建議企業按季量測敏感資料外洩情形，用數字追蹤進展，讓管理階層看得到改善幅度。
目前，AI 閘道服務（AI Gateway）可分為三大陣營：
- 第一陣營：開源與自託管派 (Open-Source & Self-Hosted)
- 核心特點：程式碼開源，企業可完全部署在自家伺服器，資料不外流，隱私性最高。
- 代表工具：LiteLLM。
- 第二陣營：企業級安全與治理派 (Enterprise AI Governance & SaaS)
- 核心特點：主打託管服務（SaaS）或混合架構。專為中大型企業設計，強項在於細粒度的團隊權限控管（RBAC）、提示詞防火牆、PII 個資遮蔽與合規審計。
- 代表工具：Portkey（因其強大的企業安全與 Agent 治理能力，已被網安巨頭 Palo Alto Networks 收購）、TrueFoundry。
- 第三陣營：網路基礎設施與雲端巨頭派 (Edge Infra & Aggregators)
- 核心特點：利用全球邊緣網路（Edge）節點提供極低延遲的快取，或提供單一帳單對接數百種模型。
- 代表工具：Cloudflare AI Gateway、OpenRouter。
結論：三個問題驗收 AI 成熟度
員工送出去的是企業的資料，外洩的後果由企業承擔，不管大小組織皆然。組織規模的不同，差別在於已有的基礎架構不同：大型組織企業已有日誌與 SIEM，下一步則要把控制前移到資料送出與 AI 代理呼叫工具時，並把代理權限寫成政策；中小企業多半還沒有日誌，第一步是讓員工在看得見的工具裡使用 AI，再決定用企業版帳號、自建閘道或瀏覽器遮蔽。同樣地，採購時應要求以自家工作流程做概念驗證，再決定是否擴大部署。
KPMG 在報告結論提出三個問題，讓經營團隊檢視 AI 管理的成熟度，這一點不論企業規模都適用：AI 輔助的決策出錯時由誰負責、AI 花了多少錢又換到什麼成果、模型或供應商明天改變時哪些服務會停擺。但仔細看，KPMG 的調查中，53% 的組織能指名第一題的負責人，能持續回答第二題完整內容的只有 12%，值得 CIO 與 CISO 深入思考。
參考文獻
- Harmonic Security，GenAI Data Exposure: What GenAI Usage Is Really Costing Enterprises，2025 年 7 月 31 日
- Harmonic Security，GenAI in the Enterprise: It’s Getting Personal，2025 年 11 月 18 日
- Anthropic，Compliance API 官方文件
- MITRE ATLAS，AML.T0051.001 LLM Prompt Injection: Indirect
- Zenity，Secure the Coding and Personal Agents Already Running on Your Endpoints
- Beri，Zenity 工具評比，https://www.beri.net/tools/zenity
- KPMG International，Global AI Pulse Q3 2026: AI at scale: Accountability, resilience and economics，2026 年 9 月
- RSA Conference 2025，One Community, One Voice: Bridging the Cyber Poverty Gap
- Portkey，Scaling LibreChat for Enterprise Use: Tracking, Visibility, and Governance，DEV Community
- Nand Research：Palo Alto Networks Portkey acquisition（2026-05-04）
- Computerworld：Google adds a premium option for Chrome Enterprise（2024-04-10）
(本文授權非營利轉載，請註明出處：CIO Taiwan)
