員工隨手將公司檔案貼進免費的 AI 工具尋求協助，以為只是順手提升工作效率，卻不知道送出去的可能包含核心商業機密。國際研調機構統計，員工上傳到生成式 AI 工具的檔案中，高達百分之二十六點三八含有機敏資訊，而且有百分之十一點八四的洩漏是經由個人免費帳號送出，即便員工離職，資料依然留在個人雲端。
根據 台灣 CIO 雜誌 所引用的全球調查顯示，已有百分之五十五的企業建立正式的 AI 管理層，也就是在 AI 模型與內部應用之間設置安全控制機制。
什麼是 AI 管理層？ 過去大型企業習慣靠資安事件管理系統，也就是企業用來記錄與監控所有數位軌跡的警報中心來留存紀錄。但事後留證不等於當下攔截，當檔案傳送到模型端時，風險就已經發生。
隨著能替人類自動執行多步驟任務的智慧助理，也就是 AI 代理越來越普及，防範的迫切性更高。攻擊者可能將惡意指令藏在網頁或資料庫中，這種手法稱為間接提示詞注入，當 AI 代理讀取資料時就會誤執行危險動作。
那麼，企業到底該如何在不封鎖 AI 效率的前提下做好安全把關？
大型組織可以在資料送出前，於瀏覽器或 AI 閘道設置防護檢查點。所謂 AI 閘道，就是資料出門前的安全檢查站，負責分析提示詞與存取權限。同時，成熟組織也會選擇分散模型供應商，避免單一服務停擺時整體業務被迫中斷。
那預算與人力有限的中小企業又該怎麼辦？ 資安界常用資安貧窮線來形容企業因預算與人力不足，跨不過基本安全門檻的困境。直接全面封鎖 AI 網站往往效果有限，因為許多日常辦公軟體早已內建 AI 功能。中小企業可以從提升可見度開始，例如統一採購企業版帳號、部署開源聊天介面搭配安全閘道，或者利用每人每月幾美元的瀏覽器防護外掛，在敏感資料送出前直接遮蔽。
不論企業規模大小，最終都有三個問題需要經營團隊深刻檢討： 第一，當 AI 輔助決策出錯時，究竟由誰承擔責任？ 第二，企業花了多少預算在 AI 上，又換到了多少實際成果？ 第三，如果模型供應商突然改變條款或服務停擺，哪些服務會受影響？
