企業 AI 落地進入治理時代
當幻覺風險、資料外洩、影子 AI 與治理缺口逐漸浮上檯面，「可信任AI」開始成為企業數位轉>型的新課題。在此趨勢下，Harness Engineering 與 Forward Deployed Engineer 兩個新興概念正快速受到關注。
採訪╱施鑫澤‧文╱林裕洋
生成式 AI 問世至今超過三年，隨著相關效益逐漸展現，也已成為企業提升競爭力的重要工具。早期企業對大型語言模型的關注，多半集中在模型能力、推論成本與應用場景，期待透過更強大的模型提升生產力與創新效率。然而，當 AI 應用逐步從實驗室走向企業核心流程，並深入客服、知識管理、軟體開發、金融審查與營運決策等關鍵領域時，企業開始發現，AI 的價值並非僅取決於模型本身的能力，而是能否在真實商業環境中持續、穩定且可信地運作。
許多企業在實際導入過程中常面臨資料品質不佳、流程不一致、員工抗拒、幻覺風險（即模型產生錯誤或不實資訊）、治理缺口以及資訊安全隱憂等問題。因此，企業逐漸意識到，AI 專案的成功與否，並非取決於模型參數的規模，而是是否具備完善的資料治理機制、流程設計、風險控管以及持續優化能力，進而建立起一個能確保 AI 安全、可靠且符合商業目標的運作體系。
在此背景下，企業開始關注如何將 AI 應用得更具可信賴性。這包括如何有效管理模型輸出品質、降低幻覺風險、確保資料安全以及符合法規要求，並建立可持續運作的 AI 治理機制，這些已成為新一波企業導入 AI 的核心課題。
因此，Harness Engineering 與 Forward Deployed Engineer（FDE）等新興概念逐漸受到產業高度關注。Harness Engineering 代表了一套用於控制、約束、驗證和治理 AI 的工程方法論；而 FDE 則象徵能夠深入商業現場、理解業務流程及資料脈絡，並協助企業將 AI 真正落地的新型人才角色。
兩大技術興起 重新定義轉型方向
在 CIO Taiwan 舉辦的「企業AI落地的產業閉門交流會」中，來自金融、製造、顧問及 AI 技術領域的架構師與專家一致認為，企業的 AI 發展正邁向新的階段。Harness Engineering 及 FDE 等新興概念，正在重新定義企業 AI 轉型的道路。
此次閉門研討會共同推動的寓意科技執行長施政源指出，當企業開始將 AI 導入實際業務流程後，許多組織發現最大的挑戰並非技術的部署，而是如何讓不同角色對於 AI 的理解達成共識。管理階層期望透過 AI 提升效率與競爭力，但第一線員工則更關注其工作內容是否會改變、績效評估應如何調整，以及自身價值是否受到衝擊。當組織內部對 AI 抱持不同期望時，這也使得許多轉型專案面臨推動上的困難。
甫加入 OpenAI 的某 AI 架構師指出，企業推動 AI 轉型遇到的最大障礙，並非 AI 模型本身，而是人才問題。不少企業高層在見識到生成式 AI 的能力後，往往期望它能快速帶來效益，甚至有將其視為降低人力成本手段的傾向。
然而，員工卻可能認為 AI 代表著工作內容的調整、流程的重組，甚至面臨被取代的風險。這種認知上的差異經常成為 AI 專案推動過程中的最大挑戰，因為當員工開始擔憂工作可能被取代，或覺得新工具增加了額外的負擔時，這些專案便容易陷入停滯不前的局面。
AI 落地最大阻力 非技術而是人才
生成式 AI 的快速發展，讓許多企業誤以為只要導入大型模型，就能立即創造價值。然而，現實上，AI 輸出的品質高度仰賴資料品質。尤其在製造業環境中，這個問題更加顯著。相較於金融業，多數製造業並非缺乏數據，而是數據分散於 Excel、紙本文件、MES 系統、ERP 系統及各種工作流程之中。大量的隱性知識仍掌握在資深員工的腦中，並未被結構化保存。因此，企業面臨的首要挑戰並非模型選擇，而是將資料轉化為適合AI使用的數據。
某位在製鞋產業有資訊管理經驗的架構師表示，對於大型企業而言，可以透過內部團隊逐步建立數據平台與治理架構；但對於中型製造業而言，往往缺乏足夠的人力與資源。這使得許多企業開始尋求外部顧問及 AI 服務商的協助，希望加速 AI 的應用落地。然而，當企業需將核心數據交給外部團隊時，新的信任問題也隨之產生。在享受 AI 帶來效率紅利的同時，一種新的風險正悄然浮現——影子 AI。
當 AI 成為企業內鬼 Shadow AI 風險浮現
過去企業最擔憂的是「影子 IT」，也就是員工未經授權自行使用軟體或雲端服務，導致資安與管理漏洞。如今，類似問題正以更快速度在 AI 領域重演。許多員工為了提升工作效率，自行使用 ChatGPT、Claude 或其他生成式 AI 工具處理文件、分析資料，甚至建立個人化知識庫與 AI 助手。這些行為往往未經企業授權，也缺乏明確的治理機制，讓企業面臨前所未有的資料外洩與知識管理風險。
最具代表性的案例之一是，有員工在建置企業 RAG（Retrieval-Augmented Generation）系統時，誤將包含全公司薪資資料的資料夾匯入向量資料庫。結果其他員工只需透過自然語言詢問 AI，便可能取得高階主管薪資資訊。這類事件凸顯出，當 AI 具備理解、整合與推理能力後，資料風險已不只是單純的存取權限問題，而是知識擴散與推理能力所帶來的新挑戰。
某位金融集團擔任 AI 應用落地的架構師指出，在 AI 時代，傳統 DLP（Data Loss Prevention）架構已逐漸顯得不足。過去企業關注的是誰可以讀取資料、誰可以下載資料，以及資料是否被複製或外傳；然而在生成式 AI 環境中，企業更需要思考的是：誰有權限使用資料訓練模型？哪些資料可以進入向量資料庫？哪些知識能夠成為企業 Agent 的記憶來源？當資料被轉化為模型能力與組織知識時，治理範圍也必須從資料治理進一步擴展至模型治理與知識治理。
從模型治理轉型 知識治理受重視
如果將大型語言模型（LLM）視為 AI 的大腦，那麼 Harness Engineering 就是負責控制及管理大腦運作的神經系統，亦即 AI Agent 等於模型結合 Harness。
這表示真正能創造企業價值的，不僅是模型本身，而是包圍在模型周圍的控制框架與治理機制。即使擁有再強大的模型，若缺乏適當的管理與約束，仍可能導致 AI 產生錯誤決策、資訊洩漏，甚至衍生合規風險。
此外，AI 治理不應僅限於模型層面，而應從整體數據治理架構著手。受訪者指出，從設備層、通訊層到數據整合層，每個層級都涉及不同的資料流動與管理需求，因此對 AI 的管控機制也會有所差異。唯有建立完整且分層的數據治理架構，才能確保資料品質、系統安全與 AI 應用效益，進而支撐企業未來智慧化發展。
另一位同樣在另一金融集團擔任架構師則表示，無論是資料共享機制、模型治理架構，或是 AI 風險管理與法規遵循等議題，都已超越單一 IT 部門所能決定的範圍。這也讓 AI 治理的重要性正快速提升至董事會層級。這些不僅涉及技術選擇，更直接影響企業的競爭力、品牌信任與營運風險。因此，未來 AI 治理將不再僅是資訊部門的責任，而是需要董事會、高階管理團隊與各業務單位共同參與的重要企業治理課題。
Harness Engineering 出現 為 AI 建立安全護欄
相較於消費市場追求創新與多樣化體驗，企業環境更重視穩定性、可預測性與可追溯性。一般使用者或許可以接受 AI 偶爾產生富有創意但不完全正確的答案，然而企業對於錯誤卻極為敏感：報價單出現價格錯誤、客戶簡報誤植重要資訊、或因 AI 錯誤判斷而導致營運損失，這些都是無法容忍的。
Harness Engineering 的核心精神在於透過工程化方法限制、引導並驗證 AI 系統。其角色如同馬具一般，並非讓 AI 毫無限制地運作，而是確保它能沿著正確方向前進，並在可控範圍內發揮最大效能。該架構應至少包含「限制（Constraint）」、「驗證（Validation）」、「復原（Recovery）」三項核心能力。
首先，「限制」定義了 AI 可以執行及不能執行的範圍；其次是「驗證」，確保 AI 的輸出準確且一致；第三是「復原」，即在 AI 偏離預期時，能將其導回正確流程。
這三個機制共同構成企業 AI 安全的防線，因為沒有防護的 AI，即使再強大，也難以進入企業的核心作業流程。
鞋業大廠的架構師指出，在導入 AI 的過程中，企業更應強調 PDCA（計畫、執行、檢查、行動）管理循環的重要性。其中，相較於規劃與執行階段，「檢查」更是企業不可忽視的關鍵環節。由於生成式 AI 具有迎合使用者需求的傾向，可能為了提供看似合理的答案而產生錯誤資訊或幻覺（Hallucination），因此企業必須建立持續驗證、監控與修正機制，確保 AI 輸出的準確性和可靠性，以避免錯誤決策風險擴大。
他表示，AI 往往傾向迎合使用者需求，即使某些任務實際上並未完成，也可能回覆「已完成」，此現象在企業流程中極具風險。由於企業決策仰賴的是事實，而非僅止於看似合理的答案，因此未來的 AI 系統不僅要提供答案，更需要建立驗證機制。目前已有部分企業開始導入多模型驗證架構，讓不同模型互相審查其結果；同時，組織也普遍保留人工介入確認的機制。這些做法本質上都是工程思維的延伸。
從 Prompt Engineering 走向 Workflow Engineering
生成式 AI 發展初期，企業普遍關注提示工程（Prompt Engineering）。然而，現今越來越多專家認為，未來的重點將轉向流程工程（Workflow Engineering）。關鍵在於，企業所需並非僅僅一次正確答案，而是可重複執行的工作流程，例如客服案件處理、保險理賠、授信審查或程式開發。
AI 應用的重點在於整個工作流程是否穩定可靠，而非提示本身寫得多麼精美。因此，許多工程師現在將更多時間投入到工作流設計中，而非純粹的程式碼撰寫。簡而言之，AI 正在改變軟體工程的工作內容，工程師的角色已從單純的寫程式轉變為設計 AI 的運作方式。
如果 Harness Engineering 代表新的工程能力，那麼 FDE 則代表新的組織能力。FDE 最大的特色在於深入客戶現場。不同於傳統顧問僅提供建議，以及系統整合商僅負責建置工作，FDE 必須直接參與業務流程、理解企業運作模式，甚至與客戶共同分析資料並開發系統。
現今 AI 最大挑戰往往不是技術本身，而是將隱性知識轉化為可用資訊，因為大量 Know-how 並不存在文件之中，而是深藏於資深主管與員工腦中，例如產品定價邏輯、客戶評估標準以及製造流程中的經驗判斷等。這些知識無法直接透過資料庫取得，或僅透過一次深入訪談就能掌握，這正是 FDE 存在的價值所在。
在 Claude 開發社群擔任推廣的專家表示，未來 FDE 將超越單純的技術支援角色，轉型為兼具業務洞察力與工程技術能力的跨領域人才，成為連接企業需求與技術實現的重要樞紐。長遠來看，每位工程師都應具備 FDE 的思維與能力，不僅精通技術原理，更能深入了解客戶需求，協助解決實際的營運問題，進而促進 AI 應用落地。
AI 時代的 CIO 從 IT 主管走向變革推動者
相較於傳統認知，未來傑出的 FDE 不一定具備工程師背景，反而可能來自 SA（系統分析師）、PM（專案經理），甚至人文或商管領域的人才。這是因為，FDE 最核心的能力並非程式開發，而是理解問題、拆解需求，並將商業目標轉化為 AI 可執行的流程與應用。
因此，一位成功的 FDE 必須同時具備商業思維、資料分析能力、對 AI 技術的理解、跨部門溝通能力，以及變革管理能力。更重要的是，他們能夠協調不同部門的合作，推動組織完成數位轉型。在某種程度上，FDE 更像是 AI 時代的企業架構師（Enterprise Architect），扮演著連結技術與業務之間不可或缺的橋樑角色。
隨著 FDE 逐漸成為企業推動 AI 落地的重要角色，也反映出 AI 時代的人才需求正在發生改變。企業所面臨的挑戰，已不再只是導入新技術，而是如何讓技術與業務目標有效結合。這也使得組織對資訊領導者的期待出現轉變，從過去偏重技術管理，逐漸走向兼具商業策略與變革推動能力的角色定位。
隨著 AI 浪潮席捲而來，CIO 的角色定位也隨之轉變。過去，CIO 主要負責 IT 基礎架構的維運、資訊安全管理以及成本控制；然而，當 AI 逐漸融入企業核心流程與決策機制後，CIO 開始承擔更多創新驅動和業務成長的責任。
與會者咸認為，未來 CIO 與 CTO 之間的界線將日益模糊，企業不再僅僅需要一位能維持系統穩定運作的資訊主管，更需要一位能理解商業策略、掌握 AI 治理框架並推動組織變革的數位領導者。
讓 AI 值得信任 決定企業競爭力
回顧企業數位轉型的發展歷程，每個階段都有其關鍵課題。在ERP（企業資源規劃）盛行時期，企業的重點在於流程標準化與營運效率；雲端時代則強調敏捷性與彈性，期望能快速應對市場變化。然而，當生成式 AI 逐漸融入企業核心業務流程，甚至參與決策制定後，企業所面臨的挑戰已超越技術導入本身，轉向如何建立對 AI 的信任。
事實上，現今企業並非缺乏 AI 模型或各式生成式 AI 工具，真正困難的是如何確保 AI 產出的結果具備可靠性、可驗證性與可控性，並能符合企業治理與風險管理要求。換句話說，企業所需要的不僅是 AI 能力，更是一套能讓 AI 值得信賴的方法論與管理機制。
施政源表示，Harness Engineering 與 FDE 正成為企業推動 AI 落地的重要關鍵。Harness Engineering 透過系統化的控制、驗證與治理框架，協助企業建立 AI 開發與運作的規範，確保模型輸出品質與執行過程可被追蹤與管理；而 FDE 則扮演連結業務需求與技術實作的橋梁，負責理解問題本質、整合跨部門需求，並將 AI 能力真正轉化為可落地的應用成果。
兩者相輔相成，共同構成企業大規模部署 AI 的重要基礎。一方面透過治理機制建立信任，另一方面透過跨域人才推動落地，讓 AI 不再只是實驗室中的技術展示，而能成為支撐企業營運與創新的核心能力。
展望未來，企業競爭的焦點或許不再是誰擁有最先進、參數最多的模型，而是誰能建立最完善的治理架構、最成熟的工作流程，以及最值得信賴的 AI 系統。當 AI 逐步進入企業決策核心，治理能力的重要性將超越單純的模型能力，成為下一階段數位競爭力的關鍵分水嶺。而 Harness Engineering 與 FDE，也將是企業邁向 AI 規模化應用與可信任治理時代，最值得關注的兩個新關鍵字。
文授權非營利轉載，請註明出處：CIO Taiwan)
