• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 專欄

Harness Engineering 奠定 AI 基礎設施

2026-06-02
分類 : 專欄
0
A A
0
Harness Engineering 奠定 AI 基礎設施

你的 AI 預算,有多少花在真正讓 AI 能運作的地方?模型之外,還有一層決定成敗的協調架構——管理記憶、工具、錯誤復原與跨階段狀態——多數企業從未認真投資它,卻期待 AI 交出企業級的成果。

文/洪為璽


洪為璽 200x300
◤ 洪為璽博士,現為國立政治大學資訊管理學系教授兼CINTES研究中心主任,專長為資訊策略管理、資訊安全管理與大型資訊系統導入與應用。

科技圈過去這幾年的注意力幾乎集中在哪一個 AI 模型更強大,因此無數企業投入鉅資訂閱最強的基礎模型,彷彿商業問題便能迎刃而解。然而,今年二月 OpenAI 的工程團隊發布了一篇驚人的報告:AI Agent 建構了一套超過一百萬行程式碼的應用系統,其中沒有任何人類工程師手寫的程式碼。不過若仔細閱讀報告後便會發現,工程師們是在設計一套讓模型能夠可靠運作的外部系統,業界稱這套系統為 Harness Engineering。

這個案例傳遞了一個訊息:決定 AI Agent 成敗的不是模型本身,而是包圍模型的基礎設施。對每一個正在布局 AI 戰略的企業而言,這轉變將直接影響未來在技術投資上的方向。

內容目錄 隱藏
什麼是 Harness Engineering?
Harness Engineering 的三大核心能力
1. 情境工程
2. 工具與權限管理
3. 驗證與可觀測性
AI 投資重點從模型轉向基礎設施
企業如何開始布局 Harness Engineering?
建立 Harness Engineering 原型
自建整合層
建立 AGENTS.md 規範
結語

什麼是 Harness Engineering?

在了解 Harness Engineering 之前,必須先釐清一個誤解:AI 模型其實不等同於 AI 系統。一個大型語言模型(Large Language Model,LLM),是一台文字預測機器,擅長在對話中生成連貫、有邏輯的輸出。若希望此模型在企業環境中能實際執行任務,比如分析財務報表、處理客服流程或監控 IT 基礎設施,單憑模型本身往往是不夠的。

Parallel AI(2025)提出了對 Harness Engineering 的清楚定義:Harness Engineering 是包裹在大型語言模型(LLM)外側的軟體,處理模型以外的所有事務,包含工具執行、記憶儲存、狀態持久化,以及跨多個工作階段的錯誤復原。

[ 推薦文章:黃仁勳演講,有哪些 Agentic AI 架構認知你需要更新? ]

Anthropic(2025)於 11 月所發表的《Effective Harnesses for Long-Running Agents》中,描述一個開發專案由輪班工程師所組成,新上班的工程師對前一班的事務毫無所知。

大型語言模型(LLM)的上下文窗口(context window)就是此困境的寫照,面對新的工作階段,模型就需重新開始,無法銜接之前的進度。這正是 Harness Engineering 工程需要解決的核心挑戰。

此外,Augment Code(2026)的技術文件針對 Harness Engineering 有一個補充:Harness Engineering 工程的本質是將組織期望從「語言建議」轉化成「系統約束」。

Harness Engineering 的三大核心能力

Harness Engineering 需具備哪些能力呢?根據 NxCode、Anthropic、Vercel 以及 LangChain 等機構的技術文件,歸納成以下三大核心能力:

1. 情境工程

情境工程是確保 AI Agent 在推理步驟中獲得正確的資訊,並以正確的形式呈現,OpenAI 將其列為 Harness Engineering 工程的三大核心之一。NxCode(2026)指出 OpenAI 工程師在專案中的主要工作在於設計情境傳遞系統—說明意圖並提供回饋。此外,Anthropic(2025)的研究揭示了情境管理失敗的模式,當 AI Agent 被要求建立完整的 Web 應用時,若只給一個指令,AI Agent 通常試圖一次性地完成整個專案,最終在上下文窗口耗盡之前宣告完工。

因此,解決方案是在第一個工作階段中,撰寫一份具體功能需求的文件,讓後續的程式碼代理有清晰的地圖,每項功能完成即更新狀態,累積可量化的進度。

2. 工具與權限管理

AI Agent 需連接企業的資料庫、API、程式碼庫等相關系統,但每次連接都帶來潛在的風險。Vercel(2025)提供了 AI Agent 反直覺的成功案例,其軟體主管表示他們移除了 AI Agent 工具箱中 80% 的工具,結果表現反而提升。由此案例顯示,其實更少的工具意味著更少的推理步驟、Token 消耗,讓任務成功率更高。因此工具管理的原則不是給越多越好,而是在對的時候給對的工具。

另外,Replit(2026)指出 Replit Agent 在生成程式碼之後,須等待人類確認才能部署,這是人在回路中(Human-in-the-Loop)的設計,確保高風險操作不會在沒有人類監控的情況下自行執行。

Claude Code Doc 的 Harness Engineering 則精確控制模型能夠執行的檔案及系統操作範圍,確保代理不會接觸到系統核心的文件。

3. 驗證與可觀測性

LangChain(2026)於《Terminal Bench 2.0》的案例中帶來效能上的改變是引入自我驗證迴路(Self-Verification Loop)。工程師發現,代理常見的失敗模式是撰寫解決方案、回顧程式碼,然後宣告完成但沒有實際執行測試。若在 Harness Engineering 的系統中明確指示代理:「你的工作將被程式化測試驗證」,並在工作流中加入強制測試的執行步驟,代理成功率才會明顯出現提升。

此外,可觀測性是驗證能力的前提。LangChain 在 Harness Engineering 的改善中依賴 LangSmith 追蹤系統,記錄代理的每次行動並分析失敗模式的分佈,再透過迭代優化針對高頻率的失敗點進行後續修復。

AI 投資重點從模型轉向基礎設施

如今,一個產業趨勢正在成形:AI 組織正在將投資重心從模型層轉向基礎設施層。

根據 BCC Research 於 2026 年所發布的《人工智慧技術產業報告》,全球 AI 創投資金於 2024 年達到約 2,970 億美元。然而,其中最值得關注的並非規模本身,而是投資方向的結構性轉變:從「購買更聰明的模型」到「建立可靠運作的基礎設施」。

除此之外,Anthropic 於今年度趨勢報告中也點明了這一轉變,基礎設施配置是最佳化變數,Harness Engineering 設定能在基準測試上產生 5% 以上的差異。且該報告中描述引入代理工程平台(Agentic Engineering Platform),正式定義了介於代理框架與生產部署基礎設施之間的中間層。

[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 LinkedIn,與全球CIO同步獲取精華見解 ]

其實這場投資重心的轉移,在市場上已有跡可循。Baseten 於今年一月以「AI 推理基礎設施(AI 推理的 AWS)」,鞏固市場的龍頭地位。其合作由 IVP 和 Google 旗下的 CapitalG 領投,並吸引 NVIDIA、Greylock 等頂尖機構大舉跟投,完成 3 億美元,估值達 50 億美元的 E 輪融資。這顯示資本在 AI 商業化的下一個階段,勝負的關鍵在於部屬基礎設施層。

企業如何開始布局 Harness Engineering?

面對這波 Harness Engineering 趨勢,企業最實際的問題是該從哪裡開始?

根據 Anthropic (2026)AI Agents 現況報告指出 57% 的組織已在部署多步驟代理工作流,81% 計畫在 2026 年擴展至更複雜的代理應用場景。46% 的受訪者列為首要的挑戰的是「與現有系統整合」,此顯示技術難題的核心不在模型選擇,而在整合架構。以下提供三個在實際部署中的布局策略:

建立 Harness Engineering 原型

成功的導入,需選定具有高度重複性、流程邊界清晰、且失敗成本可控的工作流,例如財務報表對帳或 IT 服務台工單分類。在這個場景中,企業能在有限的風險下,完整走過 Harness Engineering 所設計的核心決策:定義代理的工具邊界、設計情境傳遞機制,以及建立驗證迴路。

自建整合層

成熟企業的 AI 策略須具備受管理的執行環境、基本遙測系統、雲端或開源框架所提供的控制平面,同時也須自建有差異化的整合層領域特定工具、客製化評估資料集,以及自有系統的環境地圖。

在平台層,目前生態系有一些明確的選擇,比如:

  • LangChain 推出的 LangGraph 提供多步驟代理工作流有狀態協調(Stateful Orchestration)。
  • CrewAI 推出的 Flows 提供多代理協作的架構(事件驅動 Event-driven)。
  • Anthropic 推出的 Claude Agent SDK 具備內建權限模型及跨工作階段(Cross-session)上下文橋接的能力。
  • Google 的 ADK(Agent Development Kit)於今年擴展了 Hugging Face、GitHub 與 Notion 的生態系整合。
  • 微軟的 AGT (Agent Governance Toolkit)則提供了七個核心套件的運行期安全監管工具,能鉤入主流框架的擴展點,適合金融、醫療等受監管行業的企業快速落地。

建立 AGENTS.md 規範

建立可靠及有效的 AI 代理路徑是需部屬至基礎設施層。AGENTS.md 是一個開源開放格式(Open Format),能讓工程師在程式碼庫中的規則寫入「版本控制文件」,由 Harness Engineering 在代理啟動時自動注入,包含程式碼風格要求、禁止操作清單、測試覆蓋率門檻及人類審核的操作類型。

結語

對正在制定 AI 轉型策略的企業,未來有三個核心項目值得內化。

第一,將基礎設施從「計算層」延伸到「代理協調層」。通常在購買 GPU、選擇雲端供應商、確保 API 存取雖然是必要條件,但不是充分條件。真正決定投資回報的是包裹在模型外側、負責管理上下文、工具、驗證與治理的「Harness Engineering 架構」,這層架構的品質遠比模型本身更直接地決定 AI 系統在企業環境中的可靠性。

第二,將治理建立在擴展之前。在尚未建立適當 Harness Engineering 治理框架的情況下擴展代理自主性,最終付出的代價遠遠高於一開始就建立治理基礎設施。Agent Governance Toolkit 以及 AGENTS.md 規範不是減緩創新速度的障礙,而是讓創新能夠安全地規模化的加速器。

第三,將環境工程納入數位轉型的核心。如果企業內部的 API、資料系統與業務流程對 AI 代理是難以導航的叢林,Harness Engineering 也只能發揮部分效用。真正的 AI 轉型需要企業將系統重新設計成為對自主代理可讀的環境,這是比選擇模型、購買 SaaS 工具更深層的組織轉型工程,也是決定未來競爭性的長期投資。

正如 OpenAI 在策略宣言中所描述的,AI 轉型的核心點是須建立「從基礎設施、模型到員工日常工作介面的堆疊」。那些理解「人類駕馭,AI 執行」的分工模式,並建立適當基礎設施的企業,將在 AI 競爭中擁有難以複製的結構性優勢。

Harness Engineering 不只是一個技術概念,而是企業 AI 的作業系統,也是在這個時代最重要的戰略之一。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

Image 271

標籤: 人工智慧
上一篇文章

機器人秘書幫你訂機票?拆解黃仁勳演講中的 AI 代理人的「四大零件」

下一篇文章

全方位AI超進化!華碩 COMPUTEX 2026 開啟企業至邊緣 AI 轉型新時代

相關文章

從帳戶到錢包:企業加密貨幣治理的新內控挑戰
專欄

從帳戶到錢包:企業加密貨幣治理的新內控挑戰

2026-07-15
主權 AI 議題升溫!美國總統令:AI Cybersecurity 躍升國安議題
CISO精選

主權 AI 議題升溫!美國總統令:AI Cybersecurity 躍升國安議題

2026-07-07
AI 時代的新課題:企業如何建立 Token 治理?
專欄

AI 時代的新課題:企業如何建立 Token 治理?

2026-07-06
下一篇文章
華碩深化「Ubiquitous AI. Incredible Possibilities」策略,推出全方位端到端 AI 生態系。

全方位AI超進化!華碩 COMPUTEX 2026 開啟企業至邊緣 AI 轉型新時代

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • AI 自主代理闖天下 企業如何治理
  • 晶片大戰新風向!為什麼科技巨頭都在研發自己的「AI 大腦」?
  • 政府資安戰略升級 聚焦主動防禦、後量子布局與公私聯防
  • 安提國際擴展NVIDIA Jetson Thor 動能!布局全新 NVIDIA Jetson T3000 與 T2000 邊緣運算模組
  • Progress Software 推出支援 NVIDIA DGX Spark 的 Progress Chef Enterprise Management,為「全球最小 AI 超級電腦」提供企業級管理能力

📈 CIO點閱文章週排行

  • 【專訪】達運光電營運長戴家欣:推動策略三箭,勾勒未來願景

    【專訪】達運光電營運長戴家欣:推動策略三箭,勾勒未來願景

    0 分享
    分享 0 Tweet 0
  • AI 數位轉型找華碩!ASUS EXPERTHUB 共好生態圈上線

    0 分享
    分享 0 Tweet 0
  • 未治理 AI 將付出代價

    0 分享
    分享 0 Tweet 0
  • 前沿 AI 壓縮漏洞利用時窗 金管會提金融業七大資安韌性策略

    0 分享
    分享 0 Tweet 0
  • 【重點包】虛擬資產服務法三讀 穩定幣納管、VASP 全面監理

    0 分享
    分享 0 Tweet 0
  • FDE 前線部署工程師,讓 AI 真正落地的角色

    0 分享
    分享 0 Tweet 0
  • 歐美 AI 法規陸續底定,導入 ISO 42001 將事半功倍

    0 分享
    分享 0 Tweet 0
  • AI 推論後勢看漲,超大規模雲端業者點燃全球 ASIC 新戰火

    0 分享
    分享 0 Tweet 0
  • 尋求創新與隱私的平衡點 盤點歐美 AI 法規現況

    0 分享
    分享 0 Tweet 0
  • AI 時代的新課題:企業如何建立 Token 治理?

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

從微支付到跨境結算,大廠布局 AI Agent 經濟基建

文/許加政(資策會數轉院資深研究員) AI 的快速發展與應用,其角色已從「回答問

前沿 AI 壓縮漏洞利用時窗 金管會提金融業七大資安韌性策略

整理/鄭宜芬 前沿 AI 模型正大幅縮短漏洞從揭露到攻擊利用的時間。金管會 14

擔心AI取代自己?不如就讓AI取代現在的自己

文/王義智(資策會 MIC 產業服務中心主任) 我最近動手寫了一些程式,利用 A

Owennini1200

魏董事長說三星做夢 韓國人還關心台灣什麼事?

文/林宏文 近來韓國朋友對台灣電子業相當關注,除了 Computex 熱鬧開展,

全球 7 萬台 Fortinet 疑憑證外洩 資安署籲進行三大緊急防禦

整理/鄭宜芬 數位發展部資通安全署19日示警,威脅情報平台 InfoSteale

AI 推論後勢看漲,超大規模雲端業者點燃全球 ASIC 新戰火

儘管當前 GPU 仍在 AI 訓練上扮演關鍵角色,但隨著 AI 模型的日漸成熟,

未治理 AI 將付出代價

企業 AI 治理現況、缺口與行動路徑 台灣《人工智慧基本法》上路,但全球沒有進行

自主晶圓廠時代 AI 重塑未來製造營運模式

SEMICON Taiwan 2026 揭十五大產業議題 AI 加速半導體製造轉

【編輯室札記】To AI or not to AI?!

總主筆/施鑫澤 身為企業 CIO,面對千年難遇的科技浪潮「AI」,真是既興奮又恐

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音