• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 產業速報

黃仁勳演講,有哪些 Agentic AI 架構認知你需要更新?

2026-06-01
分類 : 產業速報
0
A A
0
黃仁勳演講,有哪些 Agentic AI 架構認知你需要更新?

從 Computex 開展前夕的 NVIDIA GTC Taipei 2026主題演講看企業 IT 的四層位移。

編撰/何信達


對企業資訊長而言,NVIDIA 執行長黃仁勳在 NVIDIA GTC Taipei 2026 主題演講的開場方式值得細讀——他沒有從產品規格切入,而是先用一組商業數據,為接下來所有技術發表確立戰略座標。

內容目錄 隱藏
一組數據,宣告時代轉折
Agent 四件組:取代傳統三層架構的新運算模型
Harness 為何是資訊長必修
Open Shell:身份、權限、行為邊界的新治理框架
四個 IT 層次正在同步位移
1.基礎設施層
2.應用系統層
3.治理層
4.端點層

一組數據,宣告時代轉折

他指向 GitHub 的 commit 統計:2023 年全球提交次數為 3 億次,2024 年 4 億次,2025 年 5 億次,而 2026 年才過幾個月,數字已近乎翻三倍。黃仁勳的換算方式直指企業決策層的語言:全球約 3,000 至 4,000 萬名職業軟體工程師,薪資總額估計達 3 兆美元,這 3 兆美元的人力過去支撐了全球約 100 兆美元產業的運轉。而今,同樣規模的人力,產出正在逼近三倍——以 3 兆美元的薪資成本,創造接近 9 兆美元的生產力,這將是資本配置邏輯的根本改變。

[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 LinkedIn,與全球CIO同步獲取精華見解 ]

他也直接回應了「AI 搶走工作」的論點,以他的原話:「complete nonsense(完全是無稽之談)。」邏輯是:當一名工程師能產出三倍成果,企業反而更有動機增聘,而非裁員。這個觀點對正在評估 AI 投資與人力規劃的資訊長而言,具有直接的組織管理意涵。

這組數據是整場演講的核心前提:有用的 AI(useful AI)已經到來,AI 現在是利潤引擎,也是 GDP 引擎。而驅動這一切的,不只是大型語言模型本身,而是一種全新的運算模式——Agent(代理程式)。黃仁勳明確宣告:「今天我們要談的幾乎所有事情,都會以這個為基礎。」對資訊長而言,這意味著理解 Agent 架構,已不再是選修,而是必修。

Agent 四件組:取代傳統三層架構的新運算模型

黃仁勳在演講中花了相當篇幅拆解 Agent 的內部結構,這是在告訴每一位企業決策者:你即將採購、部署、或被要求支援的系統,運作邏輯已經從根本上改變。

過去的運算模型是:1.應用程式、2.程式碼、3.作業系統三層結構。今天這個結構被 Agent 取代。

黃仁勳在演講中明確拆解 Agent 的四個組成:1.模型(Model)、2.控制橋接器(Harness)、3.工具與技能(Tools & Skills)、以及 4.執行環境(Runtime)。

他用一個具體比喻說明:模型是大腦,Harness 是身體,工具是它使用的器械,Runtime 則是它工作的場所——「就像一個工人,帶著工具,在工作坊裡運作。」

這個四件組架構有一個關鍵特性:它是分散式與異質性(disaggregated and heterogeneous)的運算模型。Agent 運行時,推論思考發生在 GPU 叢集,工具調用發生在 CPU,記憶體存取發生在儲存系統,安全管控發生在 DPU。這意味著企業的 IT 基礎設施,從網路、儲存、運算到安全,每一層都將因 Agent 的工作負載特性而面臨重新設計的壓力。

Harness 為何是資訊長必修

在四件組中,Harness 是資訊長最需要深入理解的概念,也是最容易被產品行銷語言帶過的環節。Harness 負責協調整個 Agent 的運作:處理上下文(context)、管理記憶體、決定何時呼叫哪個工具、以及確保整個流程在安全政策框架內執行。黃仁勳明確指出,Harness 的安全機制運行在 CPU 與名為 DPU(Data Processing Unit)的安全處理器上,確保模型的身份、權限與隱私均受到保護。

[ 推薦閱讀:Harness Engineering 奠定 AI 基礎設施 ]

記憶體管理是 Harness 另一個關鍵職責。Agent 的短期記憶稱為 KV Cache(鍵值快取),長期記憶的管理則涉及結構化與非結構化資料的檢索、資料本體論(ontology)的建立。黃仁勳的原話是:「AI 的記憶體系統,將會讓儲存系統面臨一場徹底的革命。」對負責企業資料架構的資訊長而言,Agent 的導入,將連帶重塑儲存與資料治理的整體設計。

Harness 並非綁定單一 AI 模型的封閉系統,而是一個可容納不同模型、統一治理的企業級執行層。Open Shell 已明確宣布開源,支援如 Cloud Code、Codex 等外部 Agent 在其中安全運行,而 Hermes 亦為另一 Harness 實例。資訊長選擇 Harness,本質上是在選擇企業 AI 的治理框架,而非只是選擇一套軟體工具。

Open Shell:身份、權限、行為邊界的新治理框架

Agent 能做什麼,資訊長或許已有概念;但 Agent 在企業環境中如何被管控,才是真正決定導入成敗的關鍵。在介紹企業 AI 工具包時,NVIDIA Open Shell 定位為企業內部運行 Agent 的核心 Harness,並搭配針對 NVIDIA 平台最佳化的 Runtime 執行環境——負責安全政策的管控、權限與身份的保護,並可跨雲端、地端與裝置端部署。

Open Shell 的功能是為 Agent 建立一個受控的執行沙盒(sandbox)。黃仁勳的說明是:「這個 shell 保護 Agent,讓它在安全政策的框架內運作。隱私受到保護,權限被明確賦予,身份受到驗證。」換言之,Open Shell 處理的,是模型在組織內部的身份、權限與行為邊界——這三件事,恰好是資訊長在任何系統導入前都必須回答的問題。

[ 推薦閱讀:運算即營收 黃仁勳:Agentic AI 將重構企業運算架構 ]

Open Shell 是開源專案,已獲得 Red Hat、Canonical、Microsoft 公開支持,並可跨雲端、地端(on-premises)及裝置端部署。同一套治理框架,不因基礎設施的差異而產生管控破口,這對混合架構已成常態的企業 IT 環境具有實際意義。

演講展示的建築設計 Agent demo 揭示了一個重要的架構模式。demo 中,Agent 在本地端的 RTX Spark 上運行——Open Shell 沙盒在這裡負責管控 Agent 的身份與權限,Hermes harness 在這裡協調工具調用與流程——而真正執行推論的大腦,則是連接至雲端的 Claude Sonnet 模型。換言之,「誰能做什麼」由本地端決定,「怎麼思考」交給雲端處理。對資訊長而言,這代表 Agent 的導入不必然是全雲或全地端的二選一,而是一個需要重新定義「邊界」的混合治理命題。治理與安全可以留在企業自己掌控的環境裡,模型運算可以彈性選用雲端資源——邊界在哪裡,由企業自己定義。

四個 IT 層次正在同步位移

綜觀這場演講,Agentic AI 帶來的衝擊,同時發生在企業 IT 的每一個層次。

1.基礎設施層

AI 工廠的建設邏輯已與傳統資料中心根本不同。黃仁勳在多次演講中反覆強調的核心指標是每瓦 token 數(tokens per watt),這個指標將運算效能直接換算為營收能力——「每一個 token 都是利潤,每一個 token 都是營收。」資訊長在評估 AI 基礎設施時,參考框架已從過去的 TCO(總持有成本)與效能規格,擴展為必須納入資產生命週期與每瓦產出的複合商業模型。

2.應用系統層

Agent 的四件組架構(模型、控制橋接器、工具/技能、執行環境)正在成為新一代企業應用的標準模式。黃仁勳描述,「每一家公司都會是 Agent 公司,每一家公司內部都會有 Agent 在運行。」這個趨勢的實際意涵是,企業現有的軟體資產必須重新評估是否能以 Agent 可調用的方式呈現,否則將在新的運算生態中逐漸失去相關性。NVIDIA 與 Cadence 合作將晶片驗證週期從數週壓縮至數小時,效率提升超過 40 倍,是這個方向最具說服力的早期例證。

3.治理層

Open Shell 的出現標誌著 Agent 安全管控正在從概念走向具體實作。身份驗證、權限管理、行為邊界——這三件事在傳統應用系統中已有成熟框架,但 Agent 的自主性與跨工具調用能力,使既有的資安治理模型面臨新的挑戰。Open Shell 獲得主要平台廠商的公開背書,顯示產業正在往標準化治理框架的方向聚合。

4.端點層

企業端點設備正從「執行應用程式的工具」轉變為「持續運行 Agent 的計算節點」。這個轉變的時間軸或許仍有爭議,但端點 AI 運算能力的快速提升,已是可觀察的現實。

黃仁勳提到:「過去六個月,電腦產業已經徹底改變。一切都變了。」這個「一切」,指的是從運算模式、應用架構、硬體設計哲學到商業評估框架的全面位移。理解這個架構,是在接下來的技術決策中保持判斷力的前提。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

Image 271
標籤: COMPUTEXGTCNVIDIA人工智慧代理式AI生成式AI
上一篇文章

Computex 開展下的兩個 AI 思考

下一篇文章

【影】運算即營收 黃仁勳:Agentic AI 將重構企業運算架構

相關文章

AI Agent 串聯攻擊流程 解析攻擊手法與新型防禦挑戰
產業速報

AI Agent 串聯攻擊流程 解析攻擊手法與新型防禦挑戰

2026-08-13
Sony 與台積電成立合資公司 以先進製程加速影像感測器量產
產業速報

Sony 與台積電成立合資公司 以先進製程加速影像感測器量產

2026-08-13
AI 晶片價值與複雜度攀升 測試角色前移成為良率與量產關鍵
產業速報

AI 晶片價值與複雜度攀升 測試角色前移成為良率與量產關鍵

2026-08-13
下一篇文章
【影】運算即營收 黃仁勳:Agentic AI 將重構企業運算架構

【影】運算即營收 黃仁勳:Agentic AI 將重構企業運算架構

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • 世界盃足球賽:一場全球規模的企業科技治理壓力測試
  • 別被行銷話術騙了!三招教你看穿「主權 AI」的真實邊界
  • 安合規律結盟 Applus+ 打造在地一站式合規支援
  • 落實 AI 治理 數位密碼推 Zentra Helix
  • AI Agent 串聯攻擊流程 解析攻擊手法與新型防禦挑戰

📈 CIO點閱文章週排行

  • ◤ 台塑網攜手以柔資訊,以「ISO 27001資安治理 × 營業秘密管理AI 智慧防護」雙引擎 架構,將企業從合規管理升級為企業競爭優勢。

    合規管理×智慧防護 台塑網雙引擎捍衛營業秘密

    0 分享
    分享 0 Tweet 0
  • 【專訪】中國信託商業銀行數位科技處處長王俊權:數據與 AI 治理體系,三層金字塔規模化

    0 分享
    分享 0 Tweet 0
  • 【專訪】台達電子資訊長暨資安長曾立峰:企業架構思維,驅動全球營運

    0 分享
    分享 0 Tweet 0
  • 【專訪】鴻海科技集團 B 事業群總經理姜志雄

    0 分享
    分享 0 Tweet 0
  • 從幣圈到內控:虛擬資產專法通過後,企業要補上的治理能力

    0 分享
    分享 0 Tweet 0
  • FDE 前線部署工程師,讓 AI 真正落地的角色

    0 分享
    分享 0 Tweet 0
  • 【金融業】金融犯罪偵測系統的十年演進 ─ HSBC 反洗錢系統的 AI 路徑

    0 分享
    分享 0 Tweet 0
  • 避開 主權 AI 行銷陷阱,從技術堆疊評估企業合規邊界

    0 分享
    分享 0 Tweet 0
  • 醫療 AI 進入規模化時代 應用創新邁向平台治理

    0 分享
    分享 0 Tweet 0
  • 直擊製造業 AI 轉型深水區!Dell Technologies、勤業眾信、BIG DATA 聯手推一站式 Agentic AI 架構,助攻企業從 PoC 邁向規模化生產

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

政府資安戰略升級 聚焦主動防禦、後量子布局與公私聯防

整理/鄭宜芬 數位發展部資通安全署今(16)日辦理「115年資訊(安)主管資安研

連資產真相都掌握不住,OT 治理多半只會停在紙面

OT 治理的第一步,不是追求完美清冊,而是掌握足以判斷處理優先順序與營運取捨的現

從 Mercedes-Benz 導入 n8n,模擬 AI 情境旅程圖如何把 AI 工作流變成企業價值

以跨客服、品質與研發的多 AI Agent 系統情境模擬,拆解從員工創意到營運成

從幣圈到內控:虛擬資產專法通過後,企業要補上的治理能力

文/蔡孟凌 立法院在 2026 年 6 月 30 日三讀通過《虛擬資產服務法》草

第二屆「產品資安漏洞獵捕活動」啟動 聚焦核心軟體供應鏈安全與 AI 攻防

整理/鄭宜芬 為強化政府採購軟體供應鏈安全,數位發展部資通安全署與國家資通安全研

當 AI 開始參與績效評估,企業該讓技術重新定義「有價值的人」嗎?

當 AI 開始參與績效評估、人才排序與裁員名單,CIO 真正需要治理的,除了模型

當 AI 開始自主行動 CISO 迎向治理新戰場

從 RSAC 看臺灣產業資安韌性布局當 AI 開始自主行動 CISO 迎向治理新

AI 推論後勢看漲,超大規模雲端業者點燃全球 ASIC 新戰火

儘管當前 GPU 仍在 AI 訓練上扮演關鍵角色,但隨著 AI 模型的日漸成熟,

Kimi K3 真有這麼厲害嗎?它如何面對美國廠商的挑戰?

文╱黃光彩 2026 年 7 月,Moonshot 發布旗艦開源模型 Kimi

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音