• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CSO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

NVIDIA 重拳連發:推出 A100 80GB GPU,以全球最強 GPU 加持 AI 運算

2020-11-20
分類 : 新聞速寫, 未分類
0
A A
0

NVIDIA 推出支援 NVIDIA HGX AI 超級運算平台的 NVIDIA A100 80GB GPU,其記憶體容量較前一代多出一倍,為研究人員與工程師帶來前所未有的速度與效能,解鎖新一波 AI 與科學研究突破的潛能。

全新 A100 搭載 HBM2e 技術,將 A100 40GB GPU 的高頻寬記憶體容量加倍至 80GB,並提供每秒超過 2 terabytes (TB) 的記憶體頻寬。如此充裕的頻寬讓資料能快速匯入全球最快的資料中心 GPU A100,讓研究人員能進一步推升其應用的速度,以處理更龐大的模型與資料集。

NVIDIA 深度學習應用研究部門副總裁 Bryan Catanzaro 表示:「若想獲得高效能運算 (HPC) 與人工智慧 (AI) 最頂尖的研究成果,就必須建立極龐大的模型,而這也代表將會需要比過去更多的記憶體容量和傳輸頻寬。A100 80GB GPU 提供比六個月前推出的前一代 GPU 多一倍的記憶體容量,還突破每秒 2TB 的頻寬瓶頸,讓研究人員能克服全球最重要的科學與大數據研究難題。」

包括Atos、戴爾科技 (Dell Technologies)、富士通 (Fujitsu)、技嘉 (GIGABYTE)、慧與科技 (Hewlett Packard Enterprise)、浪潮 (Inspur)、聯想 (Lenovo)、廣達 (Quanta) 和美超微 (Supermicro) 等頂尖系統大廠,預計於 2021 上半年開始提供整合四個或八個 A100 80GB GPU 基板的 HGX A100 。

緩解資料密集的作業負載

建立於具備多元功能的 A100 40GB,此次推出的 80GB 版本能因應龐大資料記憶體的需求,適用於更大範圍的應用。

在 AI 訓練方面,例如 DLRM 這類含有大量表格以記載數十億名用戶及數十億項產品的推薦系統模型,由於 A100 80GB 能提供 3 倍的加速效果,因此企業能快速重新訓練這些模型,以提供高精準度的建議。

此外,A100 80GB 還能訓練最龐大的模型,透過套用更多參數,導入到配備單一 HGX 的伺服器,例如GPT-2 ── 一個運用自然語言處理模型來執行超越人類的文字生成功能。如此一來就不再需要耗費大量時間建置資料或模型平行處理架構,而且這類技術在跨多個節點運行時速度過慢。

憑藉本身具備的多執行個體GPU (MIG) 技術,A100 可切分成7個GPU執行個體,而單一個體配有 10GB 的記憶體,構成安全無虞的硬體分隔區,並能為各種規模較小的作業負載提供最高的 GPU 資源使用率。對於像 RNN-T 這類自動語音辨識模型的 AI 推論,光靠一個 A100 80GB MIG 執行個體就能處理更大的批量,在生成環境中的推論吞吐量提高 1.25 倍。

在 TB 規模的零售業大數據分析基準方面,A100 80GB 能產生最高 2 倍的效能,故能針對龐大的資料集快速獲得洞察,而企業則能透過這些隨時更新的資料即時做出關鍵決策。

在諸如氣象預報及量子化學等科學應用方面,A100 80GB 能提供強大的加速效果。例如像 Quantum Espresso 這款材料模擬軟體,在單節點 A100 80GB 系統運行可達到接近 2 倍的資料產出量提升。

日本理化學研究所計算科學研究中心 (RIKEN Center for Computational Science) 主任松岡聰 (Satoshi Matsuoka) 表示:「加速且充裕的記憶體頻寬與容量,是實現高效能超級運算應用的關鍵條件。NVIDIA A100 結合 80GB 的 HBM2e GPU 記憶體,以每秒2 TB帶來全球最快的傳輸頻寬,將為應用挹注大幅提升的效能表現。」

A100 80GB 融入了許多 NVIDIA Ampere 架構的突破性功能,包含:

  • 第3代Tensor Cores:採用新格式 TF32,提供前一代 Volta 20倍的 AI 吞吐量、2.5 倍 FP64高效能運算資料處理速度、20倍INT8 AI 推論速度,並支援 BF16 資料格式。
  • 更大、更快的HBM2e GPU記憶體:加倍的記憶體容量,和開創業界先河每秒超過 2TB 的記憶體頻寬。
  • MIG 技術:每個執行個體配置加倍的記憶體,提供最多 7個 MIG 各 10GB 的記憶體容量。
  • 結構化稀疏 (Structural Sparsity) :提供至多 2 倍加速的推論稀疏模型。
  • 第 3 代 NVLink 與 NVSwitch:GPU 與 GPU 之間的頻寬是前一代互連技術的 2 倍,讓 GPU 在執行資料密集作業負載時的傳輸速度加快到每秒600 gigabyte。

NVIDIA HGX AI 超級運算平台

A100 80GB GPU 是 NVIDIA HGX AI 超級運算平台的關鍵元素,匯集了 NVIDIA GPU、NVIDIA NVLink、NVIDIA InfiniBand 網路技術的力量,加上完全優化的 NVIDIA AI 與 HPC 軟體堆疊,發揮最高的應用效能。它讓研究人員與科學家能結合 HPC、資料分析及深度學習運算方法,推動科學研究的進展。

標籤: AINVIDIA超級運算超級電腦
上一篇文章

技嘉科技推出三款支援高密度加速卡的高效能運算伺服器

下一篇文章

Pure Storage新任台灣區總經理呂晏緹上任

相關文章

華碩於首屆「AI Tech高峰會」發表全方位主權AI解決方案及專業服務,再次展現於AI驅動數位轉型的全球領導者地位。
新聞速寫

引領全球數位轉型 華碩首屆AI Tech高峰會杜拜登場!

2025-09-18
TeamViewer
新聞速寫

從IT效率到商業價值:TeamViewer One如何以DEX與AI打造數位競爭力

2025-09-18
Synology 台灣事業處總經理李乾瑋,以企業如何在複雜 IT 環境中保持競爭力開場
新聞速寫

Synology Solution Day 2025 精彩落幕,600 位企業 IT 共同探討資料管理解方

2025-09-18
下一篇文章

Pure Storage新任台灣區總經理呂晏緹上任

發佈留言 取消回覆

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

追蹤我們的 Facebook

近期文章

  • 引領全球數位轉型 華碩首屆AI Tech高峰會杜拜登場!
  • 從IT效率到商業價值:TeamViewer One如何以DEX與AI打造數位競爭力
  • Synology Solution Day 2025 精彩落幕,600 位企業 IT 共同探討資料管理解方
  • Neverfail顛覆傳統高可用性 確保業務連續性
  • 漸強實驗室發布「AI-First Communication Cloud」戰略藍圖

📈 CIO點閱文章週排行

  • 透過 ISO 42001 規範進行 AI 與 Data 治理

    透過 ISO 42001 規範進行 AI 與 Data 治理

    0 分享
    分享 0 Tweet 0
  • 十大必知安全發展趨勢

    0 分享
    分享 0 Tweet 0
  • 全球最佳智慧醫院 臺灣 13 家上榜、登亞洲第二

    0 分享
    分享 0 Tweet 0
  • 務必設防之 9 大主流安全威脅

    0 分享
    分享 0 Tweet 0
  • 組織轉型 驅動企業 AI 規模化

    0 分享
    分享 0 Tweet 0
  • 擔心採用雲端 LLM 翻船,地端 LLM 建置成希望

    0 分享
    分享 0 Tweet 0
  • 【金融業】永豐金獲資安獎肯定,如映科技 CyberEyes 助攻

    0 分享
    分享 0 Tweet 0
  • HPE 全面擴大在台投資

    0 分享
    分享 0 Tweet 0
  • AI 助教在高等教育的功能與潛力

    0 分享
    分享 0 Tweet 0
  • 【專訪】信驊科技營運長謝承儒

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 最新文章
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

12006300908

AMT 發表台灣首份 MarTech 白皮書 提八大未來產業發展建議

文/鄭宜芬 行銷科技業工具數五年來成長 264%。亞太行銷數位轉型聯盟協會(AM

1200 31916d952b5f

隨插即用的製造業產品碳足跡系統

文/葉宏謨 2025 年 7 月 24 日,環境部長彭啓明確定 2026 年將是

I170s04 3

IT 為價值核心扮演企業轉型引擎

在現今數位浪潮下,IT 角色已從傳統後勤單位,轉變為價值創造的核心角色。企業應持

1200 Amd台灣區商用業務處資深業務副總經理林建誠

AMD 2025 AI SOLUTIONS DAY 聚焦全方位 AI 解決方案,開源生態系成戰略核心

隨著人工智慧(AI)技術以前所未有的速度加速發展,AI 運算已成為企業創新與數位

120063009162

40 家企業參與 TWCERT/CC 藍隊演練 強化資安防禦與應變

文/鄭宜芬 由國家資通安全研究院營運的臺灣電腦網路危機處理暨協調中心(TWCER

1200630

龔明鑫承諾「雨天不收傘」 金融與政策支援傳產升級轉型

文/鄭宜芬 經濟部部長龔明鑫 1 日就任,隨即馬不停蹄與七大工商團體座談,並南下

經濟部產業技術司整合工研院,攜手業者展示37項前瞻技術,展現在 Ai 晶片、先進製造與封測設備,以及化合物半導體等關鍵領域的研發能量及產業鏈實力。

矽光子與 3D 晶片模組加速 AIoT 落地 經濟部推動 CoWoS 設備在地化

文/鄭宜芬 2025 SEMICON Taiwan 國際半導體展 10 日盛大登

12006300903

【影】林宜敬三大施政重點:壯大 AI 產業、強化資安韌性與打詐

文/鄭宜芬 新任數發部長林宜敬 3 日率各單位主管亮相媒體茶敘,說明未來施政重點

I170s18

7 大容器安全一把抓!別讓容器成為駭客下一個易下手目標

VM 虛擬機器承襲了與其實體伺服器相同的資安風險,而容器(container)的

Ciotaiwan Logo 600 White

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音