• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CSO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

NVIDIA 重拳連發:推出 A100 80GB GPU,以全球最強 GPU 加持 AI 運算

2020-11-20
分類 : 新聞速寫, 未分類
0
A A
0

NVIDIA 推出支援 NVIDIA HGX AI 超級運算平台的 NVIDIA A100 80GB GPU,其記憶體容量較前一代多出一倍,為研究人員與工程師帶來前所未有的速度與效能,解鎖新一波 AI 與科學研究突破的潛能。

全新 A100 搭載 HBM2e 技術,將 A100 40GB GPU 的高頻寬記憶體容量加倍至 80GB,並提供每秒超過 2 terabytes (TB) 的記憶體頻寬。如此充裕的頻寬讓資料能快速匯入全球最快的資料中心 GPU A100,讓研究人員能進一步推升其應用的速度,以處理更龐大的模型與資料集。

NVIDIA 深度學習應用研究部門副總裁 Bryan Catanzaro 表示:「若想獲得高效能運算 (HPC) 與人工智慧 (AI) 最頂尖的研究成果,就必須建立極龐大的模型,而這也代表將會需要比過去更多的記憶體容量和傳輸頻寬。A100 80GB GPU 提供比六個月前推出的前一代 GPU 多一倍的記憶體容量,還突破每秒 2TB 的頻寬瓶頸,讓研究人員能克服全球最重要的科學與大數據研究難題。」

包括Atos、戴爾科技 (Dell Technologies)、富士通 (Fujitsu)、技嘉 (GIGABYTE)、慧與科技 (Hewlett Packard Enterprise)、浪潮 (Inspur)、聯想 (Lenovo)、廣達 (Quanta) 和美超微 (Supermicro) 等頂尖系統大廠,預計於 2021 上半年開始提供整合四個或八個 A100 80GB GPU 基板的 HGX A100 。

緩解資料密集的作業負載

建立於具備多元功能的 A100 40GB,此次推出的 80GB 版本能因應龐大資料記憶體的需求,適用於更大範圍的應用。

在 AI 訓練方面,例如 DLRM 這類含有大量表格以記載數十億名用戶及數十億項產品的推薦系統模型,由於 A100 80GB 能提供 3 倍的加速效果,因此企業能快速重新訓練這些模型,以提供高精準度的建議。

此外,A100 80GB 還能訓練最龐大的模型,透過套用更多參數,導入到配備單一 HGX 的伺服器,例如GPT-2 ── 一個運用自然語言處理模型來執行超越人類的文字生成功能。如此一來就不再需要耗費大量時間建置資料或模型平行處理架構,而且這類技術在跨多個節點運行時速度過慢。

憑藉本身具備的多執行個體GPU (MIG) 技術,A100 可切分成7個GPU執行個體,而單一個體配有 10GB 的記憶體,構成安全無虞的硬體分隔區,並能為各種規模較小的作業負載提供最高的 GPU 資源使用率。對於像 RNN-T 這類自動語音辨識模型的 AI 推論,光靠一個 A100 80GB MIG 執行個體就能處理更大的批量,在生成環境中的推論吞吐量提高 1.25 倍。

在 TB 規模的零售業大數據分析基準方面,A100 80GB 能產生最高 2 倍的效能,故能針對龐大的資料集快速獲得洞察,而企業則能透過這些隨時更新的資料即時做出關鍵決策。

在諸如氣象預報及量子化學等科學應用方面,A100 80GB 能提供強大的加速效果。例如像 Quantum Espresso 這款材料模擬軟體,在單節點 A100 80GB 系統運行可達到接近 2 倍的資料產出量提升。

日本理化學研究所計算科學研究中心 (RIKEN Center for Computational Science) 主任松岡聰 (Satoshi Matsuoka) 表示:「加速且充裕的記憶體頻寬與容量,是實現高效能超級運算應用的關鍵條件。NVIDIA A100 結合 80GB 的 HBM2e GPU 記憶體,以每秒2 TB帶來全球最快的傳輸頻寬,將為應用挹注大幅提升的效能表現。」

A100 80GB 融入了許多 NVIDIA Ampere 架構的突破性功能,包含:

  • 第3代Tensor Cores:採用新格式 TF32,提供前一代 Volta 20倍的 AI 吞吐量、2.5 倍 FP64高效能運算資料處理速度、20倍INT8 AI 推論速度,並支援 BF16 資料格式。
  • 更大、更快的HBM2e GPU記憶體:加倍的記憶體容量,和開創業界先河每秒超過 2TB 的記憶體頻寬。
  • MIG 技術:每個執行個體配置加倍的記憶體,提供最多 7個 MIG 各 10GB 的記憶體容量。
  • 結構化稀疏 (Structural Sparsity) :提供至多 2 倍加速的推論稀疏模型。
  • 第 3 代 NVLink 與 NVSwitch:GPU 與 GPU 之間的頻寬是前一代互連技術的 2 倍,讓 GPU 在執行資料密集作業負載時的傳輸速度加快到每秒600 gigabyte。

NVIDIA HGX AI 超級運算平台

A100 80GB GPU 是 NVIDIA HGX AI 超級運算平台的關鍵元素,匯集了 NVIDIA GPU、NVIDIA NVLink、NVIDIA InfiniBand 網路技術的力量,加上完全優化的 NVIDIA AI 與 HPC 軟體堆疊,發揮最高的應用效能。它讓研究人員與科學家能結合 HPC、資料分析及深度學習運算方法,推動科學研究的進展。

標籤: AINVIDIA超級運算超級電腦
上一篇文章

技嘉科技推出三款支援高密度加速卡的高效能運算伺服器

下一篇文章

Pure Storage新任台灣區總經理呂晏緹上任

相關文章

思科宣布任命Ben Dawson為亞太、日本與大中華區總裁暨業務執行副總裁
新聞速寫

思科宣布任命Ben Dawson為亞太、日本與大中華區總裁暨業務執行副總裁

2025-07-15
思科在台灣舉辦「開啟 AI 新視界— 思科 2025 生態創新峰會」,分享AI策略與生態協作,為各產業提供創新解決方案。
新聞速寫

思科在台灣舉辦生態創新峰會 解密 AI 驅動的商業創新與網路安全新趨勢

2025-07-15
新聞速寫

昕力資訊為企業開啟主權 AI 時代

2025-07-15
下一篇文章

Pure Storage新任台灣區總經理呂晏緹上任

發佈留言 取消回覆

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

追蹤我們的 Facebook

近期文章

  • 思科宣布任命Ben Dawson為亞太、日本與大中華區總裁暨業務執行副總裁
  • 思科在台灣舉辦生態創新峰會 解密 AI 驅動的商業創新與網路安全新趨勢
  • 昕力資訊為企業開啟主權 AI 時代
  • 告別高授權時代 企業轉向VATES VMS開源平台
  • 蒼綠風暴再襲!ROG全新《初音未來》聯名系列驚喜曝光

📈 CIO點閱文章週排行

  • 1200x630 I162d12

    【專訪】街口電子支付總經理范庭甄

    0 分享
    分享 0 Tweet 0
  • 企業 AI 資源布局與應用情況

    0 分享
    分享 0 Tweet 0
  • 【專訪】燁輝企業總經理張振武

    0 分享
    分享 0 Tweet 0
  • 生成式 AI 兩面刃 企業首重治理

    0 分享
    分享 0 Tweet 0
  • 黃彥男:資安是一切基礎 FIDO 專場揭示企業驗證轉型

    0 分享
    分享 0 Tweet 0
  • 2025 醫療產業 LLM 導入與應用現況調查報告

    0 分享
    分享 0 Tweet 0
  • 【專訪】羅昇企業資訊部資深經理林忠信

    0 分享
    分享 0 Tweet 0
  • 思科攜晉泰打造亞灣 AIOT 生態系發展基地暨研發中心

    0 分享
    分享 0 Tweet 0
  • 從原則邁向 IT 系統實踐之路(下)將個資保護 DNA,注入資通系統新生命

    0 分享
    分享 0 Tweet 0
  • AI 企業應用的深層準備度

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 最新文章
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

1200 Alex 2020

萊因引進IEC 62443認證強化ICS系統安全

ICS系統在本質上與IT系統有很大的差異,針對IT系統安全性的管制作法,未必能適

1200 8374842 3866678

開發之初就整合安全,擺脫不安全程式碼來討技術債的噩夢

面對重大資料外洩事件,人們很容易將焦點集中在破紀錄的外洩資料筆數及財務損失金額上

RAG 技術:企業知識管理與生成式 AI 的理想結合方案

隨著生成式人工智慧(AI)技術的快速發展,企業在知識管理與數據處理方面面臨了愈加

Cio 1200 葉家順 1

善用混合雲平台 聯發科推全球首顆 5G SoC

CIO價值學院第一堂課基礎架構@台北 會後報導 由台積電、聯電等業者推出的晶圓代

1200 Img 20200903 120319

瀚錸攜手SecureCircle 助中小企業強化防護力

疫情形成新常態,使得外包、協同作業益形重要,但是如何在效率方便與資料安全中找到平

增強 AI 安全性並兼顧使用安全

作者深入分析了生成式人工智慧(GenAI)的優勢與風險。認為 GenAI 在提升

Ciotaiwan Logo 600 White

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音