• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CSO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

300倍的效率!長庚大學導入麗臺GDMS GPU AI資源管理系統

2020-08-18
分類 : 新聞速寫
0
A A
0

GPU的AI加速運算能力在各大研究上扮演關鍵角色。麗臺科技突破傳統限制,發表GPU資源分配與管理系統 (GDMS),並首由長庚大學資工系導入使用。麗臺GDMS提供多人使用單一張GPU,以及一人使用多GPU兩種資源分配模式,適用於NVIDIA 全系列繪圖卡,支援不同規模的工作負載,達到資源運用最大化。其直覺式圖型操作介面,讓不懂Docker指令的管理人員,仍能輕鬆執行AI專案建置,將AI研發和教學環境佈署時間縮短300倍。

在AI研發上,目前大部份開發者採用的容器化開源軟體架構,皆是以單張GPU為單位。也就是單一GPU卡,只能分配給單一Container使用。麗臺GDMS則是以專案及Docker為基礎的GPU資源分配與管理系統,容許多個Container使用同一張GPU資源。長庚大學資工系陳仁暉系主任提到,在教學上,學生所執行的專案較小,如果GPU等資源無法有效分配,將十分可惜。GDMS可以在相同資源條件下,讓更多學生同時使用GPU運算資源,將能夠大大提升GPU使用率。此外,透過GDMS圖型介面,除了能讓使用者更方便操作外,老師也能在課堂間的休息時間,快速佈署不同Container給指定學生使用。一般來說,大約需要花 50 分鐘才能建立 100 個 Container,但現在只需要花十秒即可完成,同時達到快速備課及資源使用最大化目的,真的是教學一大利器。

麗臺科技林威延博士補充,此種單卡支援多人使用的模式也相當適合企業研發單位執行AI訓練,以降低總體持有成本。麗臺GDMS另一個功能則反過來。例如研究單位進行大型AI研發專案時,麗臺GDMS能集中多張GPU資源支持該專案進行,並確保其他人尋找可用GPU資源時不會影響到該專案的資源分配,彈性支援不同AI開發情境。

在實務上,隨著需求不斷改變,AI研發單位會不斷的擴充硬體,創建不同的群組與Docker。時間久了,很難記住這些Docker佈署在哪些伺服器上,進而造成管理混亂。在GDMS協助下,管理時間將大幅降低,研發團隊可更專注於AI專案開發。除此之外,麗臺同時推出RTX GPU AI 開發軟體(RTX AI Software Pack)以解決AI框架相依函式庫易相衝突的問題。麗臺GPU AI開發軟體整合了 12 種深度學習以及機器學習的開發套件。除了大家熟悉的 Caffe、TensorFlow、學術界常用的 PyTorch,還有RAPIDS等,各開發套件的相容性已調整在最佳狀態,在AI開發環境建置上,將可省去除錯時間。若在伺服器上安裝麗臺GPU AI 開發軟體,再通過 GDMS啟動Container,便可直接開啟多個對應的連接埠、整合儲存設備路徑,或安裝必要套件(例如:Jupyter notebook、Matplotlib),專案成員亦可自行上傳Docker Image。如此一來,透過GDMS的管理,除了GPU的資源分配之外,只需要對應多組連接埠,即可在有限的硬體實現多叢集架構的軟體教學 (例如:Hadoop),不需再購買其他虛擬化方案。

長庚大學資工系系主任陳仁暉(中),麗臺科技協理陳樹威(左一),長庚大學資工系助理教授李季青(左二),麗臺科技業務經理沈守宥(右二),麗臺科技技術經理劉家豪(右一)

標籤: AIGDMSGPU長庚大學麗臺科技
上一篇文章

ASRC 2020 第二季電子郵件安全觀察

下一篇文章

因應疫情瞬變 中華電信攜手台灣微軟加速企業數位轉型

相關文章

圖1 super 8 ceo 陳子龍 (brian) 與貴賓合影.jpg
新聞速寫

SUPER 8 Studio 推 Agentic AI 解決方案 三大產品新亮相

2025-10-23
momo 富邦媒與台灣微軟合作打造大型語言模型(LLM)驅動的新一代智能客服,結合 Microsoft Azure OpenAI 與檢索增強生成(RAG)技術。由左至右為台灣微軟總經理卞志祥、富邦媒體科技總經理谷元宏。
新聞速寫

momo 攜手台灣微軟打造新一代智能客服

2025-10-23
WithSecure唯思安全EPP整合EDR企業防禦力再升級 強化偵測與回應能力 全面提升營運安全韌性
新聞速寫

WithSecure唯思安全 EPP整合EDR企業防禦力再升級

2025-10-23
下一篇文章

因應疫情瞬變 中華電信攜手台灣微軟加速企業數位轉型

發佈留言 取消回覆

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

追蹤我們的 Facebook

近期文章

  • 全球 200 位資安領袖齊聚 HITCON CISO Summit 共探 AI 與資安韌性未來
  • AI 成為推動企業永續的堅實後盾
  • LINE 推進 AI 代理 打造全生態智慧服務與產業聯防機制
  • SUPER 8 Studio 推 Agentic AI 解決方案 三大產品新亮相
  • 選對題目比什麼技術都重要

📈 CIO點閱文章週排行

  • ◤ 公勝保經資訊資訊長 楊振和(左)、精誠資訊副總經理 張皇裕(右)

    精誠資訊助力公勝保經,率先建構保經業數位治理典範

    0 分享
    分享 0 Tweet 0
  • 以多模態 AI 精實臨床作業流程(一)

    0 分享
    分享 0 Tweet 0
  • 跨越 AI 鴻溝:影子 AI 與超級使用者

    0 分享
    分享 0 Tweet 0
  • 國泰金控揭露生成式 AI 框架 GAIA2.0 宣告進入「雲端優先」階段

    0 分享
    分享 0 Tweet 0
  • AMD於OCP高峰會發表採Meta開放機架標準打造的「Helios」機架級AI平台

    0 分享
    分享 0 Tweet 0
  • 宜鼎攜 AI 國際大廠 掌握全球邊緣智慧核心 實踐「Keystone關鍵基石」策略定位

    0 分享
    分享 0 Tweet 0
  • 台灣金融 AI 大語言模型之發展與產業應用

    0 分享
    分享 0 Tweet 0
  • 經濟部 6 年投 442 億發展無人機 鎖定國防與產業雙軸升級

    0 分享
    分享 0 Tweet 0
  • 網路安全 ─建立地區辦公室(2)

    0 分享
    分享 0 Tweet 0
  • 全球 200 位資安領袖齊聚 HITCON CISO Summit 共探 AI 與資安韌性未來

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 最新文章
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

1200630

智慧機器人應用 SIG 成立 臺南整合產官學研共推 AI 機器人聚落

文/鄭宜芬 行政院今年 6 月宣布「智慧機器人產業推動方案」,臺南市政府積極串聯

圖三

產發署 TAITRONICS 2025 秀 96 項 AI 技術 跨域創新應用

文/鄭宜芬 經濟部產業發展署以「智慧驅動,創新應用」為核心籌設主題館,22 日於

I172d04provided by the author

以多模態 AI 精實臨床作業流程(一)

口述/孫培然·彙整/CIO編輯室 本期開始,我們將聚焦於實際的醫療場域,深入探討

120063010033

【專訪】交通部觀光署署長陳玉秀

智慧景區+跨域整合 數據驅動新觀光模式 觀光發展的核心在於提升旅客體驗,觀光署在

120063009255

生成式 AI 與全場景驗證落地 保險科技揭示金融服務新模式

文/鄭宜芬 國泰金控 24 日舉辦「國泰未來保險體驗日(Cathay Insur

Evoto

LINE 推進 AI 代理 打造全生態智慧服務與產業聯防機制

文/鄭宜芬 LINE 台灣 22 日舉辦年度記者會 LINE CONVERGE

1200630 10174

跨域整合、強化可視化管理 園管局助企業提升供應鏈韌性

文/鄭宜芬 經濟部產業園區管理局(下稱園管局)為協助園區廠商因應地緣政治與美國關

120063010034

數位碳管理 × 材料創新 建構永續轉型

全球每年產生超過 4 億噸塑膠垃圾,但回收率不足一成,塑膠汙染已成迫切的環境課題

I172d11

選對題目比什麼技術都重要

地端 LLM 導入系列報導之三:應用場域篇 導入地端 LLM 成功與否,關鍵不在

Ciotaiwan logo 600 white

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音