• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

Red Hat 宣布收購 Neural Magic

2024-11-21
分類 : 新聞速寫
0
A A
0
【新聞圖片】red Hat 宣布收購 Neural Magic

文/RedHat

世界領先開放原始碼軟體解決方案供應商 Red Hat 近日宣布已簽署收購 Neural Magic 的最終協議,Neural Magic 為提供能加速生成式 AI 推論工作負載的軟體與演算法領導業者,其在推論效能工程的專業技術及對開源的承諾與 Red Hat 的願景一致,致力於在跨混合雲環境中的任何一處皆能實現高效能 AI 工作負載,並滿足客戶特殊的應用情境和資料。

儘管生成式 AI 的前景在當今科技領域中已佔據主導地位,然支撐其系統的大型語言模型(LLM)規模仍持續擴大。因此,為建置具成本效益且可靠的 LLM 服務,企業需要大量的運算資源、能源,以及專業的營運技能。多數企業因上述挑戰而難以享受到客製化、部署就緒且更具安全性的 AI 所帶來的優勢。

Red Hat 期望能藉由 vLLM 的開源創新賦能更多企業更易於使用生成式 AI,從而應對其面臨的挑戰。vLLM 是由加州大學柏克萊分校開發、由社群驅動的開源專案,專注於開放模型服務(即生成式 AI 模型如何推論與解決問題),支援所有主要模型系列、先進的推論加速研究及多種硬體後端,包含 AMD GPU、AWS Neuron、Google TPU、Intel Gaudi、NVIDIA GPU 和 x86 CPU。結合 Neural Magic 在 vLLM 專案中的領導地位與 Red Hat 強大的混合雲 AI 技術產品組合,將為企業提供一條開放的途徑,打造能滿足獨特需求的 AI 策略,無論資料位於何處皆可實現。

Red Hat 總裁暨執行長 Matt Hicks 表示:「無論企業的資料位於跨混合雲中的任何位置,AI 工作負載皆必須能正常運行。因此,靈活、標準化且開放的平台和工具成為必然,賦能企業得以選擇最符合其營運和資料需求的環境、資源和架構。很高興能透過 Neural Magic 突破性的 AI 創新完善我們專注於混合雲的 AI 產品組合,驅使我們不僅做為開源的『Red Hat』,也成為 AI 領域的『Red Hat』。」

Neural Magic 執行長 Brian Stevens 說明:「業界已一次次證明開源能透過社群協作的力量推動創新。Neural Magic 匯聚了業界頂尖的 AI 效能工程專家,專注於打造開放、跨平台且超高效的 LLM 運行能力。加入 Red Hat 不僅是企業文化的契合,更將協助各規模的企業加速 AI 轉型之旅。」

IBM Research 資深副總裁暨院長 Dario Gil 表示:「隨著客戶積極尋求在跨混合環境中擴展 AI,基於開放基礎的虛擬化和雲端原生 LLM 將成為業界標準。結合 Red Hat 在開源領域中的領導地位、IBM Granite 高效的開源模型,以及 Neural Magic 跨平台的 AI 擴展解決方案,將賦能企業於內部部署 AI 所需的控制力與彈性。」

Red Hat 攜手 Neural Magic 共同驅動混合雲就緒的生成式 AI 大未來

Neural Magic 於 2018 年自麻省理工學院(MIT)獨立,旨在開發高效能的深度學習(deep learning)推論軟體。Neural Magic 的技術和效能工程專業加上 Red Hat 的 AI 技術產品組合,將驅動 Red Hat 加速實現 AI 未來願景。Red Hat 為突破大規模企業級 AI 的挑戰,運用開源創新進一步推動 AI 變革的力量,包括:

開源授權模型:涵蓋從 1B 到 405B 參數規模,可在跨混合雲環境中靈活部署,無論是位於企業資料中心、多雲架構抑或是邊緣。

微調能力:企業得以在更安全的覆蓋範圍,更輕鬆地依據其私有資料和應用情境自訂 LLM。

推論效能工程專業:可實現更高的營運及基礎架構效率。

豐富的合作夥伴與開源生態系及支援架構:客戶擁有更廣泛的選擇,從 LLM、工具到認證伺服器硬體和基層晶片架構。

借助 vLLM 領導地位強化 Red Hat AI

Neural Magic 憑藉在 vLLM 領域的專業知識,致力於建置企業級推論堆疊,以協助客戶於跨混合雲環境中優化、部署並擴展 LLM 工作負載,且能充分掌控基礎架構選擇、安全原則和模型生命周期。Neural Magic 亦建置 LLM Compressor 進行模型優化研究,其為以先進的稀疏性(sparsity)和量化(quantization)演算法優化 LLM 的整合式涵式庫,此外也維護經預先優化、可運用 vLLM 即時部署的存放庫。

Red Hat AI 旨在透過強大的技術協助客戶降低 AI 成本及技能門檻,其中包含:

Red Hat Enterprise Linux AI(RHEL AI):為基礎模型平台,可賦能 IBM Granite 開源 LLM 系列於 Linux 伺服器部署上更無縫地開發、測試及運行企業應用程式。

Red Hat OpenShift AI:為 AI 平台,可在橫跨地端、公有雲及邊緣的分散式 Kubernetes 環境中,提供快速開發、訓練、服務並監控機器學習模型的工具。

InstructLab:由 Red Hat 和 IBM 共同推出的開源 AI 社群專案,任何人都可藉由 InstructLab 的微調技術協作改善開源授權的 Granite LLM,一同推動生成式 AI 的未來發展。

Red Hat 將藉由 Neural Magic 在 vLLM 技術的領導地位,強化支援 LLM 部署的 AI 能力,賦能跨混合雲環境中隨時隨處部署,並提供現成、高度優化且開放的推論技術堆疊。

此交易需經監管機構審查和其他慣例成交條件(customary closing conditions)而定。

標籤: Neural MagicRed HatRHEL AIvLLM收購
上一篇文章

AMD 偕同數位通國際及撼訊科技輔導新創團隊榮獲2024年AI+新銳選拔賽獎項

下一篇文章

Epson連續供墨印表機 全球累計銷售突破1億台

相關文章

半導體擴廠人才荒 Profet AI 助企業擴大專家量能
新聞速寫

半導體擴廠人才荒 Profet AI 助企業擴大專家量能

2026-11-19
中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
新聞速寫

中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性

2026-11-19
台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解
新聞速寫

台灣最爛密碼還是「123456」奪冠!從「metallica」到「skibiditoilet」流行文化讓帳號秒破解

2026-11-18
下一篇文章
Epson 連續供墨印表機達成全球銷售超過1億台的重要里程碑

Epson連續供墨印表機 全球累計銷售突破1億台

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • AI 代理人應用於銀行法遵的價值與導入關鍵
  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!
  • 半導體擴廠人才荒 Profet AI 助企業擴大專家量能
  • 中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性
  • 雲林培育 2,900 人次智慧農業人才 推動 AI 導入與產業升級

📈 CIO點閱文章週排行

  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!

    0 分享
    分享 0 Tweet 0
  • 平台業者個資外洩 消費者問責品牌商

    0 分享
    分享 0 Tweet 0
  • 強化金融資安韌性 金管會:聚焦 AI 攻擊與代理 AI 安全

    0 分享
    分享 0 Tweet 0
  • 國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

    0 分享
    分享 0 Tweet 0
  • 台灣數位資產與未來資本市場協會成立 布局代幣化金融基礎設施

    0 分享
    分享 0 Tweet 0
  • 【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

    0 分享
    分享 0 Tweet 0
  • 昕力資訊攜手 HPE 深化策略結盟 布局主權 AI 「智算力」服務

    0 分享
    分享 0 Tweet 0
  • 【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI

    0 分享
    分享 0 Tweet 0
  • 【專訪】國泰金控數位數據暨科技發展中心副總經理陳維銘

    0 分享
    分享 0 Tweet 0
  • AI 網攻擴大企業受害 72 小時內應變成資安關鍵

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

數據治理為 AI 規模化的基礎

產業別之數據治理特性:製造業 台灣約有超過半數企業尚未完全建立能支撐 AI 規模

【編輯室札記】AI 轉型的三種路線

總主筆/施鑫澤 打從四月 Antropic 發布 Harness Enginee

【專訪】臺灣中小企業銀行數位金融部協理蔡育呈:聚焦中小企業 深化 AI 布局

臺灣企銀以中小企業金融為核心,歷經「數位啟航」、「數據導航」與「AI 領航」三階

2027 CIO Insight (3) AI 治理:先讓風險看得見 再決定哪些要嚴管

企業管理 AI 的實際做法平均 41.1 分,前段只有 16.7%;CIO 替自

從告警到可決策:企業還要 4 小時

《網路韌性法》的 24 小時通報時限一啟動,差距就在於團隊能否在時限內,從一個受

CoWiSH 串聯百業需求 國產晶片 AI 應用導入率達 80%

整理/鄭宜芬 「2026臺灣IC智造年會」今(5)日於臺北三創生活園區盛大登場,

AI Agent 帶動攻擊自動化 台灣資安通報應變年會聚焦攻防新戰局

整理/鄭宜芬 隨著生成式與代理式 AI 快速發展,資安攻擊手法正朝自動化、精準化

【影】技術司推動無人機系統整合 AI 導航成關鍵

整理/鄭宜芬 在非紅供應鏈、地緣政治與AI快速演進的交會下,無人機已從單純設備,

資策會串聯產業需求 助攻新創走向市場

整理/鄭宜芬 由資訊工業策進會協辦的 2026 台灣新創育成產業年會於 18 日

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音