• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CSO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 新聞速寫

OpenAI和Azure OpenAI一樣嗎?模型選擇攻略&計費一次看懂,建立商業級AI流程

2023-07-04
分類 : 新聞速寫
0
A A
0
1200x600 100

由微軟投入銀彈的「OpenAI」,與微軟自身的「Azure OpenAI」到底有何不同?企業IT智能化最佳夥伴-MetaAge邁達特,透過本文解說如何以 Azure OpenAI 作為基本盤,延伸這些企業級AI 應用。以及,用量管理&模型管理可以怎麼做?「從體驗到驗證」Azure OpenAI,企業還可以獲得哪些「從頭到尾」的導入協助?

OpenAI和Azure OpenAI,有何不同?

OpenAI和Azure OpenAI一樣嗎?首先,Azure OpenAI 是微軟 Azure 雲平台的「服務」,OpenAI 則是微軟近年投資的一家「公司」。Azure OpenAI 並非 OpenAI API,不過,兩邊的模型一模一樣。

當由微軟金援的 OpenAI 發佈新模型時,身為授權夥伴的微軟,也會同步取得這些模型,並由微軟的 RD 團隊以 1~2 週的時間處理好安全性、可用度等 SLA 事宜後,再發佈新版 Azure OpenAI 服務供企業使用。

基於資料外洩風險,全球目前有不少政府機關、民間企業宣佈禁用OpenAI的 ChatGPT。而微軟的 Azure OpenAI、Copilot 等「企業級服務」則持續推出,主要差異在於微軟的 AI 服務可滿足企業對 SLA、資安、法遵等需求,可消除不少企業主的疑慮。

Azure OpenAI 是「專為企業而生」的AI服務

儘管OpenAI 也朝向推出「商務版」發展,然而Azure OpenAI 是更直接地「Born for Enterprise」。目前,OpenAI 無法為您提供在地化技術支援;也無法為您即時排除問題。以及,在資安控管與防護上,顯然是Born for Enterprise的Azure OpenAI 能做得更全面且到位。

綜觀而言,Azure OpenAI 可以讓企業用戶在更合規、更安全的前提下,使用 GPT-3 及其衍生模型。倘若您的企業需要更高的安全性、存取管理、網路傳輸、數據保護、擴展容量,以及不容忽視的在地化技術支援、即時的問題排除,Azure OpenAI 和 Microsoft 指定的台灣代理商,都可攜手提供企業用戶上述保障。

002-1
蟬聯多年中華徵信社電腦系統整合服務業第一名的邁達特,是Microsoft指定的台灣代理商,擁有原廠認證之技術專才

Azure OpenAI如何計費?模型怎麼選,才不會爆預算?

自然語言模型的運算是以「Token」為單位,750 至 800 個單字約能換算成 1000 個 Tokens。微軟在 Azure OpenAI 的使用計費,是以 1000 個 Tokens 為一個單位作計費,需要計費的項目包括「一般使用」、「Fine Tune」 與 「Hosting」。

「一般使用」是以 Tokens 量做計算,而「Fine Tune」 與 「Hosting」 則是以小時做計算。費用多寡以模型大小為區分,其中以 Davinci 為最高價;Ada 則為最低價,您能依據使用用途選擇最適用的模型。如欲深入了解模型有哪些(Ada、Babbage、Curie、Davinci)及其性能差異,您可另開新視窗【閱讀此文】。

以下舉例說明如何評估費用:
假設某家電信業者客服 APP 每月有 20 萬活躍客戶,每人每月平均 10 次互動,每次總計 300 字數(英文)。模型每週 Fine tune 一次 30 小時。以此案例作計算,使用模型為 Ada,每月總費用大約為 2755.7 美元。
算式如下:
( 200,000 × 10 × 300 × 1.33 ) ÷ 1000 × $0.0004 + ( 30 × 4 × $20 ) + ( 730 × $0.05 ) = 319.2 + 2400 + 36.5 = 2755.7/每月
IT智能化最佳夥伴-MetaAge邁達特建議您:在使用模型時,以使用較低效能的模型為優先。若此模型不符合期待,再往上調整。除了樽節成本,亦能符合使用者的期待。另外,模型管理&流量管理對企業而言至關重要,因此在MetaAge邁達特的Azure OpenAI 導入服務中,我們為企業提供了模型管理與流量管理的建構環節。

從體驗到驗證!邁達特4道工法,提供「從頭到尾」導入協助

作為微軟指定的台灣代理商,MetaAge 邁達特具備專業團隊,可為企業提供 Azure OpenAI「從頭到尾」的全程導入協助。透過邁達特協助,您的企業與團隊僅需幾個步驟,即可展開 Azure OpenAI 應用旅程,包括建立基礎 Know-How,接續進行 Fine Tune,經過 POC 後再正式 Go Live!

針對以下每個步驟階段,IT 智能化最佳夥伴- MetaAge 邁達特都可提供豐富且專業的顧問與支援服務,讓您在微軟最高安全保護級別之下,正式部署 AIGC 應用。

  1. 建立 Azure OpenAI 基礎知識
  2. 申請 Azure OpenAI 引導體驗
  3. 學習 Azure OpenAI 的 API Fine Tune 方式
  4. 最終進入商業流程
003
邁達特提供Azure OpenAI 導入4道工法,全程陪伴企業建立商業級AI流程

在申請階段,我們會梳理您的需求,協助設計應用流程。到了Fine Tune 階段,會引導您熟悉 API 操作、模型優化並建構流程管理機制,同時展開概念驗證(POC)。到了 Go Live 階段,我們則會協助您驗證前一階段發起的 POC 成果。最後,在正式進入商業流程前,我們會協助您建構模型管理及流量管理機制,因為這些環節對企業而言至關重要。

如果您的企業已有微軟帳戶,您可授權 MetaAge 邁達特成為雲端解決方案提供者,進而開啟 Azure Plan、取得 Azure Subscrition ID。若您沒有微軟帳戶,則可填寫申請表,由 MetaAge 邁達特協助建立微軟帳戶、啟動 Azure Plan,再取得 Azure Subscrition ID。

結合產線數據,Azure OpenAI如何為製造業賦予新靈魂?

在垂直產業應用面,則不得不提「製造業」如何透過 Azure OpenAI 來賦予新靈魂,其關鍵就在於「結合產線數據」。將 Azure OpenAI 結合產線資料,無需受限於時間或空間,即能產生更多應用。

舉例而言,從前在推動自動化操作的過程中,傳統做法是仰賴 Programmer 撰寫大量程式,繼而讓使用者能透過系統介面下達條件,並根據條件執行後續處理,達到近似於 RPA 的目標與效果。

現在,有了 Azure OpenAI,有沒有可能透過 Azure OpenAI 幫忙產生所需的自動化程式?答案是肯定的。舉例來說,從前 SAP 團隊要花錢請顧問協助下 Query 條件,進而撰寫程式,深究其因,在於顧問非常熟悉 SAP 的「長相」。

現在,其實 Azure OpenAI 也有能力像顧問一樣,理解 SAP 的長相和 Schema,再根據使用者下達的需求條件,幫忙產生 Query 或是 SQL 敘述句(Statement),大幅提升程式開發效率。

關於Azure OpenAI 實例分享,你還可以知道更多

全球使用 Azure OpenAI 的企業應用實例正不斷新增。如 Trelent 是專門編寫程式碼、協助客戶解決問題的公司,為了避免資訊外流,以及基於安全性,Trelent 採用了微軟 Azure OpenAI 的服務。除了生成程式碼之外,該公司也屢屢搭配運用 Azure平台上其他功能,使其回應客戶的時間從 1.3 秒加快為 0.75 秒,有效提升工作效率,也讓工程師將心力集中於處理核心事務。

在客服支援情境方面,則有企業利用 Azure OpenAI 梳理客戶的提問,且把公司產品內容融入 GPT 模型,加速為客戶推薦產品。

此外,Farmlands 公司則採用 Dynamics 365 進行客戶聯絡;後來加入 Azure OpenAI 服務後,從客戶聯絡資訊提取關鍵字、短語及傳遞的情緒價值,使客服人員能夠快速理解客戶想表達的問題,亦把此功能開放給客戶,便於客戶在系統上直接查看歷次問答結果,以掌問題解決進度,從中有效提升客戶滿意度。

IT 智能化最佳夥伴 MetaAge 邁達特 — Microsoft 指定的台灣代理商

如欲協助啟用 Azure OpenAI,或想更深入暸解 Azure OpenAI 如何為您的團隊賦能、穩定加速智慧轉型的進程,您可【 由此聯繫 】Microsoft 原廠指定的台灣代理商MetaAge 邁達特。

MetaAge 邁達特具備 Microsoft MSP Indirect Provider 資格,在台灣擁有實戰二十餘年的 IT 技術量能,可針對 Microsoft Azure 提供雲託管等服務,也可依照貴司環境,提供全面的客製化規劃、移轉方法、自動化流程設計和各項技術服務。

標籤: MetaAgeOpenAI微軟微軟Azure邁達特
上一篇文章

【超級助手 dentall.ai 旋風問世 開創智慧牙科醫療新紀元 】

下一篇文章

Hitachi Vantara與思科簽署新的策略合作協議,協助客戶簡化混合雲管理

相關文章

Progress Software 推出 AI 驅動的威脅偵測與事件回應功能,協助企業抵禦持續演變的網路威脅
新聞速寫

Progress Software 推出 AI 驅動的威脅偵測與事件回應功能,協助企業抵禦持續演變的網路威脅

2025-10-02
AI 運算不中斷 ztC Endurance 強化企業營運韌性
新聞速寫

AI運算不中斷 ztC Endurance強化企業營運韌性

2025-10-02
1001 01 微軟亞洲規模最大的旗艦級 AI 技術盛會 DevDays Asia 2025 邁入第十週年,由數位發展部數位產業署署長林俊秀、台灣微軟總經理卞志祥及多位微軟總部重量級主管共同揭幕,迎接大會的重要里程碑。
新聞速寫

DevDays Asia 2025 十週年

2025-10-02
下一篇文章

Hitachi Vantara與思科簽署新的策略合作協議,協助客戶簡化混合雲管理

追蹤我們的 Facebook

近期文章

  • 【編輯室札記】實務階段的 AI 預算樣貌
  • 數位碳管理 × 材料創新 建構永續轉型
  • 【專訪】數位發展部資通安全署署長蔡福隆
  • 強化產業 AI 信任  AIEC 推 AI 在地化評測與第三方驗證
  • Fast-ID 驗轉中心上線 7 家銀行啟用跨機構身份驗證

📈 CIO點閱文章週排行

  • 2025 Moonfest Partners 1920 1080 V1 70% Ch

    當隱私至關重要:為什麼我選擇零知識雲端空間,而不是傳統大平台

    0 分享
    分享 0 Tweet 0
  • 透過 ISO 42001 規範進行 AI 與 Data 治理

    0 分享
    分享 0 Tweet 0
  • 9 大最佳安全防護實踐

    0 分享
    分享 0 Tweet 0
  • 從護國神山到護國群山,台灣半導體產業升級的大好機會

    0 分享
    分享 0 Tweet 0
  • CEO、CIO 迎接 AI 浪潮

    0 分享
    分享 0 Tweet 0
  • 將營業秘密保護內化為企業 DNA

    0 分享
    分享 0 Tweet 0
  • 組織轉型 驅動企業 AI 規模化

    0 分享
    分享 0 Tweet 0
  • 【醫療業】AI 的實踐與戰略抉擇:歐盟洞察對 CIO 的啟示

    0 分享
    分享 0 Tweet 0
  • CQL 系列報導 ─ CQL 應用與推廣策略解析

    0 分享
    分享 0 Tweet 0
  • AI 滲透資安戰線,無人化攻擊企業如何應對?

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 最新文章
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

120063009162

40 家企業參與 TWCERT/CC 藍隊演練 強化資安防禦與應變

文/鄭宜芬 由國家資通安全研究院營運的臺灣電腦網路危機處理暨協調中心(TWCER

1200630

AI Automotive 產業大聯盟成軍 打造自主車電生態鏈、鏈結國際市場

文/鄭宜芬 臺灣國際車輛論壇(TAIFE)1 日舉行「AI Automotive

I171s04

CEO、CIO 迎接 AI 浪潮

文/張瑞雄(資訊系教授、台北商業大學前校長) 在當今的數位經濟中,人工智慧(AI

◤圖片由 Gemini 生成

AI 加持讓資料工程師如虎添翼

資料工程師在各行各業的企業中任職,協助管理與儲存企業營運所需的資料。一方面,所有

120063009091

環球晶徐秀蘭:半導體發展需強化材料自主與供應鏈韌性

文/鄭宜芬 矽晶圓大廠環球晶董事長暨 SEMI 全球董事會董事徐秀蘭 8 日於

I171s14

AI 滲透資安戰線,無人化攻擊企業如何應對?

資安領域正因人工智慧(AI)的廣泛應用而經歷根本性轉變。Anthropic 公司

I171d13

打造企業 AI 知識庫 從高品質資料開始

地端 LLM 伺服器建置系列報導之二:資料篇 當企業導入新的 AI 助理(例如內

12006300926

臺美攜手推動資安防禦合作 成亞太地區示範基地

文/鄭宜芬 身處數位轉型與資安威脅日益加劇的時代,臺灣與美國的合作不僅是產業發展

250911corey

資安院「資安週報」出爐了!

總主筆/施鑫澤 國家資通安全研究院正式推出「資安週報」,彙整並分析政府骨幹網路(

Ciotaiwan logo 600 white

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音