全新的企業級生成式 AI 服務協助企業實現業務流程自動化、改善決策及客戶體驗
Oracle 宣布推出限定版本的 Oracle Cloud Infrastructure (OCI) 生成式 AI 服務。全新的生成式 AI 服務可支援大型語言模型 (LLM)，協助企業自動化端對端業務流程，改善決策和客戶體驗，同時確保資料的安全性和私密性。
OCI Generative AI 服務是一項託管服務，由 OCI 與知名的企業 AI 平台 Cohere 合力打造而成，協助使用戶透過可用的 API 將 LLM 整合到自己的應用程式中。全面上市後，此服務和 Cohere 模型將可與 AI Vector Search 搭配使用。AI Vector Search 是 Oracle Database 23c 的其中一項功能，可提供檢索增強生成 (RAG) 技術。這是一種結合預先訓練的 LLM 和專屬業務資料的生成式 AI 技術，可提供更高準確度的回應。這項服務是生成式 AI 功能的基礎，將內嵌至 Oracle SaaS 應用程式套件中，包括 Oracle Fusion Cloud Applications Suite、Oracle NetSuite 和 Oracle Cerner 等產業應用程式。
Oracle Cloud Infrastructure 執行副總裁 Clay Magouyrk 表示：「受惠於 Oracle 的產業知識，我們能夠為企業打造優秀的 AI 服務，協助將流程自動化、推動更明智的決策，以及改善客戶體驗。在 Oracle 與 Cohere 的合作下，客戶能夠輕鬆地將生成式 AI 內嵌至其技術堆疊中，並完全相信我們的解決方案能夠滿足嚴格的資料安全性和隱私要求。企業可藉此使用自己的資料來完善這些模型，進而打造出能夠完全瞭解企業內部運作的模型。」
憑藉其低成本、安全、高速的 AI 基礎架構，OCI 能夠協助客戶使用 Cohere 的模型作為專門針對企業用例的託管服務。OCI Generative AI 服務的客戶可在 Oracle 的 AI Supercluster 架構上的專用基礎架構中執行工作負載，自行控制特定成本和傳輸量需求，像是使用自己的資料來微調模型，或是部署客製化模型。
全新的 OCI Generative AI 服務包括下列模型：
- Command：此模型可接受使用者的提示並產生文字。Command 有兩種不同的大小，可依據業務用例進行高度客製化，包括文字產生、文字彙總、RAG 和交談。
- Summarize：此模型對文字進行抽象彙總，並使使用者能夠利用各種參數來設定結果，以支援獨特的用例。例如，此模型可協助法務團隊彙總複雜的文件，協助客戶服務代表彙總技術支援文件，或是協助忙碌的員工彙總冗長的電子郵件鏈。
- Embed：此文字表示模型將文字轉譯為模型可以理解的數值向量。此模型為各種用例提供英文和多語言模型 (支援超過 100 種語言)，包括語意搜尋、文字分類、RAG 搜尋引擎和舊有項目搜尋改善功能。
Cohere 總裁暨營運長 Martin Kon 表示：「Oracle 和 Cohere 的企業級 AI 產品以資料安全、模型客製化、低延遲等原則為中心，協助企業以經濟高效的方式，快速、有意義且負責任地部署 AI 技術。我們正與 Oracle 密切合作，並採用資料安全和隱私優先的策略，協助企業利用 AI 來推動業務發展。」
Altair 技術長 Sam Mahalingam 表示：「Oracle 一直是 Altair 寶貴的合作夥伴。Altair 專注於運算科學和人工智慧，在 Oracle 強有力的支援下，Altair 已開始將大型語言模型整合至解決方案中。我們相信，生成式 AI 將改變我們的工作方式。例如，客戶將能夠以自然語言描述想要的結果，而 LLM 就會自動生成解決方案。在資料分析中，客戶不再需要編寫機器學習的程式碼，只需要提出預測需求即可。在工程設計中，只要客戶描述產品特性，模型就會負責進行設計工作。生成式 AI 的應用非常廣闊。」
除了推出 OCI Generative AI 服務，Oracle AI 還繼續為具有多個有限可用性方案的現有服務新增增強功能，當中包括：
- Oracle Digital Assistant：新增生成式 AI 功能，讓客戶能夠將 LLM 和其他生成式功能整合至數位助理中。同時，開發人員可以使用生成式 AI，更快且更有效率地打造數位助理。
- OCI Language Healthcare NLP：透過自然語言處理，提高醫療資訊的洞察力。此 OCI Language 服務的新功能可協助客戶更妥善地處理醫療領域的語言。新模型將有助於辨識各種記錄中的醫學術語、關係和實體，例如臨床試驗記錄、病患進度記錄和電子健康記錄。
- OCI Language Document Translation Experience：新增文件翻譯功能，以支援各種格式 (Word、PPT、HTML、JSON 和 Excel)，確保內容保持完整，並在不同文件類型中進行翻譯。
- OCI Vision：新增 Facial Detection 功能，可辨識影像中的人臉和臉部特徵，並擴展 OCI Vision 用例的數量。
- OCI Speech：新增辨別技術，可將說話者的資訊內嵌至音訊轉錄內容中。此技術為 OCI Speech 錦上添花，可用於組織和分析人聲對話，並從中擷取有意義的資訊。
- OCI Data Science：新增 Feature Store，這是一個用於管理資料科學團隊開發功能的中央儲存庫。Feature Store 提供一個統一的架構，以簡化的方式記錄、共用、儲存及提供服務。
Wikibon 資深分析師 Marc Staimer 表示：「OCI Generative AI 服務是全新的生成式 AI 雲端服務，可提供市場需要的企業級安全性、靈活性和使用者調校功能。此服務提供嚴格的安全和治理來保護使用者的專有資料，也能夠確保僅讓客戶使用和查看該模型。同樣重要的是，客戶可以控制專用的 OCI Supercluster AI 基礎架構，微調模型或部署客製化模型，同時還能滿足特定的成本和傳輸量需求。OCI Generative AI 服務是兼具企業功能和成本效能的理想組合。」
