微軟在年度開發者大會上以 Copliots 大力擁抱生成式 AI!
文/Peter Sayer‧譯/Christy
日前的 Microsoft Ignite 開發者大會實際上可以稱為 AIgnite,因為幾乎 600 場次中有一半以上的議程涉及以各種形式呈現的人工智慧。
尤其是生成式 AI,是 Microsoft 在這次活動中所宣布的眾多新產品的核心技術。這些新產品包括在 Azure 中應對大型語言模型(LLMs)的新人工智慧功能、Copilot 系列生成式 AI 助手的新增功能、新硬體,以及一個協助開發人員部署小型語言模型(SLMs)的新工具。
以下是資訊長們需要從 Microsoft Ignite 2023 活動中獲得的一些重要的 AI 相關資訊。
1. Bing Chat Enterprise 的消失
當 OpenAI 在九月推出 ChatGPT Enterprise 後,有人就猜測到這可能會對 Microsoft 在兩個月前推出的 Bing Chat Enterprise 造成麻煩。果然,Bing Chat Enterprise 很快將會消失,但消失的只是這個名字:該產品仍將繼續存在,並將簡稱為 Copilot。
隨著名稱的更改,一個名為 Copilot 的新版本即將推出,並將帶來一些新的功能。其中一項新功能是針對使用 Microsoft Entra 雲端身份管理服務的組織,提供對在聊天機器人中使用的商業資料進行保護的能力。新的 Copilot 將於 2023 年 12 月 1 日起全面上市。
2. Copilot 的快速發展
當然,Microsoft 在產品命名上通常並不簡單,而且不僅僅有一個叫做 Copilot 的產品。 在不同的 Microsoft 產品中,存在多個版本的 Copilot。具體來說,有 Copilot Dynamics 365、Copilot for Microsoft 365、Copilot in GitHub、Copilot in Viva,以及最新的 Copilot for Service 和 Copilot for Sales。
Copilot for Service 設計用於支援在客服中心工作的代理人,使其能夠更有效地處理客戶訊息,利用知識庫資料,並與各種系統進行整合,包括 Microsoft 的 Teams 和 Outlook, 以及其他第三方系統如 Salesforce、ServiceNow 和 Zendesk。
令人困惑的是,Microsoft 已經提供了一個名為 Sales Copilot 的產品。然而,Copilot for Sales 則是一款不同的產品,它包含了使用 Copilot for Microsoft 365 的授權,並幫助銷售人員為客戶會議做好準備,根據特定客戶的需求和情境,製作出客製化的簡報文件。
3. 協助系統管理員的 Copilot
Copilot 不僅僅只提供給 Microsoft 365 的用戶使用,系統管理員也可以使用它。即將發布的更新將使 Copilot 整合到 Edge for Business 的管理介面,以協助系統管理員在工作場所瀏覽器方面制定推薦策略(如有關安全性、設定或其他管理方面的規則)和擴展(如附加功能等),以優化和定制工作場所瀏覽器的設定。其他 Microsoft 365 應用程式也已經包括在內,如 SharePoint 和 Teams。Microsoft Viva 還有一個新的採用儀表板,可協助追蹤 Copilot 功能在 Microsoft 365 應用程式中的嵌入情況,這些功能正在改變使用者的工作方式。
4. Copilot for Microsoft 365 的新增功能
關於這些新增功能:Copilot 正在進行更新,並將在未來提供更多 Microsoft 365 應用程式的新功能。明年就會有一波新功能推出,因此,資訊長們需要做好準備,以應對用戶可能對新功能提出的問題。
例如,從明年開始,Teams 能夠即時地將會議轉錄成文字,將其總結為筆記,並具備在白板上組織這些筆記的能力。在會議進行的過程中,Teams 可以提供更多的想法,以新增到白板上。會議記錄還將成為互動式文件,使參與者在會議結束後能夠取得有關特定內容更詳細的資訊。而對於擔心保留這些書面記錄會有風險的組織,也將能透過預設每次會議的方式以關閉此功能。
不過,Copilot for Microsoft 365 的新增功能不止於此,因為 Microsoft 將開放它給第三方供應商的插件和連接器,以擴展其功能並允許它從 Jira、Trello、Confluence、Freshworks 等不同的應用和服務中獲取和引用資料。
5. Copilot Studio:用來建立 Copilot 的 Copilot
不出所料地,就像 OpenAI 透過 ChatGPT 介面實現了客製化聊天機器人(GPTs)的可能性一樣,Microsoft 也建立了 Copilot Studio,這是一個對話型的 Copilot,被用來建立和客制更多的 Copilot。Copilot Studio 將提供對 Azure 功能的存取,包括語音識別和情緒分析,還可以透過 Power Platform 連接器和 Power Automate 工作流程新增更高階的功能,所有這些都具有監管機制,以確保 IT 仍有管理和監控的權限。
6. 人們不願意放棄他們的 Copilots
Microsoft 每年都會發布其工作趨勢指數(Work Trend Index),而這一次的指標包括了對早期 Copilot 用戶的調查和觀察研究。
受訪者顯然對這個工具的印象非常深刻:70% 的人表示使用該工具提升了很多工作效率,77% 的人表示不想放棄該工具,22% 的人表示該工具每天為他們節省了 30 分鐘以上的時間。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球 CIO 同步獲取精華見解 ]
Microsoft 傳播長 Frank X. Shaw 在活動前的一次視訊呈現中對調查結果的評論:「這些節省的時間非常驚人,但更重要的是,每個人都應該明智地運用這些節省下來的時間。」
觀察研究顯示,Copilot 用戶能夠更快速地尋找到資訊,速度提高了 27%,並且能夠在錯過的會議中迎頭趕上的速度提高了近四倍。
或許,Copilot 的未來版本可以教導用戶如何運用節省下來的時間。其中大約一半的用戶在一天節省了超過 30 分鐘的時間表示,他們將節省下來的時間用於有目標的工作上。而其中六分之一的用戶則表示,他們將這些時間花在更多的會議上。
7. 生成式人工智慧的認證
生成式人工智慧領域相對較新,很難評估誰擁有什麼樣的知識。因此,Microsoft 正在介入,提供新的認證,這些認證屬於 Microsoft Applied Skills,涵蓋了人工智慧的各個範疇。這些認證將包括:使用 Azure OpenAI Service 開發生成式人工智慧;使用 Azure AI Document Intelligence 建立文件處理系統;使用 Azure AI Language 建構自然語言處理工具;以及 Azure AI Vision 視覺系統建構。
8. 在 Azure 上提高生成式人工智慧操作效率
在五月的 Build 開發者大會上,Microsoft 宣布推出 Azure AI Studio,這是一個用於建構生成式人工智慧應用程式的統一系統。六個月後,該平台終於推出了預覽版(雖然生成式人工智慧技術發展迅速,但在某種程度上進展似乎並不那麼快)。開發人員將能從一系列專有(proprietary ─ 由某個公司或組織擁有並控制的技術或軟體)和開源(open-source ─ 可以公開存取、查看和修改源始碼的技術或軟體)的大型語言模型(LLMs)中進行選擇;選擇資料來源,包括用於向量嵌入(vector embeddings ─ 將複雜的資料,如單詞、句子或文字檔,轉換為向量形式的表示)的 Microsoft Fabric OneLake 和 Azure AI Search,從而能夠使用即時資料微調回應,而無需重新訓練整個模型;並在部署後監控其模型的效能。
9. 用於企業人工智慧工作負載的新 Azure 晶片
Microsoft 正在更新其 Azure 基礎設施,針對人工智慧工作負載推出了新的晶片。為了加速人工智慧模型的訓練和生成式推論(generative inferencing),ND MI300 v5 虛擬機將會很快在 AMD 最新的 GPU(即 Instinct MI300X)上運行,而 Nvidia H100 晶片的新 NVL 變種將為目前處於預覽階段的 NC H100 v5VMs 提供動力。這些虛擬機將提供更多的 GPU 記憶體,以提高資料處理效率。
但 Microsoft 也正在引入自家的客製化晶片。它設計了 Azure Maia 以加速人工智慧訓練和推論工作負載,例如 OpenAI 模型、GitHub Copilot 和 ChatGPT。 Maia 配備了一個伴隨的晶片,名為 Azure Cobalt,用於處理一般(非人工智慧)的工作負載。
10. 使用 Windows AI Studio 更輕鬆地開發小型人工智慧應用程式
Azure AI Studio 專注於大型語言模型(LLMs),但人們現在對於使用針對特定任務進行訓練且資源密集度較低的生成式人工智慧模型越來越感興趣,而且模型足夠小,可以在個人電腦或行動裝置上本地運行。為了幫助開發人員定制和部署這種資源較小的生成式人工智慧模型(SLMs),Microsoft 將很快推出 Windows AI Studio。它將提供在雲端或網路邊緣運行模型的選項,並包括提示協調能力(prompt-orchestration capabilities),以確保模型在任何地方運行時保持同步。
11. 使用生成式人工智慧進行知識管理
Microsoft 的 Viva Engage 企業通訊工具提供了一種讓員工從同事那裡學習的方式。在這個工具中,有一個功能允許員工透過搜尋由主題專家提供的常見問題答案的資料庫來獲取知識。 Answers in Viva 的更新計畫即將在年底之前推出,它將新增一個使用人工智慧生成建議答案的選項,甚至包括這些建議答案所回應的相應問題。這項功能基於從其他來源導入的培訓文件,使用人工智慧技術生成問答內容。這項更新為企業提供一個快速轉換遠離舊有知識管理平台的方式,同時也讓企業能夠更容易地將在不同系統中存儲的大量資源共享到 Viva Engage 工具中,促進內部資源的流通與共享。
(本文授權非營利轉載,請註明出處:CIO Taiwan)