文／鄭宜芬
2024 年為 AI PC 元年，台灣人工智慧實驗室（Taiwan AI Labs）27 日宣布與慧與科技 （HPE） 共同簽署合作備忘錄（MOU），將以可信任、負責任的 FedGPT，全面提供所有企業以及公、私部門 AI PC 落地服務。
台灣人工智慧實驗室今年第三季攜手慧與科技，已在大學、企業等多個領域，推出完全落地 FedGPT 案例。FedGPT 為台灣人工智慧實驗室所開發的聯邦式 GPT，目前已成功搭載 HPE 伺服器為運算核心，應用場景多樣，例如在校園，可解答學生關於學校生活的疑難雜症；在企業，則輔助法務合規。
FedGPT 在訓練過程中所使用的資料、知識內容，皆完全留在企業或校園內，並遵循內部資訊安全與資料治理的規範，不將內部資料傳到外部第三方雲服務。此外，FedGPT 也通過資安、隱私、幻想與偏見的嚴謹測試，落實「可信任、負責任」的科技原則。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
台灣人工智慧實驗室與慧與科技的合作，除 FedGPT 提供滿足醫院、學校與企業的 AI 平台，還為企業專門設計 AutoKB，讓專業人員可主動建立有效知識庫；AutoCopilot 整合企業內部 API，自動串接企業內部系統平台；AutoML 在語言模型與各種專業領域模型可自主學習，同時整合企業內部帳號管理權限，建立分權、分功能的保護與稽核追蹤。企業在聯盟資料的治理下，更可做到機敏資料不出機構，藉由聯合學習、驗證和分析功能，為企業建立最強的跨組織大腦。
HPE ProLiant Servers 系列則是專為 AI 應用設計的伺服器，目前搭載 Intel Xeon Scalable 系列處理器與 NVDIA 高速運算 GPU 晶片，協助生成式 AI 應用的快速部署。未來也將佈局整合更多 AI 時代尖端硬體。
[ 推薦閱讀：HPE液冷解決方案助力AI資料中心提升效能、密度及永續性 ]
聯邦式架構可降低 LLM 運算成本、保護隱私
國際數據資訊（IDC）預測，2024 年至 2027 年間，全球 AI PC 的出貨量將從近 5000 萬台增長至逾 1.67 億台。至 2027 年末，AI PC 將佔全球所有 PC 出貨量近 60%。
台灣人工智慧實驗室創辦人杜奕瑾指出，未來 2 到 3 年是 AI PC 商機爆發性成長的關鍵期。聯邦式架構讓大語言模型運算從雲端轉移到本地端裝置上運行，可降低運算成本、提升效能，且進一步落實資料隱私保護。
杜奕瑾指出，如今各行各業都用得到 AI 服務。台灣的下一波機會在於最強的軟體與硬體夥伴結盟，建立企業組織內私有網路、私有雲的專用模型，提供客戶最完整實惠「可信任、負責任」解決方案。如此，才能讓台灣在全球 AI 產業供應鏈中，成為世界產業應用關鍵角色。台灣人工智慧實驗室將以和慧與科技的合作關係為開端，推動更多夥伴鏈結，打造豐富的 AI 應用生態圈。
慧與科技董事長王嘉昇表示，此次合作是雙方重要的里程碑。結合 FedGPT 的技術優勢與 HPE 伺服器的運算能力，可預期生成式 AI 在各產業廣泛應用，期待這次合作帶來全新市場契機，促進台灣 AI 技術與產業的共同進步。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
