文／精誠集團
生成式AI技術發展一日千里，今年下半年逐步進入企業導入高峰期。精誠集團與客戶合作，整合產業知識，精準調教生成式AI，發展出有效使用大型語言模型的應用模式，從早期的語音與文字解讀，到影像辨識輔以圖數據分析運用，企業或組織可以根據自身需求，利用AI助理提升員工行政作業效率；或是整合圖像、文字與語音的客服機器人，大幅提昇客戶體驗。根據目前的市場反應，企業對生成式AI應用的需求逐步增高，有更多的企業將在第四季從目前的討論與POC階段進入實質導入使用階段。
精誠集團表示，過往企業在使用通用型的生成式AI常面臨有準確性不足、時效問題以及隱私安全等挑戰；此外，為了使用AI而大量運用算力衍生的成本問題也是企業遲遲不敢全面導入AI的考量點。精誠希望透過完整的生成式AI一條龍式的服務，大幅提高生成式AI的可信度與準確性，還可藉由權限的切分設計，確保數據的資安風險，同時也支援不同的雲地整合服務，並能幫助企業節省投資於大規模算力設備和訓練模型的繁瑣過程，有效降低企業導入AI應用的成本。
目前應用案例包含在金融業開發出虛擬小秘書，能解讀艱深的金融報導，並主動推播最新內容摘要給相關人員；在製造業可將現場老師傅經驗整理梳理後變成疑難雜症顧問機器人，加速現場工作效率與生產力：在醫療業已應用在檢驗報告解讀和手術前的小幫手，協助患者進行術前準備；在零售服務業已協助導入AI行銷平台，運用AIGC系統與APP建置，整合圖像辨識、產品知識及數據分析預測，提升客戶體驗及營運效率；在政府單位則藉由資料AI數位化，大幅縮短審查流程與時間，提昇公部門行政效率。
根據精誠近年來協助企業導入生成式AI解決方案的經驗，Vector RAG與Graph RAG技術成為企業是否能成功導入生成式AI應用的關鍵元素，Vector RAG是指可以向量為基礎的檢索增強生成，協助處理企業非結構化資料，包括公司規章辦法、管理手冊、新聞報導、網頁資訊等，同時可支援不同的生成式機器人，在多元情境中使用；Graph RAG則以知識為基礎的檢索增強生成，具有處理結構化資料的能力，可將數據轉換成AI可用的知識結構，幫助企業重新定義工作流程、提升效率與生產力，目前較廣泛的應用包含企業內部的業務、商務、財務等運營單位以及供應鏈、IT資安維運等面向。
展望第四季，精誠集團將持續發展百工百業在生成式AI的落地應用，結合集團在「雲端、數據、資安、軟體開發、維護維運」五大服務的應用量能，以及AI生態圈夥伴在軟硬體、研發、新創等領域的優勢，為企業提供最佳的AI賦能加速創新。目前相關AI應用服務已為集團帶來上億商機，也預期2025市場需求將持續增長，為營運增添成長動能。
