第5代AMD EPYC處理器為Google Cloud TPU 8tx主機基礎設施提供運算支援，協助企業保護敏感的AI模型
文／AMD
AMD宣布，第5代AMD EPYC處理器為Google Cloud TPU 8tx的主機基礎設施提供運算支援，這是首款具備硬體強制執行機密運算的雲端張量處理單元（TPU）系統。雙方擴大合作，結合AMD EPYC CPU效能、AMD Infinity Guard安全功能與x86軟體相容性，以及Google Cloud TPU的AI加速能力，協助企業部署推論、微調與強化學習工作負載。藉由第5代AMD EPYC主機處理器支援TPU 8tx上的Google Cloud機密運算架構，企業無須犧牲資料保護，即可在雲端大規模執行高度敏感的AI工作負載。
此次部署進一步鞏固AMD EPYC處理器作為加速AI基礎設施核心的地位。在採用GPU與客製化加速器建置的系統中，AMD EPYC CPU為主機處理的首選，負責資料準備、協調工作負載，以及管理與加速器之間的通訊。透過TPU 8tx，AMD與Google Cloud將上述能力與基於硬體信任根安全機制（Hardware-Rooted Security）相結合，以因應AI正式部署的關鍵需求：保護使用中的資料。
AMD資深副總裁暨運算與企業級AI事業群總經理Dan McNamara表示：「最強大的AI系統需要能匹配其所搭載加速器需求的CPU基礎。歷經多個世代的EPYC產品，我們在效能、記憶體頻寬與I/O方面建立了領先優勢，確保加速運算系統維持高效運作，背後更有我們與全球領先雲端服務供應商多年來的工程合作作為後盾。我們與Google Cloud的合作將此優勢導入TPU 8tx，協助客戶以其最關鍵工作負載所需的效能與防護，擴大AI規模。」
Google Cloud AI與運算基礎架構副總裁暨總經理Mark Lohmeyer表示：「當團隊將AI代理導入正式生產環境時，必須確信其資料與智慧財產權受到保護，即使是底層基礎設施亦然。藉由在AI超級電腦（AI Hypercomputer）中結合第5代AMD EPYC處理器與第8代TPU架構，我們首度為雲端TPU導入硬體強制執行的機密運算。客戶不僅能獲得晶片級的資料保護，還能享有現代推理模型所需的低延遲效能。」
藉由AMD EPYC處理器實現機密AI
在TPU 8tx系統中，第5代AMD EPYC處理器負責工作負載編排、資料準備，以及與TPU加速器之間的高吞吐量通訊。此系統運用AMD EPYC CPU中的AMD安全加密虛擬化功能，並與TPU協同運作，將機密運算防護範圍從CPU延伸至所連接的加速器，協助保護在各元件之間流通的敏感資料。
在授予加速器直接存取受保護記憶體的權限之前，會先驗證其身分與安全性配置，協助確保客戶的提示詞、模型權重與中介資料，在CPU記憶體中以及在主機與加速器之間傳輸時，皆維持加密狀態，並在加速器執行期間進行硬體隔離。這些防護機制協助企業在推論與代理式AI應用中使用敏感資訊。
AMD EPYC處理器同時是Google Cloud更廣泛機密運算產品組合的基礎：AMD SEV技術協助保護機密VM、機密GKE、Confidential Space、Apache Spark機密代管服務（Confidential Managed Service for Apache Spark）以及機密Dataflow的工作負載。TPU 8tx則進一步將雙方合作延伸至機密AI加速領域。
經驗證的主機CPU基礎，支援AI架構
隨著超大規模雲端服務供應商、前沿實驗室與模型供應商建置日益專業化的AI基礎設施，CPU的選擇對於系統效能與部署依然至關重要。加速器仰賴主機處理器供應資料、排程工作，並將AI工作負載與周邊的應用程式及服務串接。AMD EPYC處理器是超過10家領先的超大規模雲端服務供應商與前沿AI實驗室的首選主機CPU，涵蓋GPU與客製化AI加速器ASIC。
無論是採用AMD Instinct GPU、NVIDIA GPU或客製化晶片的系統，AMD EPYC處理器皆能勝任此角色。如此廣泛的支援，讓客戶無論選擇何種加速器，皆能採用經驗證的CPU平台，並獲得成熟x86軟體產業體系的支援。
奠基於AMD與Google Cloud歷經多個世代的合作
AMD與Google Cloud的合作歷經多個世代的EPYC處理器，支援通用型、運算密集型、儲存密集型與加速型工作負載，合作成果涵蓋目前的Google Cloud Compute Engine的C4D、N4D、H4D、Z4D與G4虛擬機器。雙方多年來亦在企業級的安全技術上緊密合作，包括由Google安全專家針對AMD安全處理器韌體進行深度審查。
透過TPU 8tx，雙方進一步擴大的合作協助企業在生產環境中運行現代推理與代理式AI工作負載，同時確保資料受到完善保護。
