社交媒體巨頭 Meta 宣布與 Amazon Web Services 達成重大協議,將大規模部署 AWS Graviton 處理器,首批部署涉及數千萬個核心,並保留隨 AI 能力增長而擴展的彈性,此舉令 Meta 躍升為全球最大 Graviton 客戶之一,亦標誌着 AI 基建的競爭焦點,正由 GPU 獨大轉向 CPU 與 GPU 並重的多元架構。
根據 AWS 公布,Meta 部署 Graviton5 處理器,該晶片擁有 192 個核心,快取容量比上代大 5 倍,核心間通訊延遲降低達 33%,這些晶片將驅動 Meta 的各種工作負載,包括支援其 AI 計劃——需要處理數十億次互動,並協調複雜的多步驟代理工作流程。
AWS 指出,這宗交易反映 AI 基建建構方式的轉變:雖然 GPU 對訓練大型模型仍然關鍵,但代理式 AI(agentic AI)的興起,正創造對 CPU 密集型工作負載的巨大需求,包括實時推理、程式碼生成、搜尋,以及協調多步驟任務,Graviton5 正是為這類工作負載而設計。
代理式 AI 帶動 CPU 強勁需求
「代理式 AI 工作負載如程式碼生成、實時推理和前沿模型訓練,都是 CPU 密集型的,而專用晶片是驅動它們最高效的方式,」AWS 在新聞稿中強調,Graviton 建基於 AWS Nitro System,以專用硬件和軟件提供高效能、高可用性和高安全性,並已獲全球 9 萬名客戶採用。
Meta 的選擇具有行業指標意義,作為全球 AI 研究的重鎮,Meta 同時大量採用 GPU 訓練 Llama 等模型,如今大舉採用 Graviton,顯示在推理和代理工作負載上,CPU 的性價比和能效比已足以與 GPU 分庭抗禮,這對整個 AI 基建市場的投資方向發出了清晰訊號。
算力多元化成基建新趨勢
對關注 AI 發展的香港科技界而言,這宗交易揭示了「算力多元化」的趨勢,未來的 AI 競賽不再只是 GPU 數量的比拼,而是如何針對不同工作負載,配置最適合的晶片架構,這種精細化的基建策略,或許比盲目追求最強硬件更為關鍵。
數千萬個核心的部署規模,足以刷新外界對 CPU 需求的想像,過去 AI 敘事幾乎被 GPU 壟斷,市場談算力必言 NVIDIA;Meta 這次大手筆採購 Graviton,等於公開承認一個業界心照不宣的事實:當 AI 由「訓練模型」轉向「營運代理」,推理、檢索、編排等日常任務才是算力消耗的大宗,而這些正是 CPU 的主場。
這對雲端市場格局亦有深遠影響,AWS 憑自研晶片構建了「GPU 之外」的第二條戰線,當其他雲端供應商仍依賴外購晶片,AWS 已能提供由晶片到服務的垂直整合方案,Meta 的選擇證明,對於需要同時兼顧成本和效能的超大規模用戶,這種整合能力是難以抗拒的賣點,AI 基建的下一章將是晶片設計能力之爭。
從能源角度看,Graviton 的吸引力還在於能效,AI 數據中心的耗電已成全球關注議題,Meta 等巨頭面對的 ESG 壓力與日俱增,專用晶片在完成相同工作負載時耗電更低,意味著同樣的電力配額可以支援更多 AI 服務,當「每瓦效能」成為數據中心的新 KPI,晶片的選擇便不只是技術問題,更是企業可持續發展承諾的一部分。
