Meta與AWS近日正式宣布簽署協議,Meta將大規模部署數千萬個AWS Graviton處理器核心,以支援Meta新一代AI系統建設,代表兩家公司長期合作夥伴關係的重大進展,同時反映AI基建架構正在轉變。
 |
| Meta將大規模部署AWS Graviton處理器,支援新一代AI系統建設 |
其中顯示GPU雖然仍主要用於大型模型訓練,但隨著Agentic AI應用增加,市場對高效能、節能運算基礎設施的需求亦前所未有地增長,CPU密集型工作負載,包括即時推理、程式碼生成、搜尋及多步驟任務協調和前瞻模型訓練等需求亦大幅上升。Graviton則主要專門針對此類工作負載設計,為Meta提供大規模高效運行所需的處理能力,驅動這些工作負載最高效的方式。
這些晶片將支援Meta多種工作負載的運算需求,相關工作需要能夠處理數十億次互動的基礎設施,同時協調複雜的多步驟Agentic工作流程,這正是Graviton所擅長的CPU密集型運算,Meta現已成為全球最大的Graviton客戶之一。
Amazon副總裁兼傑出工程師Nafea Bshara表示:「這不僅僅關乎晶片,更是為客戶提供基礎設施根基,以及資料和推論服務,以建構能夠理解、預測並高效擴展至全球數十億用戶的AI。Meta擴大合作,部署數千萬個Graviton核心,展示當專門設計的晶片與完整的AWS AI技術堆疊相結合,如何驅動新一代Agentic AI。」
Meta基礎設施主管Santosh Janardhan表示:「隨著我們擴展Meta AI願景背後的基礎設施,多元化運算資源是一項策略要務。AWS多年來一直是我們值得信賴的雲端合作夥伴,擴展至Graviton讓我們能夠以所需的效能和效率,大規模運行Agentic AI背後的CPU密集型工作負載。」
由於AWS從零開始設計晶片,並全面掌控從晶片設計到伺服器架構的完整流程,AWS Graviton5採用3奈米晶片技術,而能以現成處理器無法比擬的方式最佳化效能與能源效率,較上一代提升高達25%,可協助Meta在追求AI目標同時,持續推進永續發展目標。
隨著所有產業對AI運算的需求持續增加,底層基礎設施的效率變得愈加重要,無論是在管理成本還是減少環境影響方面。本次合作代表大規模AI基礎設施建設方式的新篇章,以及像Graviton這樣的專門設計晶片如何協助Meta等企業,為全球數十億用戶提供更智慧、更客製化的體驗。