人工智慧技術由單純的提示詞回應邁向能夠自主執行複雜任務的代理式AI階段，資料中心對 CPU 的架構與效能要求也發生根本性的轉變。Arm 雲端 AI 解決方案架構總監 Ravi Malhotra 指出，根據創投機構 a16z 援引 OpenRouter 的數據，自 2026 年 2 月以來，AI 代理的 Token 使用量已激增約 14 倍。AI 代理的本質如同具備持久運算環境的「虛擬使用者」，不僅需保持上下文狀態、呼叫工具與 API，還要反覆驗證執行結果直至任務達成。
Malhotra 強調，當前 AI 代理已衍生出軟體工程、企業自動化、科學研究、個人助理與機器人代理等五大原型場景。在這些架構中，CPU 扮演著至關重要的角色：一方面要作為 AI 主節點（head node）負責作業調度、資料傳輸與環境編排，確保昂貴的加速器（GPU/XPU）維持高利用率；另一方面，大量工具呼叫與資料檢索也疊加放大了雲端原生的工作負載。
面對數百萬甚至數十億個代理全天候運行的極高併行需求，傳統以理論峰值算力為導向的指標已不再適用。如果系統在資源利用率上升時吞吐量急劇下滑，便無法保證任務完成率。因此，在功耗、散熱與物理空間限制下，評估「單機櫃可持續交付的有效工作負載」成為新的核心準則。
針對代理式 AI 的工作負載特性，Arm 與富士通（Fujitsu）、Meta 及 OpenAI 共同開發了一套全新的 CPU 效能評測方法論白皮書。該框架立足於三大核心原則：具有代表性的 AI 代理應用場景、可重複執行的 CPU 效能測量，以及端到端的結果驗證。
在產業觀點方面，富士通研究所資深副總裁 Toshio Yoshida 指出，開發次世代高效能 CPU（如 FUJITSU-MONAKA）亟需透明且具代表性的評測體系；Meta 軟體工程師 Abhishek Dhanotia 與 OpenAI 全球前線部署工程負責人 Colin Jarvis 亦肯定此標準能反映工具執行與任務編排的底層系統負荷，有助於推進整體 AI 基礎設施的最佳化。
透過第三方評測機構 Signal65 的獨立驗證，Arm 將專為代理式工作負載設計的 Arm AGI CPU 與主流 x86 伺服器處理器 AMD EPYC Turin（如 9755、9965）進行了嚴格的機櫃級比對，在包含 Nginx、MySQL、SWE-bench 等 7 項關鍵負載測試中，Arm AGI CPU 的機櫃級模型平均效能達到 AMD EPYC 9755 的 1.99 倍。在工具呼叫（Tooling）場景中達 1.7 倍、工作流程與任務編排（Orchestration）達 2.0 倍，推論與規劃（Reasoning & Planning）場景更達 2.2 倍。針對 AI 代理安全性所需的沙盒環境，Arm AGI CPU 相較對比平台最多可將沙盒建立延遲降低 45%，顯著減少運作時的系統稅（execution tax）。
在生態落地方面，Arm 正推動將 Arm AGI CPU 參考伺服器貢獻至開放運算計畫（OCP），Meta 也已在其 Yosemite YV5 機櫃設計中導入 Arm AGI CPU，聯手技嘉、美超微（Supermicro）、聯想等硬體夥伴加速次世代 AI 資料中心的全面普及。
