搜尋

會員登入

搜尋

導覽

會員
廣告

英特爾:代理型AI顛覆運算需求 CPU成為調度與編排關鍵核心

瀏覽次數:58

人工智慧技術從單純的問答對話快速演進至能夠自主推理、調用工具並協同運作的代理型AI(Agentic AI),全球企業的運算基礎設施正面臨結構性重塑。英特爾明確指出:面對複雜的 Agentic AI 工作流程,企業必須告別「僅聚焦 GPU」的單點思維,回歸由系統層級出發的平衡配置與總體擁有成本(TCO)最佳化。

在傳統生成式 AI 時代,算力核心高度依賴 GPU 進行大規模矩陣運算。然而,英特爾於白皮書《System-Level TCO in Agentic AI: Optimizing CPU:GPU Ratios with CPU-Bound Work》中提出定量分析:Agentic AI 涉及規劃(Planning)、檢索(Retrieval)、多代理協調(Multi-Agent Coordination)、邏輯驗證與大量 API 工具調用。這些高度密集的控制平面與編排工作,本質上高度依賴 CPU 的單執行緒效能、記憶體頻寬與低延遲通訊。

若缺乏強大的 CPU 與系統子系統支援,昂貴的 GPU 往往會因等待調度而處於閒置狀態。英特爾強調,企業必須同步考量 CPU:GPU 的黃金配比、記憶體容量、網路及控制平面的協同設計,才能真正優化端到端延遲、整體傳輸吞吐量與長期 TCO。

為因應 Agentic AI 帶來的高併發與長上下文挑戰,英特爾在國際半導體晶片大會(Hot Chips)上公開了下一代旗艦伺服器處理器 Diamond Rapids,採用先進的 Intel 18A-P 製程核心晶粒與 Foveros 3D Direct 封裝技術,引進扇出型網狀架構(Fan-out Fabric Architecture)。Diamond Rapids 最高可提供多達 256 個高效能核心、1.28 GB 的超大末級快取(LLC),以及支援高達 12,800 MT/s 的 MRDIMM 高速記憶體,為 Agentic AI 中 CPU 主導的複雜編排與推論提供極致的資料移動吞吐量。

推論專用 GPU Crescent Island能以每瓦輸出 Token 數(Tokens/Watt)為核心設計指標,採用 Xe3P GPU 架構與開放標準的 PCIe 形態,配備 350W 氣冷散熱設計 與最高達 480GB 的 LPDDR5x 記憶體容量。其藉由高記憶體容量大幅優化 KV-Cache 保留能力,能以極佳的 TCO 支援超長上下文與多模型並行推論。

除了高階資料中心,英特爾亦展示了代號為 Wildcat Lake 的 Core 系列處理器,透過導入標準化 UCIe 晶粒互連與有機 MCP 封裝大幅降低平台成本,讓高能效的 AI 推論算力延伸至機器人、智慧終端與實體 AI(Physical AI)邊緣場景。

打通 3D IC 設計任督二脈:從架構探索到最終簽核的加速實踐

打通 3D IC 設計任督二脈:從架構探索到最終簽核的加速實踐

Chiplet 與異質整合正在改變半導體設計。透過高效能中介層與先進封裝,設計團隊可將不同製程、不同供應商的運算、記憶體、I/O 與加速器 IP,整合為複雜的系統級封裝。…

Chiplet 與異質整合正在改變半導體設計。透過高效能中介層與先進封裝,設計團隊可將不同製程、不同供應商的運算、記憶體…