搜尋

會員登入

搜尋

導覽

會員
廣告

蘇姿丰:異質資料中心環境建置需要CPU、GPU與專用ASIC多元組合

瀏覽次數:61

隨著人工智慧技術由單純模型訓練邁向實際推論與「代理式AI(Agentic AI)」應用,市場對資料中心運算架構的靈活性提出更高要求。晶片大廠超微(AMD)董事長暨執行長蘇姿丰博士於OCP 2026主題演講中強調,未來的運算架構絕非「一體適用(one-size-fits-all)」,AMD將持續透過開放標準與異質運算生態系,打破單一廠商綁定,協助客戶建構高彈性且高效益的AI基礎設施。

AMD董事長暨執行長蘇姿丰博士表示:「當我們以開放產業體系的形式攜手合作,便能加快創新步伐,並為客戶帶來更卓越的解決方案。」

AMD董事長暨執行長蘇姿丰博士
AMD董事長暨執行長蘇姿丰博士

AMD持續透過參與共通標準與設計,以及攜手合作夥伴,推動開放運算產業體系的發展,將這些標準落實為AI基礎設施。目前,推論(即執行已訓練完成的AI模型)已成為最主要的AI工作負載,而代理式AI更進一步帶動對伺服器處理器與繪圖處理器的需求。隨著AI能力不斷提升,使用者將隨之增加,靈活的開放式設計將有助於滿足日益成長的需求。

代理式AI具備保留上下文、運用工具,並反覆進行模型互動以完成任務的特性,進而提升AI基礎設施各層面的運算需求。客戶需要能針對不同工作負載調配運算資源的系統,這仰賴於處理器、網路、軟體與機櫃設計的協同創新,並需要開放標準提供共同基礎,協助客戶與合作夥伴依據自身需求建構基礎設施,並隨AI工作負載的演進靈活調整。

AMD董事長暨執行長蘇姿丰博士表示:「市場上將出現各式各樣的加速器,這並非一體適用(one-size-fits-all),也沒有單一公司能包辦所有最佳元件。我們希望讓異質資料中心環境的建置變得極為簡單,因為我們堅信,未來必然需要CPU、GPU與專用ASIC的多元組合。」

繼2025年於OCP首次亮相的一週年之際,AMD Helios現已進入量產,客戶交付、部署與工作負載驗證皆已展開。每座機櫃皆整合AMD Instinct GPU、AMD EPYC處理器、AMD Pensando網路技術以及AMD ROCm軟體產業體系,將運算、記憶體與網路整合為單一系統,以支援大型AI工作負載。

大型AI模型需要龐大的運算力、足以容納模型及其運算資料的記憶體容量,以及機櫃內與機櫃間的高速連接。此外,客戶亦需要能穩定部署、維護與擴充的基礎設施。AMD Helios透過基於開放標準的整合式機櫃設計滿足上述需求,搭配持續更新的ROCm軟體,能在相同硬體條件下提升效能,協助客戶從投資中獲得更高效益。

AMD董事長暨執行長蘇姿丰博士指出:「Helios絕對是AMD與合作夥伴至今所打造最先進、最精密的系統。」

AMD攜手Meta及廣泛的OCP社群共同設計AMD Helios,結合機櫃、電源系統與硬體管理的共享設計。目前,首批系統已於OpenAI、Meta、微軟與Oracle完成安裝並正式運作。

客戶與合作夥伴的參與,有助於AMD Helios貼近實際工作負載與運作條件進行設計。透過採用共通的機櫃、電源與網路設計,AMD能夠運用社群累積的工程成果,將自身資源集中於提升運算效能。軟體社群支援開發者工具,雲端服務供應商將平台帶給其客戶,系統合作夥伴則負責建構與交付系統。此合作模式為客戶提供多元的AI基礎設施部署選擇,同時為AMD Helios在業界的廣泛採用創造更多機會。

AMD董事長暨執行長蘇姿丰博士表示:「並非每個問題都需要投入相同的運算資源。理想的做法是根據不同的應用,配置最合適的模型與運算資源。這正是關鍵所在,以及整體開放環境的核心價值。」

AMD Helion機櫃為代理式AI的下一階段提供了架構藍圖。AMD Helion讓客戶能針對代理式工作負載,彈性配置CPU核心密度、效能與功耗,提供適用於超大規模部署的純CPU配置,以及適用於企業級應用的整合式CPU/GPU配置。合作夥伴可依據客戶的工作負載、功耗需求與現有基礎設施靈活調整CPU與GPU配置。AMD Helion內建的模型路由器,可於先進與開源模型中分派代理程式發出的模型呼叫。AMD Helion代理式機櫃配置目前正與產業體系合作夥伴共同開發中,預計於2026年11月提供。(詳情請參閱新聞稿:AMD推出AMD Helion,實現機櫃級代理式AI運算)

代理式AI為整體運算系統帶來全新需求。單一請求可能同時呼叫商業應用程式、查詢資料庫、執行程式碼,以及協調複雜的工作流程。負責執行與支援這些工作的處理器,必須與模型推論需求一同擴展。透過AMD Helion,合作夥伴能整合最佳化的運算資源、開放軟體與靈活的機櫃設計,打造符合特定需求的配置,讓客戶能依據各項工作負載彈性調配運算資源、管理功耗與成本,並善用現有的基礎架構投資。AMD計畫將AMD Helion架構提交予OCP。

AMD董事長暨執行長蘇姿丰博士表示:「開放是AMD一貫秉持的核心價值,並貫穿各個層面,包括硬體、規格,以及與合作夥伴協作。在軟體層面,我們與各家軟體供應商合作,確保各項資源能夠整合。在產業體系層面也是如此。」

AMD透過廣泛的運算產品組合、靈活的開放平台,以及與客戶和合作夥伴共同打造的整合式機櫃解決方案,推動AI基礎設施發展。AMD Helios將此策略應用於大規模模型訓練與推論,AMD Helion則進一步將其延伸至代理式AI,並以開放硬體、AMD ROCm軟體與業界共通標準串連各項布局。

AI的規模化部署需要處理器、記憶體、網路、軟體與機櫃設計之間的協同整合,而代理也帶來新的挑戰。透過與合作夥伴開放協作,整個產業體系能匯聚各方專業知識,並在既有的共同成果上持續發展,讓客戶能自由選擇如何部署及擴展AI基礎設施。

Microchip資料中心伺服器(Data Center Server)時脈與同步模組解決方案
特別企劃〉電子科技〉

Microchip資料中心伺服器(Data Center Server)時脈與同步模組解決方案

Microchip提供完整的Timing & Synchronization(時脈與時間同步)產品組合,涵蓋伺服器主板、PCIe®介面、高速網路、AI加速器、儲存系統以及…

Microchip提供完整的Timing & Synchronization(時脈與時間同步)產品組合,涵蓋伺服器主板、…