MLCommons公布業界AI效能基準測試MLPerf Traning 3.0的結果，其中Habana Gaudi 2深度學習加速器和第4代Intel Xeon可擴充處理器，均取得優異的訓練結果。

第4代Intel Xeon可擴充處理器，代號Sapphire Rapids

英特爾執行副總裁暨資料中心與AI事業群總經理Sandra Rivera指出，MLCommons所公布的最新MLPerf結果，驗證了Intel Xeon處理器和Intel Gaudi深度學習加速器在AI領域帶給客戶的TCO（Total Cost of Ownership）價值。Xeon內建加速器是在通用處理器上執行大量AI工作負載的理想解決方案，Gaudi則在大型語言模型和生成式AI方面提供具競爭力的效能。英特爾的可擴展系統搭配最佳化、易於程式設計的開放式軟體，降低了客戶和合作夥伴於資料中心部署各類雲端到智慧邊緣AI解決方案的門檻。

業界傳聞生成式AI和大型語言模型（LLM）僅能在NVIDIA GPU上執行。新資料顯示，英特爾的AI解決方案產品組合，為希望擺脫限制效率和規模的封閉生態系的客戶，提供極具競爭力的選項。

最新的MLPerf Traning 3.0結果，突顯出英特爾產品在一系列深度學習模型上的效能。以Gaudi2為基礎的軟體和系統，其訓練成熟度在大型語言模型GPT-3上獲得大規模的證實。在僅有兩款提交GPT-3 LLM訓練基準測試效能結果的半導體解決方案當中，Gaudi2是其中之一。

Gaudi也為客戶提供極具競爭力的伺服器和系統成本優勢。該加速器在GPT-3、電腦視覺和自然語言模型上經過MLPerf驗證的效能，加上即將推出的軟體進展，讓Gaudi2相對於NVIDIA H100而言，在性價比上成為極具吸引力的選擇。

在CPU方面，搭載英特爾AI引擎的第4代Xeon處理器所展現出的深度學習訓練效能，讓客戶可以使用Xeon伺服器建構單一通用AI系統，用以資料預處理、模型訓練和部署，藉此提供AI效能、效率、準確性和可擴展性的正確組合。

Habana Gaudi2結果：訓練生成式AI和大型語言模型需要伺服器叢集來滿足大規模的運算需求，GPT-3是款具備1750億個參數的嚴苛模型，MLPerf結果確切驗證了Habana Gaudi2在GPT-3上的出色效能和高效擴展性。