MLCommons公布业界AI效能基准测试MLPerf Traning 3.0的结果,其中Habana Gaudi 2深度学习加速器和第4代Intel Xeon可扩充处理器,均取得优异的训练结果。
|
第4代Intel Xeon可扩充处理器,代号Sapphire Rapids |
英特尔执行??总裁暨资料中心与AI事业群总经理Sandra Rivera指出,MLCommons所公布的最新MLPerf结果,验证了Intel Xeon处理器和Intel Gaudi深度学习加速器在AI领域带给客户的TCO(Total Cost of Ownership)价值。Xeon内建加速器是在通用处理器上执行大量AI工作负载的理想解决方案,Gaudi则在大型语言模型和生成式AI方面提供具竞争力的效能。英特尔的可扩展系统搭配最隹化、易於程式设计的开放式软体,降低了客户和合作夥伴於资料中心部署各类云端到智慧边缘AI解决方案的门槛。
业界传闻生成式AI和大型语言模型(LLM)仅能在NVIDIA GPU上执行。新资料显示,英特尔的AI解决方案产品组合,为希??摆脱限制效率和规模的封闭生态系的客户,提供极具竞争力的选项。
最新的MLPerf Traning 3.0结果,突显出英特尔产品在一系列深度学习模型上的效能。以Gaudi2为基础的软体和系统,其训练成熟度在大型语言模型GPT-3上获得大规模的证实。在仅有两款提交GPT-3 LLM训练基准测试效能结果的半导体解决方案当中,Gaudi2是其中之一。
Gaudi也为客户提供极具竞争力的伺服器和系统成本优势。该加速器在GPT-3、电脑视觉和自然语言模型上经过MLPerf验证的效能,加上即将推出的软体进展,让Gaudi2相对於NVIDIA H100而言,在性价比上成为极具吸引力的选择。
在CPU方面,搭载英特尔AI引擎的第4代Xeon处理器所展现出的深度学习训练效能,让客户可以使用Xeon伺服器建构单一通用AI系统,用以资料预处理、模型训练和部署,藉此提供AI效能、效率、准确性和可扩展性的正确组合。
Habana Gaudi2结果:训练生成式AI和大型语言模型需要伺服器丛集来满足大规模的运算需求,GPT-3是款具备1750亿个叁数的严苛模型,MLPerf结果确切验证了Habana Gaudi2在GPT-3上的出色效能和高效扩展性。