MLPerf v3.0 AI 推论 (Inference) 效能基准测试中,创鑫智慧 (NEUCHIPS)世界首款专为资料中心推荐模型 (Recommendation Model) 设计的AI加速器RecAccel N3000,在伺服器领域的能源效率 (Energy efficiency)上,领先AI大厂辉达 (NVIDIA),成为世界第一能效的AI加速平台。
|
/news/2023/04/18/1314294570S.jpg |
MLPerf v3.0 AI 推论测试是由致力提升机器学习技术和应用的开放工程联盟 MLCommons所进行。创鑫智慧此次采用技钢 G482-Z54 伺服器搭载 AMD EPYC 7452 32 核CPU及8张RecAccel N3000 32G PCIe 加速卡执行DLRM测试。
根据MLCommons公布的测试数据,在资料中心推荐系统领域,RecAccel N3000 系统除了展现其100%的效能扩充性 (Performance Scalability) 之外,在每瓦可处理1,060次查询 (Queries) 的评策上,能效为对手NVIDIA H100的1.7倍,高居榜首。未来计画推出的RecAccel Quad N3000 PCIe 卡更能提供高达 2.2倍的卓越效能。
「为实现量大、精准、即时且节能的人工智慧运算,我们必须找到更可持续和环境友好的解决方案,这不仅仅是一个商业挑战,更是对社会责任和绿色发展的追求,」创鑫智慧创办人暨董事长林永隆博士表示。「我们以具体行动证明我们对永续发展的承诺,除了在 MLPerf测试中取得最隹表现,我们还将推出专为开放运算计画 (OCP) 设计的 DM.2 模组,继续引领产业发展,提供更多协助云端服务供应商与资料中心节省成本的平台方案,并助力 AI 技术的繁荣与成长。」
AMD策略业务发展全球??总裁Kumaran Siva则表示:「AMD提供高效能运算产品,帮助智慧系统有效管理复杂的资料集。我们非常高兴能与创鑫智慧合作,藉由AMD EPYC处理器为MLPerf v3.0中的DLRM推理实现领先的效能及能耗。我们期待持续与创鑫智慧协同发展与创新,为市场提供不断引领先进技术的人工智慧解决方案。」