NVIDIA(辉达)今天宣布继近期在最新的AI训练测试中的隹绩,最新资料中心与边缘AI推论作业效能测试皆双双创下速度最快的成果。
|
NVIDIA EGX 平台 |
MLPerf Inference 0.5为业界首创独立AI推论测试基准套件,其结果向外界展现用於资料中心的NVIDIA Turing GPU与用於边缘运算的NVIDIA Jetson Xavier系统单晶片之优异表现。
MLPerf的五项推论基准适用於多种形式与四个推论情境,其中包含已经建立的影像分类、物体侦测和翻译等AI应用项目。
NVIDIA在资料中心伺服器与离线情境的五项基准测试中皆拔得头筹,Turing架构GPU在所有商用处理器中让各处理器均创下最隹的表现。Jetson Xavier在着重於边缘的单串流及多串流情境中,在所有商用边缘及行动系统单晶片中提供最高的效能。
NVIDIA加速运算部门??总裁暨总经理Ian Buck表示:「AI正处於一个转捩点,迅速从研究领域转向实际应用的大规模落地部署。AI推论有着十分吃重的运算要求。NVIDIA结合业界最先进的可编程加速器、CUDA-X AI演算法套件,以及在AI运算方面的深厚专业知识,可以帮助资料中心部署其庞大且不断增长的复杂AI模型。」
NVIDIA强调其运算平台在多种 AI 作业负载方面的可编程性和效能,是唯一一间在五项MLPerf基准测试中均创下亮眼成绩的公司。今年七月NVIDIA在AI训练MLPerf 0.6基准测试拿下第一,缔造了八项训练表现的最隹纪录。
NVIDIA GPU协助全球众多最大型云端基础设施加速大规模推论作业,包括阿里云、AWS、Google Cloud Platform、Microsoft Azure及腾讯云。现今AI延伸至行动点及资料建立的边缘,像是Walmart和P&G在内的全球各大企业和组织,都使用NVIDIA EGX边缘运算平台和AI推论效能,在网路边缘执行复杂的AI运算作业。
NVIDIA透过NVIDIA TensorRT 6高效能深度学习推论软体创下各项MLPerf测试隹绩,该软体可以在从资料中心到边缘轻松优化及部署正式生产环境中的AI应用程式。在Github档案库中也能以开放源码的型态取得新的TensorRT优化项目。
全新的Jetson Xavier NX
NVIDIA今日也推出Jetson Xavier NX为旗下的推论平台加入新生力军。Jetson Xavier NX是全球尺寸最小、功能最强大的AI超级电脑,能用於机器人和边缘嵌入式运算装置,在MLPerf Inference 0.5测试中使用的是Xavier系统单晶片的低功率版本。