账号:
密码:
CTIMES/SmartAuto / 新闻 /
NVIDIA 首度公布在 Arm 架构伺服器上的AI测试结果
 

【CTIMES/SmartAuto 籃貫銘 报导】   2021年09月23日 星期四

浏览人次:【1349】
  

NVIDIA 首度公布在 Arm 架构伺服器上的人工智慧推论效能测试结果,根据今天公布的基准测试结果,NVIDIA 在使用 x86 或 Arm 架构的 CPU 进行人工智慧 (AI) 推论方面取,得最隹成绩。这也是资料中心类别首次在 Arm 架构系统上进行测试。

/news/2021/09/23/1700056720S.jpg

依据NVIDIA公布的资料,搭载 NVIDIA AI 平台的电脑在最新一轮的七项推论效能测试中均拔得头筹,这些系统由 NVIDIA 及九个商业生态系合作夥伴所推出,包含阿里巴巴、戴尔科技 (Dell Technologies)、富士通 (Fujitsu)、技嘉 (GIGABYTE)、慧与科技 (Hewlett Packard Enterprise)、浪潮 (Inspur)、联想 (Lenovo)、Nettrix 及美超微 (Supermicro)。

推论是电脑运行 AI 软体来辨识物体或进行预测时发生的过程。这是一个使用深度学习模型来筛选资料的过程,以找出人类无法取得的结果。MLPerf 的推论基准是基於当今最热门的 AI 作业负载和情境,涵盖电脑视觉、医疗影像、自然语言处理、推荐系统与强化学习等。

最新的基准测试结果证明,作为一个 GPU 加速平台,采用 Ampere Altra CPU 的 Arm 架构伺服器在 AI 推论作业方面,提供与类似配置之 x86 架构伺服器几??相同的效能表现。事实上,在其中一项测试中,Arm 架构伺服器的表现甚至优於类似的 x86 架构系统。

Arm 高效能运算与开发工具部门资深总监 David Lecomber 表示:「作为 MLCommons 的创始成员,Arm 始终致力於发展各项标准和基准,以更好地因应加速运算产业的挑战并激发创新。在最新的推论结果中可以看到,搭载 Arm 架构的 CPU 及 NVIDIA GPU 的 Arm 架构系统,已准备好处理各种资料中心的 AI 作业负载。」

NVIDIA指出, NVIDIA TensorRT 软体可针对 AI 模型进行最隹化调整,以善加利用记忆体并提高运行速度。将它用来进行 MLPerf 测试,其可用於 x86 和 Arm 架构的系统。此外,他们也在这些基准测试中使用 NVIDIA Triton 推论伺服器软体和多执行个体 GPU (MIG) 功能。

由於 NVIDIA 不断改善此软体堆叠,与四个月前的 MLPerf 推论基准测试结果相比,其效能提升 20%,而能源效率亦上升 15%。

關鍵字: NVIDIA 
相关新闻
NVIDIA Isaac ROS 提供人工智慧感知能力给 ROS 开发人员
NVIDIA人工智慧感知技术将走进ROS社群 加速机器人应用开发
NVIDIA人工智慧感知技术将走进ROS开发者社群
NVIDIA在Interspeech大会分享表达性语言合成研究成果
NVIDIA大幅提升Facebook新一代计时系统精准度
comments powered by Disqus
相关讨论
  相关新品
Arduino Motor Shield
原厂/品牌:RS
供应商:RS
產品類別:
mbed
原厂/品牌:RS
供应商:RS
產品類別:
Arduino
原厂/品牌:RS
供应商:RS
產品類別:
  相关产品
» ATEN UC8000 MicLIVE荣获日本Good Design优良设计奖
» AMD Ryzen Threadripper PRO处理器提升NVIDIA云端游戏平台动能
» 意法半导体推出车用高整合度智慧高侧驱动器
» Diodes新款D类立体声音讯放大器提高效率和省电池量
» 施耐德推出EcoStruxure Secure Connect Advisor 助企业逐步实践数位转型
  相关文章
» 整合安全效能的新一代双模无线模组
» 如何透过技术联盟与专利组合攻略汽车晶片市场
» 7种常见的电动车模拟案例
» 借助自行调适系统模组 加速边缘创新
» 破解5G基地台迷思 评估大规模MIMO的电磁波效应
  相关资源
» Power Management Solutions for Altera FPGAs

AD


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw