随着机器学习（ML）技术的快速进步，适合机器学习的新应用层出不穷。恩智浦（NXP）不断发展机器学习软体解决方案，以满足持续扩张的市场需求。在本文中，我们将了解恩智浦在eIQ机器学习软体环境中取得的一些最新技术进步。

发布一年，如今的恩智浦eIQ机器学习软体中增加了哪些新资源？

所有的机器学习应用，无论是用于云、移动设备、汽车还是嵌入式系统，都有某些共同之处，即开发人员必须收集和标记训练资料，训练和优化神经网路模型，并在处理平台上部署该模型。恩智浦的处理平台并非只侧重于云或移动设备，而是也非常重视为嵌入式应用（工业和物联网）和汽车应用（自动驾驶、感测器融合、驾驶监控和ADAS）实现机器学习。

物联网和工业导向的机器学习软体

2019年6月，恩智浦发布了eIQ机器学习软体发展环境，主要目的是在MCU和应用处理器方面上更好地部署开源推理引擎。目前这些引擎包括TensorFlow Lite、Arm NN、ONNX Runtime和OpenCV，如图1所示，它们以不同方式涵盖了所有计算引擎。

图一 : eIQ机器学习软体发展环境

在任何可能的情况下，我们都将优化整合到推理引擎中（例如TensorFlow Lite的性能调节后端），目的是让MCU和应用处理器运行更快速。为方便客户部署，在Yocto BSP和 MCUXpresso软体发展套件（SDK）中包括了这些引擎，以及所有必需的数据库和内核（例如CMSIS-NN、Arm Compute Library）。

恩智浦为这些开源推理引擎提供的一项重要支援服务是版本升级维护，无论这些升级是同步的（例如，Arm每季度发布Arm NN和Arm Compute Library）还是非同步的（Google不定期发布TensorFlow Lite版本），都涵盖在内。在快速发展的机器学习领域，这些升级和功能增强非常重要，它们提供更优良的性能，为更多神经网路操作员提供支援，允许他们使用更新的模型，另外还支援其他新功能。

eIQ Auto：汽车应用的深度学习工具

近来，随着机器学习技术在恩智浦公司内部的发展，eIQ机器学习软体已经成为一个概括性术语，代表了机器学习的多个方面。我们的汽车部门近期推出了eIQ Auto工具包，提供符合Automotive SPICE标准的深度学习工具，适用于恩智浦的S32V处理器系列和ADAS开发，从而让eIQ软体得到进一步增强。将这种技术应用于S32V处理器，可以提供高级别的功能安全性，支援ISO 26262，最高满足ASIL-C、IEC 61508和DO 178标准。

eIQ Auto工具的推理引擎包括一个后端，可自动选择给定神经网路模型的工作负载的最佳分区，涵盖器件中的所有不同计算引擎。 eIQ Auto工具还整合了量化、删除、压缩功能，可对任何给定神经网路进行处理。

图二 : eIQ机器学习软体的绩效基准

未来，恩智浦将推出eIQ机器学习软体的更新版本和全新版本，包含新增功能，为机器学习应用创造更多的价值。新的eIQ机器学习软体功能将包括模型优化（性能提高和容量减小）和增强功能，让机器学习软体更易于使用，相关细节有待进一步披露。

对于恩智浦而言，机器学习的未来在于更快捷、更简单地使用功能更多的软体，所有这些优势都有利于机器学习在业界得到广泛采用。

作者简介

Markus Levy在2017年加入恩智浦半导体，担任人工智慧和机器学习技术主管。该职位主要专注于恩智浦微控制器和i.MX应用处理器产品系列的人工智慧和机器学习功能的技术战略、产品roadmap和行销策略。