恩智浦半导体公司今(5)日宣布在其eIQ AI和机器学习开发软体,新增具有检索增强生成(Retrieval Augmented Generation;RAG)微调功能的GenAI Flow和eIQ Time Series Studio两款新工具,以便轻松跨越从小型微控制器(MCU)到功能更强大的大型应用处理器(MPU)等各种边缘处理器,都能轻松部署和使用AI人工智慧。
|
恩智浦透过软体工具支援扩展边缘AI功能 |
迎合目前边缘部署AI能带来众多优势,包括降低延迟、加强用户隐私保护及减少能耗等。透过恩智浦eIQ工具套件扩展,将能显着简化并加速部署流程,帮助开发人员存取更广泛的模型类型,包括生成式AI、基於时间序列或基於视觉的模型,能让用户方便在各类边缘处理器上部署。恩智浦半导体资深??总裁暨工业与物联网事业部总经理Charles Dachs表示:「AI是实现根据使用者需求预测和自动化的关键,但必须以适合边缘部署的方式进行开发。」
由恩智浦提供即用型(ready-to-use)工具,则适用於MCX系列等MCU以及i.MX RT700等跨界MCU的小型AI模型,以及在i.MX 95应用处理器等功能更强大装置运行的大型生成式AI模型。为开发人员提供丰富的选择,涵盖各类AI模型和支援AI的边缘处理器,使边缘AI真正适用於各行各业的应用开发人员。
其中eIQ Time Series Studio提供自动化机器学习工作流程,可轻松在如MCX系列MCU或i.MX RT跨界MCU产品组合等MCU级装置,开发和部署基於时间序列(time series-based)的机器学习模型。
GenAI Flow为支援生成式AI解决方案的大型语言模型(Large Language Model;LLM)提供建构模组,可与恩智浦i.MX系列应用处理器MPU配合使用,透过在特定情境资料中训练LLM,能更轻松在边缘部署智慧应用。例如,配备LLM的电器经过用户手册训练後,能够用自然语言与使用者交流,告知用户如何使用特定功能、执行特定任务或最隹化使用和维护。