恩智浦半導體公司今(5)日宣佈在其eIQ AI和機器學習開發軟體,新增具有檢索增強生成(Retrieval Augmented Generation;RAG)微調功能的GenAI Flow和eIQ Time Series Studio兩款新工具,以便輕鬆跨越從小型微控制器(MCU)到功能更強大的大型應用處理器(MPU)等各種邊緣處理器,都能輕鬆部署和使用AI人工智慧。
|
恩智浦透過軟體工具支援擴展邊緣AI功能 |
迎合目前邊緣部署AI能帶來眾多優勢,包括降低延遲、加強用戶隱私保護及減少能耗等。透過恩智浦eIQ工具套件擴展,將能顯著簡化並加速部署流程,幫助開發人員存取更廣泛的模型類型,包括生成式AI、基於時間序列或基於視覺的模型,能讓用戶方便在各類邊緣處理器上部署。恩智浦半導體資深副總裁暨工業與物聯網事業部總經理Charles Dachs表示:「AI是實現根據使用者需求預測和自動化的關鍵,但必須以適合邊緣部署的方式進行開發。」
由恩智浦提供即用型(ready-to-use)工具,則適用於MCX系列等MCU以及i.MX RT700等跨界MCU的小型AI模型,以及在i.MX 95應用處理器等功能更強大裝置運行的大型生成式AI模型。為開發人員提供豐富的選擇,涵蓋各類AI模型和支援AI的邊緣處理器,使邊緣AI真正適用於各行各業的應用開發人員。
其中eIQ Time Series Studio提供自動化機器學習工作流程,可輕鬆在如MCX系列MCU或i.MX RT跨界MCU產品組合等MCU級裝置,開發和部署基於時間序列(time series-based)的機器學習模型。
GenAI Flow為支援生成式AI解決方案的大型語言模型(Large Language Model;LLM)提供建構模組,可與恩智浦i.MX系列應用處理器MPU配合使用,透過在特定情境資料中訓練LLM,能更輕鬆在邊緣部署智慧應用。例如,配備LLM的電器經過用戶手冊訓練後,能夠用自然語言與使用者交流,告知用戶如何使用特定功能、執行特定任務或最佳化使用和維護。