晶心科技宣布與Lightweight Intelligence的創建者Deeplite, Inc.攜手合作,在基於AndeStar V5架構的晶心RISC-V CPU核心上配置高度優化的深度學習模型,使AI深度學習模型變得更輕巧、快速和節能。
近年來,諸如支援人工智慧(AI)的家庭助理等智慧裝置如雨後春筍般普及,為將極精簡的深度學習模型應用至日常生活提供了理想平台。為追求低功耗和低計算資源且有效運行,智慧裝置必須易於使用並能實時回應使用者請求。如今,因應複雜的AI模型計算和功耗需求,大多數智慧裝置必須將用戶數據和需求發送至雲端執行AI處理,再將結果傳回智慧裝置。
晶心科技和Deeplite聯手推出解決方案,使諸如智慧家庭助理的人機互動界面可以在本地操作,且幾乎不需要連線至雲端;當智慧家庭助理通過小型攝像機偵測到人時,裝置將會自動「喚醒」。其目標為優化在第一個採用DSP SIMD ISA的商業RISC-V核心Andes A25和D25F上運行的深度學習模型,適用於低成本的AI邊緣運算應用。
該團隊從在13MB大的Visual Wake Words(VWW)視覺喚醒關鍵詞數據集上訓練的MobileNet模型開始,使用Deeplite的硬體感知最佳化引擎,在精準度只降低1%的情況下,自動發現、訓練和運用小於188KB的新模型。
「我們發現越來越多的行業需要在我們具有DSP指令的RISC-V核心如A25和D25F上運行嵌入式、優化的深度學習模型以加速深度學習演算,」晶心科技技術長暨執行副總蘇泓萌博士表示,「Deeplite提供了一個可以在晶心內部使用的解決方案,同時也可以讓我們的客戶將在晶心RISC-V CPU核心上的深度學習演算法,運用至資源有限的邊緣裝置。」
「我對於這次的合作感到非常興奮!Deeplite不僅在最小精度的影響下提供了高達69倍深度學習模型的最佳化,我們也自動化以前費時又容易出錯的人工的神經網路架構設計。」Deeplite, Inc. CEO Nick Romano表示,「過去需要花費數週反覆測試才能完成的工作,現在可以在幾個小時內自動完成!結合Deeplite的Lightweight Intelligence 和晶心最好的CPU,使我們更進一步將AI推廣於日常生活中。」
透過將Deeplite領先業界的最佳化技術與晶心最先進的RISC-V CPU相結合,為如語音識別或人員偵測等所需的微控制器級記憶體及運算要求,原始設備廠商(OEM)和應用開發人員可以提供讓使用者可將數據保留在裝置上,亦同時仍能提供在世界各地真實環境下AI需有的實時且無縫響應等優勢。