32/64位元高效能、低功耗、精简RISC-V CPU 核心的领导供应商、RISC-V基金会创始白金会员晶心科技,与Lightweight Intelligence的创建者,总部位於加拿大蒙特利尔的新创公司Deeplite, Inc.,今日宣布将携手合作,在基於AndeStar V5架构的晶心RISC-V CPU核心上配置高度优化的深度学习模型,使AI深度学习模型变得更轻巧、快速和节能。
近年来,诸如支援人工智慧(AI)的家庭助理等智慧装置如雨後春笋般普及,为将极精简的深度学习模型应用至日常生活提供了理想平台。为追求低功耗和低计算资源且有效运行,智慧装置必须易於使用并能实时回应使用者请求。如今,因应复杂的AI模型计算和功耗需求,大多数智慧装置必须将用户数据和需求发送至云端执行AI处理,再将结果传回智慧装置。
晶心科技和Deeplite联手推出解决方案,使诸如智慧家庭助理的人机互动界面可以在本地操作,且几??不需要连线至云端;当智慧家庭助理通过小型摄像机侦测到人时,装置将会自动「唤醒」。其目标为优化在第一个采用DSP SIMD ISA的商业RISC-V核心Andes A25和D25F上运行的深度学习模型,适用於低成本的AI边缘运算应用。
该团队从在13MB大的Visual Wake Words(VWW)视觉唤醒关键词数据集上训练的MobileNet模型开始,使用Deeplite的硬体感知最隹化引擎,在精准度只降低1%的情况下,自动发现、训练和运用小於188KB的新模型。
「我们发现越来越多的行业需要在我们具有DSP指令的RISC-V核心如A25和D25F上运行嵌入式、优化的深度学习模型以加速深度学习演算,」晶心科技技术长暨执行??总苏泓萌博士表示,「Deeplite提供了一个可以在晶心内部使用的解决方案,同时也可以让我们的客户将在晶心RISC-V CPU核心上的深度学习演算法,运用至资源有限的边缘装置。」
「我对於这次的合作感到非常兴奋!Deeplite不仅在最小精度的影响下提供了高达69倍深度学习模型的最隹化,我们也自动化以前费时又容易出错的人工的神经网路架构设计。」Deeplite, Inc. CEO Nick Romano表示,「过去需要花费数周反覆测试才能完成的工作,现在可以在几个小时内自动完成!结合Deeplite的Lightweight Intelligence 和晶心最好的CPU,使我们更进一步将AI推广於日常生活中。」
透过将Deeplite领先业界的最隹化技术与晶心最先进的RISC-V CPU相结合,为如语音识别或人员侦测等所需的微控制器级记忆体及运算要求,原始设备厂商(OEM)和应用开发人员可以提供让使用者可将数据保留在装置上,亦同时仍能提供在世界各地真实环境下AI需有的实时且无缝响应等优势。