晶心科技和Deeplite宣布,两家公司透过使用Deeplite的最隹化软体和晶心科技低功耗RISC-V CPU核心,研发出具有人工智慧运算能力的应用程式(AI-powered applications)。
|
叁考模型和最隹化模型的模型之档案尺寸,精确性和执行时间之间的叁数 |
这项合作着重於压缩(compressing)并加速(accelerating)着名的视觉唤醒词(Visual Wake Words (VWW))应用程式。微型相机可以利用此类程式,进行人物图像侦测。Deeplite及晶心科技从利用浮点运算的Mobilenet-v1-0.25x模型中,产出各式最隹化的INT8模型。
本次发表的第一组研发结果侧重於提高精确性,以精度为主的INT8模型最隹化提高了2.7%的精度,缩小了1.7倍(172 KB)的档案大小以及提高了9%的执行速度。第二组结果主要着重於最大化压缩(maximizing compression)。
与TensorFlow Lite Micro提供的INT8 模型相比,本组专注於模型档案尺寸最小化的模组,成功做到缩小2.3倍(127KB)的档案大小,更高的精度(0.7%)和提高了15%的执行速度。
「我们决心为低功耗设备提供最高效,最精确的解决方案,尤其是随着边缘计算类型之AI越来越多地在应用在智慧助理、安全监控和智慧制造应用中。」 晶心科技技术长兼总经理苏泓萌博士表示。「Deeplite的尖端软体为AI模型最隹化提供了一种有效的方法,可以增强目前架构的性能。Deeplite支援我们的AndeStar? V5架构,并已於第一个具有RISC-V P 扩充指令 (DSP SIMD) 的CPU核心D25F上高效率的执行;客户能将之应用在选定的AI模型上。」
「Andes RISC-V CPU核心是非常理想的硬体的范例,替Deeplite的模型展示了最隹化的优点,为低成本、使用电池作为供电的设备,提供了以往无法达成的复杂智慧功能。」Deeplite首席执行官Nick Romano说:「随着我们持续在业界最大的挑战上(如视觉唤醒词Visual Wake Words和语音关键字查询keyword spotting)取得领先成果,我们预计由Deeplite软体提供支援的边缘运算AI应用将出现大幅度的成长。」