来源 :金融界2024-03-23
金融界2024年3月23日消息,据国家知识产权局公告,厦门狄耐克智能科技股份有限公司申请一项名为“面向边缘设备的深度学习模型加速系统及其加速方法“,公开号CN117744740A,申请日期为2023年12月。
专利摘要显示,本发明公开了面向边缘设备的深度学习模型加速系统及其加速方法,其面向边缘设备的深度学习模型加速系统包括边缘设备和深度学习模型加速系统,所述深度学习模型加速系统包括数据预处理模块、数据优化模块、硬件加速模块、分布式推理模块、模型管理模块、缓冲策略模块和运行优化模块。本发明通过对深度学习模型进行分割,采用边缘设备与远端协同计算的方式,再结合推理过程中的优化处理,可有效的减轻边缘设备的运算负担,提高模型的性能和能效,另外通过对计算的数据资源进行有效的缓存策略,减少重复计算,提高推理效果,从而实现加速的效果。