来源 :金融界2024-03-16
2024年3月16日消息,据国家知识产权局公告,重庆长安汽车股份有限公司申请一项名为“模型部署的调度方法、装置、设备及存储介质“,公开号CN117707731A,申请日期为2023年12月。
专利摘要显示,本发明提供一种模型部署的调度方法、装置、设备及存储介质,该方法包括:获取待部署模型和待部署模型的芯片类型,待部署模型缓存于云端平台的待部署模型池;基于待部署模型构建待部署任务,将相同芯片类型对应的待部署任务按优先级排序,生成任务队列,待部署任务包括团队任务和个人任务;根据任务队列将待部署任务调度至对应的芯片资源池中的芯片,使待部署模型从待部署模型池中部署至对应芯片,任务队列、芯片资源池和芯片类型相互一一对应,芯片包括共享芯片和团队独享芯片;其中,将团队任务调度至与团队任务归属同一团队的团队独享芯片,将个人任务调度至共享芯片,使模型部署的调度更加可靠,提高了芯片资源分配的合理性和模型部署的效率。