买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜中国科学院软件研究所申请的专利一种面向高采样率视频流分析的神经网络端云协同推理方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114723058B 。

龙图腾网通过国家知识产权局官网在2025-06-20发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210369401.9，技术领域涉及：G06N5/045；该发明授权一种面向高采样率视频流分析的神经网络端云协同推理方法和装置是由姬晨晨;于佳耕;侯朋朋;邰阳;苗玉霞;佟晓宇;张丽敏;全雨;武延军设计研发完成，并于2022-04-08向国家知识产权局提交的专利申请。

本一种面向高采样率视频流分析的神经网络端云协同推理方法和装置在说明书摘要公布了：本发明公开了一种面向高采样率视频流分析的神经网络端云协同推理方法和装置。在面向实际的高采样率视频流场景下，通过对深度神经网络的建模分析，在将推理任务划分成边缘端云端不同阶段的同时，完成深度神经网络模型的周期性循环划分策略，突破了目前面对高采样率视频流时的瓶颈。通过周期性循环划分策略，使边缘端云端在指定深度神经网络模型下减少系统中的推理等待时间，达到系统的极限吞吐量，充分利用了边缘端和云端的计算能力。

本发明授权一种面向高采样率视频流分析的神经网络端云协同推理方法和装置在权利要求书中公布了：1.一种面向高采样率视频流分析的神经网络端云协同推理方法，其特征在于，包括以下步骤： 在面向高采样率视频流分析的神经网络架构场景下，将深度学习模型建模为链状图，链状图的顶点表示神经网络的模型层，链状图的箭头表示神经网络模型层之间的数据传输； 在链状图中的任意两个相邻节点之间进行分割，分割边记为t，节点在t的左端表示该节点在边缘端进行推理，节点在t的右端表示该节点在云端进行推理； 对于不同的分割边t，记录边缘端和云端处理任务的时延以及数据量，并根据网络的带宽以及传输数据的大小，记录边缘端与云端之间传输数据所需要的时延； 边缘端、云端根据当前的采样率、带宽以及深度学习模型，通过模型划分算法给出最优的周期循环划分策略； 边缘端接收第一帧视频帧，根据周期循环划分策略中的第一个划分策略，对输入的第一帧视频帧推理分割边之前的任务，得到第一个推理结果，并将第一个推理结果发送给云端，然后边缘端切换为第二个划分策略，对输入的第二视频帧进行推理，依次类推； 云端将边缘端发送的第一个推理结果作为输入，根据第一个划分策略完成后续的推理过程，返回第一帧的推理结果； 云端切换为第二个划分策略，等待边缘端的第二个推理结果，依此类推，直到输入的视频流结束，并输出所有推理结果； 设深度学习模型层共有m层，分割边t共有m-1个，所述模型划分算法的输入为m-1x3维的向量、采样率Q、带宽B，输出为神经网络模型的划分策略；输入的m-1x3维的向量中，每一行向量表示一个分割边t下的{Te,Tt,Tc}，其中Te是深度学习的模型层在边缘端的处理时间，Tc是深度学习的模型层在云端的处理时间，Tt是深度学习的模型层之间的数据在边缘端与云端传输的时间； 当采样率满足1Qminmax{Te,Tt,Tc}时，根据单帧的总时间T最短确定划分策略，即根据minTe+Tt+Tc确定划分策略，以最大化系统吞吐量；当处于高负载模式下，即1Qminmax{Te,Tt,Tc}，此时采用所述最优的周期循环划分策略对深度学习模型进行划分； 所述模型划分算法包括以下步骤： 计算出m-1个分割边的全部划分策略σ＝{σ1,σ2,…,σ-1}，每个划分策略对应三个时间即Te,Tt,Tc，推理总时间为：T＝Te+Tt+Tc，全部划分策略中单帧的最优化策略记为表示单帧推理总时间T最短时的划分策略σ1，将该种划分策略设为周期循环划分策略的第1个划分策略； 对所有的划分策略进行分类，分出三种类别，即三个集合，①TeTt且TeTc，②TtTe且TtTc，③TcTe且TcTt；根据σ1属于哪种集合，在该集合内进行算法推理，若该集合只有σ1一个元素，则周期循环划分策略结果为σ′＝{σ1}，即为恒定不变，σ′表示最终得到的周期循环划分策略； 对于集合③，采用以下步骤得到最优的周期循环划分策略： 已知划分策略的集合为：σ③＝{σi|i＝1...r}，最优的周期循环划分策略的集合为：{σj|i＝1...q}，其中q≤r；根据单帧总推理时间最短得出的划分策略为σonepartition，将σonepartition的划分策略作为初始划分策略，记为σtmp，加入到最优的周期循环划分策略中； 对第一帧到来的图片按照步划分策略σtmp进行推理，确定该划分策略下的边缘推理时间和数据传输时间 下一帧图片到来时，寻找划分策略集合σ③中最接近的划分策略，作为当前帧的划分策略，如果退出循环，得到最终的周期循环划分策略；否则，将此划分策略加入到最优循环划分策略中并执行步骤iv； 更新对下一帧图片，重复上述步骤，最终得到最优周期循环划分策略σ＝{σ1,σ2,…,σq}。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学院软件研究所，其通讯地址为：100190 北京市海淀区中关村南四街4号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。