买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京达佳互联信息技术有限公司申请的专利数据处理方法、装置、电子设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116187405B 。

龙图腾网通过国家知识产权局官网在2026-01-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310119147.1，技术领域涉及：G06N3/063；该发明授权数据处理方法、装置、电子设备及存储介质是由涂小兵;袁泰凌设计研发完成，并于2023-01-31向国家知识产权局提交的专利申请。

本数据处理方法、装置、电子设备及存储介质在说明书摘要公布了：本公开关于数据处理方法、装置、电子设备及存储介质，该方法包括：对于多个已训练的神经网络模型，创建每个所述神经网络模型对应的推理引擎；创建每个所述推理引擎对应的目标执行上下文，得到多个目标执行上下文；所述目标执行上下文未进行运行显存的分配；确定每个所述推理引擎对应的运行显存占用量，并选取最大的运行显存占用量作为目标运行显存占用量；基于所述目标运行显存占用量确定目标显存，将所述目标显存作为所述多个目标执行上下文的运行显存。本公开中多个目标执行上下文可以共享该目标显存，实现多个神经网络模型对应的多个推理引擎对于该目标显存的复用，在节省显存占用的同时确保了较高的灵活性和无延迟的效果。

本发明授权数据处理方法、装置、电子设备及存储介质在权利要求书中公布了：1.一种数据处理方法，其特征在于，包括： 对于多个已训练的神经网络模型，创建每个所述神经网络模型对应的推理引擎； 创建每个所述推理引擎对应的目标执行上下文，得到多个目标执行上下文；所述目标执行上下文未进行运行显存的分配； 确定每个所述推理引擎对应的运行显存占用量，并选取最大的运行显存占用量作为目标运行显存占用量； 基于所述目标运行显存占用量确定目标显存，将所述目标显存作为所述多个目标执行上下文的运行显存； 响应于模型添加请求，创建所添加神经网络模型对应的添加推理引擎； 创建所述添加推理引擎对应的所述目标执行上下文，得到添加目标执行上下文； 获取所述添加推理引擎对应的运行显存占用量，得到第一运行显存占用量； 在所述第一运行显存占用量大于所述目标运行显存占用量的情况下，基于所述第一运行显存占用量更新所述目标显存，得到更新后的第一目标显存；所述更新后的第一目标显存大于所述目标显存；将所述更新后的第一目标显存，作为所述多个目标执行上下文和所述添加目标执行上下文的运行显存； 在所述第一运行显存占用量小于或者等于所述目标运行显存占用量的情况下，将所述目标显存作为所述多个目标执行上下文和所述添加目标执行上下文的运行显存； 响应于模型删减请求，确定剩余推理引擎对应的运行显存占用量中最大的运行显存占用量，得到剩余目标运行显存占用量；所述剩余推理引擎为进行模型删减处理后剩下的所述推理引擎； 在所述剩余目标运行显存占用量小于所述目标运行显存占用量的情况下，基于所述剩余目标运行显存占用量更新所述目标显存，得到更新后的第二目标显存；所述更新后的第二目标显存小于所述目标显存； 将所述更新后的第二目标显存，作为所述剩余推理引擎对应的目标执行上下文的运行显存。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京达佳互联信息技术有限公司，其通讯地址为：100085 北京市海淀区上地西路6号1幢1层101D1-7；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。