北京大学郑歆慰获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京大学申请的专利显存的分配方法和装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119512735B 。
龙图腾网通过国家知识产权局官网在2025-09-16发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411352508.8,技术领域涉及:G06F9/50;该发明授权显存的分配方法和装置是由郑歆慰;陈建平;张洪明;曾炜设计研发完成,并于2024-09-26向国家知识产权局提交的专利申请。
本显存的分配方法和装置在说明书摘要公布了:本公开提供一种显存的分配方法和装置,涉及通信技术领域。上述方法包括:对所述服务端中的显存,检测在运行过程中实际的第一显存参数,所述服务端部署有多个模型;根据所述第一显存参数,对所述显存预测第二显存参数;对所述服务端,预测未来预设时间段中目标用户的用户请求信息;根据所述第一显存参数、所述第二显存参数和用户请求信息,进行针对所述未来预设时间段的显存分配。本公开可以针对多模型的资源需求冲突,通过对尚未充分使用的内存和CPU计算能力进行开发,以将多个模型更加紧凑地部署在一台计算设备之上,实现多模型的并存和并发。
本发明授权显存的分配方法和装置在权利要求书中公布了:1.一种显存的分配方法,其特征在于,用于服务端,包括: 对所述服务端中的显存,检测在运行过程中实际的第一显存参数,所述服务端部署有多个模型; 根据所述第一显存参数,对所述显存预测第二显存参数; 对所述服务端,预测未来预设时间段中目标用户的用户请求信息; 根据所述第一显存参数、所述第二显存参数和用户请求信息,进行针对所述未来预设时间段的显存分配; 所述第一显存参数是针对所述服务端的当前配置信息的显存参数,所述第二显存参数是针对所述当前配置信息以外的其它配置信息的显存参数; 所述根据所述第一显存参数,对所述显存预测第二显存参数,包括: 采用预设公式,处理所述第一显存参数,得到所述显存的第二显存参数; 所述第一显存参数和所述第二显存参数均包括计算耗时和设备间传输时间; 所述根据所述第一显存参数、所述第二显存参数和用户请求信息,进行针对所述未来预设时间段的显存分配,包括: 以服务器中计算单元数量的倒数与目标加和的乘积最小化为目标,进行针对所述未来预设时间段的显存分配,所述目标加和为显存参数中的计算耗时之和与设备间传输时间之和两者的加和。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京大学,其通讯地址为:100871 北京市海淀区颐和园路5号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励