买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉山东盛德智能科技股份有限公司申请的专利基于大模型的高并发轻量级数据通道自适应负载均衡方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120980082B 。

龙图腾网通过国家知识产权局官网在2025-12-26发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511475706.8，技术领域涉及：H04L67/1004；该发明授权基于大模型的高并发轻量级数据通道自适应负载均衡方法是由任光海;杨成军;杨绍惠;杨云磊;刘鲁超;郭雪景设计研发完成，并于2025-10-16向国家知识产权局提交的专利申请。

本基于大模型的高并发轻量级数据通道自适应负载均衡方法在说明书摘要公布了：本发明涉及分布式计算技术领域，尤其涉及一种基于大模型的高并发轻量级数据通道自适应负载均衡方法，该方法在当前LLM推理请求到达均衡负载器时，根据任一服务器的历史请求记录集合中每个历史请求与当前LLM推理请求的硬度相似性，对利用项进行初始优化，得到任一服务器处理当前LLM推理请求的初始优化利用项；构建预期残差补偿因子，利用预期残差补偿因子对初始优化利用项进行再次优化，得到最佳利用项；根据任一服务器的最佳利用项，得到任一服务器的决策得分，根据每个服务器的决策得分，对当前LLM推理请求进行自适应负载均衡，使得在长期运行中保持高效的负载均衡能力。

本发明授权基于大模型的高并发轻量级数据通道自适应负载均衡方法在权利要求书中公布了：1.基于大模型的高并发轻量级数据通道自适应负载均衡方法，其特征在于，所述方法包括： 在当前LLM推理请求到达均衡负载器时，获取当前LLM推理请求的硬度因子、语义向量和请求时刻，以及每个服务器的历史请求记录集合和近期性能收益集合，所述历史请求记录集合包括每个历史请求的硬度因子、语义向量、原始性能收益和请求时刻； 针对任一服务器，根据所述任一服务器的历史请求记录集合中每个历史请求与当前LLM推理请求的硬度相似性，对所述任一服务器的利用项进行初始优化，得到所述任一服务器处理当前LLM推理请求的初始优化利用项； 根据所述近期性能收益集合、所述历史请求记录集合以及当前LLM推理请求的语义向量和请求时刻，构建预期残差补偿因子，利用所述预期残差补偿因子对所述初始优化利用项进行再次优化，得到所述任一服务器处理当前LLM推理请求的最佳利用项； 根据所述任一服务器处理当前LLM推理请求的最佳利用项，得到所述任一服务器的决策得分，获取每个所述服务器的决策得分，根据每个所述服务器的决策得分，对当前LLM推理请求进行自适应负载均衡。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人山东盛德智能科技股份有限公司，其通讯地址为：250100 山东省济南市市中区共青团路25号绿地中心1408室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。