Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 八维通科技有限公司杨宏旭获国家专利权

八维通科技有限公司杨宏旭获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉八维通科技有限公司申请的专利基于AIGC的分布式算力调度方法及其系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120508404B

龙图腾网通过国家知识产权局官网在2025-09-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511006133.4,技术领域涉及:G06F9/50;该发明授权基于AIGC的分布式算力调度方法及其系统是由杨宏旭;方超;籍天亮;邵林俊;张国栋设计研发完成,并于2025-07-22向国家知识产权局提交的专利申请。

基于AIGC的分布式算力调度方法及其系统在说明书摘要公布了:本申请公开了一种基于AIGC的分布式算力调度方法及其系统,涉及算力调度领域,首先实时获取GPU指标流、请求指标流,并对其进行时间序列对齐和特征工程,同时对业务意图文本进行语义特征提取,将上述处理后的特征融合为向量化系统状态输入至生成式AI调度代理来预测未来的模型需求,输出模型需求预测JSON。随后,规划器模块依据此预测和当前缓存状态,生成优化的缓存行动计划,指导调度执行器预先加载或智能置换模型。最终,请求路由器在接收到新请求时,能够查询更新后的缓存状态,直接将请求分发至已加载目标模型的GPU节点,从而显著降低冷启动延迟,提升算力资源利用效率和用户体验。

本发明授权基于AIGC的分布式算力调度方法及其系统在权利要求书中公布了:1.一种基于AIGC的分布式算力调度方法,其特征在于,包括: 获取GPU指标流、请求指标流和业务意图文本; 对所述GPU指标流和所述请求指标流进行时间序列对齐和特征工程以得到GPU指标时序特征、请求指标时序特征和GPU指标-请求指标跨域关联特征; 对所述业务意图文本进行语义特征提取以得到业务意图文本语义嵌入; 融合所述GPU指标时序特征、所述请求指标时序特征、所述GPU指标-请求指标跨域关联特征和所述业务意图文本语义嵌入以得到向量化系统状态; 将所述向量化系统状态输入生成式AI调度代理以得到模型需求预测JSON; 将所述模型需求预测JSON和当前缓存状态输入规划器模块以得到缓存行动计划,所述当前缓存状态用于表示当前哪个GPU节点已加载哪个模型; 调度执行器执行所述缓存行动计划以得到更新后的缓存状态; 在请求路由器接收到新到达的推理请求后,请求路由器查询所述更新后的缓存状态以生成分发决策; 其中,将所述向量化系统状态输入生成式AI调度代理以得到模型需求预测JSON,包括: 将所述向量化系统状态输入生成式AI调度代理的编码器以得到系统状态编码特征向量; 对所述系统状态编码特征向量中的每个特征值进行概率适应性调节以得到系统状态调节编码特征向量; 将所述系统状态调节编码特征向量中的每个特征值的信息熵与所述系统状态调节编码特征向量的整体信息熵的倒数进行比较以得到优化系统状态调节编码特征向量;其中,响应于所述特征值的信息熵大于所述系统状态调节编码特征向量的整体信息熵的倒数,所述特征值保持不变;响应于所述特征值的信息熵小于所述系统状态调节编码特征向量的整体信息熵的倒数,对所述特征值进行跨维度转移校准以得到校准特征值; 将所述优化系统状态调节编码特征向量输入生成式AI调度代理的解码器以得到所述模型需求预测JSON; 其中,将所述模型需求预测JSON和当前缓存状态输入规划器模块以得到缓存行动计划,包括: 规划器模块遍历所述模型需求预测JSON中的各个模型并对所述各个模型进行状态差距识别以得到待加载模型列表和已加载模型列表; 规划器模块为所述待加载模型列表中的各个待加载模型寻找可用节点并将其加入所述缓存行动计划。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人八维通科技有限公司,其通讯地址为:310000 浙江省杭州市滨江区长河街道江南大道618号东冠大厦20层2001室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由AI智能生成
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。