Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 北京汤谷软件技术有限公司刘丹获国家专利权

北京汤谷软件技术有限公司刘丹获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉北京汤谷软件技术有限公司申请的专利专家混合模型执行运算任务的加速方法及相关设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120297430B

龙图腾网通过国家知识产权局官网在2025-09-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510779045.1,技术领域涉及:G06N5/043;该发明授权专家混合模型执行运算任务的加速方法及相关设备是由刘丹;马飞;张哲;李君豪设计研发完成,并于2025-06-12向国家知识产权局提交的专利申请。

专家混合模型执行运算任务的加速方法及相关设备在说明书摘要公布了:本申请属于人工智能芯片加速技术领域,提出了一种专家混合模型执行运算任务的加速方法及相关设备。其中,所述方法包括:获取待处理运算任务,并确定专家混合模型中用于执行待处理运算任务的目标专家网络,专家混合模型中各个第一专家网络的网络参数保存在加速器芯片的片上内存,专家混合模型中各个第二专家网络的网络参数保存在加速器芯片的片外内存;从片上内存中调用目标专家网络中第一专家网络的第一网络参数,以及从片外内存中调用目标专家网络中第二专家网络的第二网络参数;基于第一网络参数和第二网络参数,通过专家混合模型中的目标专家网络执行待处理运算任务。通过本申请提供的技术方案能够提高专家混合模型执行运算任务的加速效率。

本发明授权专家混合模型执行运算任务的加速方法及相关设备在权利要求书中公布了:1.一种专家混合模型执行运算任务的加速方法,其特征在于,所述专家混合模型部署在加速器芯片中,所述方法包括: 获取待处理运算任务,并确定所述专家混合模型中用于执行所述待处理运算任务的目标专家网络,所述专家混合模型中各个第一专家网络的网络参数保存在所述加速器芯片的片上内存,所述专家混合模型中各个第二专家网络的网络参数保存在所述加速器芯片的片外内存; 从所述片上内存中调用所述目标专家网络中第一专家网络的第一网络参数,以及从所述片外内存中调用所述目标专家网络中第二专家网络的第二网络参数; 基于所述第一网络参数和所述第二网络参数,通过所述专家混合模型中的目标专家网络执行所述待处理运算任务; 所述方法还包括:在从所述片上内存中调用所述目标专家网络中第一专家网络的第一网络参数,以及从所述片外内存中调用所述目标专家网络中第二专家网络的第二网络参数之前,触发所述片上内存中网络参数的更新指令;响应于所述片上内存中网络参数的更新指令,统计所述专家混合模型中各个专家网络在历史上执行运算任务的频率;将所述频率最高的设定个数的专家网络定义为所述第一专家网络,将所述专家混合模型中除所述第一专家网络之外的专家网络定义为所述第二专家网络;将所述第一专家网络的网络参数保存在所述加速器芯片的片上内存,以及将所述第二专家网络的网络参数保存在所述加速器芯片的片外内存; 所述确定所述专家混合模型中用于执行所述待处理运算任务的目标专家网络,包括:获取所述待处理运算任务的特征矩阵和所述专家混合模型中各个专家网络的专家权重矩阵,所述专家混合模型中各个专家网络的专家权重矩阵被预先存储在所述加速器芯片的分布式查找表中,存储在所述分布式查找表中的专家权重矩阵基于边界扫描测试接口实时更新;基于所述特征矩阵和所述专家权重矩阵,在所述加速器芯片中并行计算所述待处理运算任务与所述专家混合模型中各个专家网络的相似度;将所述相似度最高的设定个数的专家网络选定为用于执行所述待处理运算任务的目标专家网络;其中,更新所述分布式查找表中专家权重矩阵,包括:外部主控通过边界扫描测试接口与加速器芯片建立通信;通过JTAG指令将新的专家权重矩阵逐条或批量写入所述加速器芯片指定的LUT中,LUT内容实时刷新,专家权重矩阵即时生效。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京汤谷软件技术有限公司,其通讯地址为:100176 北京市大兴区北京经济技术开发区科谷一街8号院6号楼4层401;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。