买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉科大讯飞股份有限公司申请的专利大模型解码系统、方法、相关设备及计算机程序产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118467207B 。

龙图腾网通过国家知识产权局官网在2025-08-01发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410837624.2，技术领域涉及：G06F9/54；该发明授权大模型解码系统、方法、相关设备及计算机程序产品是由赵彬;汪锦想;于振华;潘青华;胡国平设计研发完成，并于2024-06-26向国家知识产权局提交的专利申请。

本大模型解码系统、方法、相关设备及计算机程序产品在说明书摘要公布了：本申请公开了一种大模型解码系统、方法、相关设备及计算机程序产品，系统包括终端设备和云端服务器，在终端设备布置小规模的近似模型进行解码，然后在云端服务器采用规模更大的目标模型，对近似模型的当前解码结果进行确认或纠正，在终端硬件资源受限的情况下，能够提升终端设备本地模型的推理效果。同时，无需云端服务器逐个token进行解码，能够降低云端服务器的服务负载。

本发明授权大模型解码系统、方法、相关设备及计算机程序产品在权利要求书中公布了：1.一种大模型解码系统，其特征在于，包括：终端设备及云端服务器，所述云端服务器上配置有目标模型，所述终端设备上配置有近似模型，所述目标模型为大模型，所述近似模型为比所述目标模型参数规模更小的模型； 所述终端设备，用于采用配置的所述近似模型，基于前缀进行自回归串行解码，并在达到设定上传条件时，将当前的解码结果发送给所述云端服务器，并在将当前的解码结果发送给云端服务器后持续进行解码过程，直至判断满足结束条件为止；所述当前的解码结果包括每一token的各候选结果及其第一概率值； 所述云端服务器，用于采用配置的所述目标模型，确定所述当前的解码结果中所接受的token，并采样得到下一token的各候选结果及其第二概率值，由所述各候选结果及其第二概率值作为采样得到的下一token信息，由所接受的token及下一token信息组成新的解码结果，将所述新的解码结果返回给所述终端设备； 所述终端设备，还用于利用所述新的解码结果中所接受的token更新本地解码结果中相同序列位置的token，并判断所述新的解码结果中所述下一token信息中的各候选结果，与本地解码结果中相同序列位置的token的各候选结果是否存在重合，若存在，则将本地的重合候选结果的第一概率值更新为所述第二概率值，并刷新各候选结果的排序，若判断所述新的解码结果中所述下一token信息中的各候选结果，与本地解码结果中相同序列位置的token的各候选结果不存在重合，则控制所述近似模型回退到所述新的解码结果中所述下一token的位置继续进行串行解码；判断是否满足结束条件，若是，将更新后的本地的解码结果作为最终解码结果，若否，继续执行采用配置的所述近似模型，基于前缀进行自回归串行解码的步骤。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人科大讯飞股份有限公司，其通讯地址为：230088 安徽省合肥市高新区望江西路666号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。