买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉复旦大学申请的专利一种用于大型语言模型的通信边云分割推理方法、装置、设备、产品及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120166112B 。

龙图腾网通过国家知识产权局官网在2025-07-22发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510647446.1，技术领域涉及：H04L67/10；该发明授权一种用于大型语言模型的通信边云分割推理方法、装置、设备、产品及介质是由高跃;陈哲;张宇昕设计研发完成，并于2025-05-20向国家知识产权局提交的专利申请。

本一种用于大型语言模型的通信边云分割推理方法、装置、设备、产品及介质在说明书摘要公布了：本发明公开了一种用于大型语言模型的通信边云分割推理方法、装置、设备、产品及介质，包括：基于预设划分标准将大语言模型分割为客户端模型与服务器模型；通过客户端模型对待处理数据进行推理，并通过自适应编码器对中间结果进行压缩，客户端模型与自适应编码器部署在边缘设备；利用自适应解码器对压缩后中间结果进行重建，并通过服务器模型对重建后中间结果进行推理，以获得新的令牌，自适应解码器与服务器模型部署在云服务器；基于新的令牌获得新的待处理数据，并重复前述步骤，直至达到预设条件，以获得最终的预测结果。本发明既能够降低通信开销，又能增强数据隐私保护，适应不同的网络环境和计算资源，具有较好的灵活性和可扩展性。

本发明授权一种用于大型语言模型的通信边云分割推理方法、装置、设备、产品及介质在权利要求书中公布了：1.一种用于大型语言模型的通信边云分割推理方法，其特征在于，包括： 分割步骤，基于预设划分标准将大语言模型分割为客户端模型与服务器模型； 第一推理与编码步骤，通过所述客户端模型对待处理数据进行推理，以获得中间结果；并通过自适应编码器对所述中间结果进行压缩，以获得压缩后中间结果，其中，所述客户端模型与所述自适应编码器部署在边缘设备； 解码与第二推理步骤，利用自适应解码器对所述压缩后中间结果进行重建，以获得重建后中间结果；并通过所述服务器模型对所述重建后中间结果进行推理，以获得新的令牌，其中，所述自适应解码器与所述服务器模型部署在云服务器； 将所述新的令牌与所述待处理数据拼接以获得所述新的待处理数据，并重复所述第一推理与编码步骤至所述解码与第二推理步骤，直至达到预设条件，以获得最终的预测结果； 其中，所述通过所述客户端模型对待处理数据进行推理，以获得中间结果，包括： 通过所述客户端模型对待处理数据进行前向传播至切分层，获得激活值数据； 对所述激活值数据进行重要性评估，并根据评估结果确定所述中间结果； 所述对所述激活值数据进行重要性评估，并根据评估结果确定所述中间结果，包括： 计算各激活值数据与各个激活值对应的前序令牌在自适应编码器的注意力模块中的平均得分，根据得分以及分数阈值确定所述中间结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人复旦大学，其通讯地址为：200433 上海市杨浦区邯郸路220号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。