复旦大学宋梁获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉复旦大学申请的专利一种基于端云协同的大模型生态在线进化学习方法及应用获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119721173B 。
龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411594574.6,技术领域涉及:G06N3/091;该发明授权一种基于端云协同的大模型生态在线进化学习方法及应用是由宋梁;滕梁宇;刘洋;郭俊岑;刘靖设计研发完成,并于2024-11-09向国家知识产权局提交的专利申请。
本一种基于端云协同的大模型生态在线进化学习方法及应用在说明书摘要公布了:本发明提供一种基于端云协同的大模型生态在线进化学习方法及应用,并将其应用于电商领域,实现了电商模型的高效训练与部署。该方法采用端云协同架构,云端部署大语言模型,端侧使用中小型语言模型,二者通过协同工作实现大模型生态的高效训练和推理。在训练过程中,云端模型作为教师模型,生成伪标签以补充数据集,指导端侧模型的优化训练。同时,引入多模型协作的自训练机制,多个模型扮演不同角色并相互讨论,自主生成训练标签,进一步优化端侧模型。与此同时,用户反馈信息将被纳入云端模型的提示词中进行情境学习,从而持续优化模型性能。本发明将该方法应用于电商场景,成功构建并部署了电商模型生态,实现了该领域的智能化发展。
本发明授权一种基于端云协同的大模型生态在线进化学习方法及应用在权利要求书中公布了:1.一种基于端云协同的大模型生态在线进化学习方法及应用,其特征在于,具体包括以下步骤: S1.多模型角色分配 多个端侧小模型和一个云端大模型被设定为不同的角色,以便在训练过程中进行有效的讨论与协作,其中,云端大模型的角色为教师模型,为多模型讨论提供先验输入和约束,端侧小模型的角色分配包括: 提问者模型:专注于提出行业相关的问题,模拟真实用户的询问方式, 回答者模型:负责生成基于行业知识和任务目标的应答,提升回复的精准性和专业性; S2.云端大模型先验输入与约束支持 在协作讨论的每轮过程中,云端大模型通过提供先验输入和约束来支持小模型的训练,具体来说,在每轮对话中,云端大模型有场景先验生成和生成质量评估两个作用; 场景先验生成:提供电商服务的核心知识,包括客户服务中的最佳回答模式、个性化服务的技巧、隐私数据的处理要求,使得小模型在训练中有统一的标准参考; 生成质量评估:当小模型生成回答时,大模型对这些回答进行质量评估和反馈,并通过这种约束来指导小模型生成更符合行业需求的内容,保证模型的一致性与准确性; S3.多模型协作讨论 在协作过程中,各端侧模型通过相互生成问题和答案的方式进行讨论,形成多轮对话,这一讨论机制使得模型在交互中能够学习并理解各类场景需求: 先验输入:在提问者模型和回答者模型生成提问与回答前,先将大模型的场景先验输入给提问者与回答者模型,为端侧小模型的训练提供先验知识库,从而能够提高提问与答案生成的质量; 提问生成:提问者模型根据行业需求和任务场景提出问题; 答案生成:回答者模型则根据提问者模型生成的问题进行回答,通过提供详细的解答、分析场景需求、提升服务质量; 质量验证:在每轮问答完成后,利用大模型对端侧模型生成的对话做评估与修正,加速端侧多模型训练收敛; S4.协同训练数据的生成与在线进化 在讨论与协作过程中,通过多轮对话,小模型之间生成的回答经过大模型的先验约束以及检验,被标注为高质量训练数据,加入新的数据集中,利用生成的协同数据和高效参数微调技术对小模型进行训练,使其在特定任务上达到优化效果,通过定期的端云协同多模型讨论训练机制,云端和端侧模型实现持续在线优化,端侧模型和云端模型通过互相学习和协作,持续提升对电商客服场景的应对能力,实现自适应学习和性能优化,在线进化的端侧小模型将具有更强的应答能力,能够根据协同训练的数据自适应处理电商客户服务任务,并实现更高质量的响应。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人复旦大学,其通讯地址为:200000 上海市杨浦区邯郸路220号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励