买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浪潮通用软件有限公司申请的专利用于大模型微调训练的数据混合方法、系统及计算机设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120725096B 。

龙图腾网通过国家知识产权局官网在2026-01-16发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511140548.0，技术领域涉及：G06N3/096；该发明授权用于大模型微调训练的数据混合方法、系统及计算机设备是由宋刚;郑伟波;路宽;丁一凡;韩嘉懿;杜宏伟;路鹏程;王秀芳;张士良;刘继乔;刘金桐设计研发完成，并于2025-08-15向国家知识产权局提交的专利申请。

本用于大模型微调训练的数据混合方法、系统及计算机设备在说明书摘要公布了：本发明属于数据处理技术领域。提出了一种用于大模型微调训练的数据混合方法、系统及计算机设备，根据微调数据集中的不同主题的数据混合比例、微调模型参数量和训练数据的标记单元总数进行多轮训练任务，每轮训练完成后在目标数据集测试训练后的模型损失；根据各轮训练用的数据混合比例、微调模型参数量、训练数据的标记单元总数以及模型损失，构建数据混合优化函数，以数据混合优化函数的最小值为目标，确定不同微调模型参数量以及训练数据的标记单元总数下的最优的数据混合比例；本发明避免了大量的计算资源浪费，显著缩短了模型从选型到部署的研发周期，实现微调训练性价比的最大化。

本发明授权用于大模型微调训练的数据混合方法、系统及计算机设备在权利要求书中公布了：1.一种用于大模型微调训练的数据混合方法，其特征在于，包括以下过程： 确定包含多个主题的微调数据集； 根据微调数据集中的不同主题的数据混合比例、微调模型参数量和训练数据的标记单元总数进行多轮训练任务，每轮训练完成后在目标数据集测试训练后的模型损失； 根据各轮训练用的数据混合比例、微调模型参数量、训练数据的标记单元总数以及模型损失，构建数据混合优化函数，以数据混合优化函数的最小值为目标，确定不同微调模型参数量以及训练数据的标记单元总数下的最优的数据混合比例； 数据混合优化函数为： ； 其中，代表第次训练的微调模型参数量，代表第次训练的模型损失，代表第次训练的训练数据的标记单元总数，代表第次训练的混合比例，代表微调模型和训练任务的不可约损失，代表与第种主题的数据比例相关的系数，代表第个主题的混合比例的指数系数，代表数据主题总数，代表与微调模型参数相关的系数，代表模型参数量的指数系数，代表训练数据的标记单元总数的指数系数，代表训练总轮次，为损失函数，代表损失； 损失函数，包括： ； 其中，代表第次训练的微调模型参数量，代表第次训练的训练数据的标记单元总数，代表第次训练的第个主题的混合比例，计算的结果为； 确定包含多个主题的微调数据集时，采用文本聚类算法通过计算文本向量，将语义相似度差异小于设定阈值的数据归为同一主题，通过轮廓系数评估聚类效果，确定最优的数据主题总数；或者，在训练前通过人工划定数据主题总数以及每个主题对应的数据集合。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浪潮通用软件有限公司，其通讯地址为：250000 山东省济南市历下区浪潮路1036号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。