买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国电子科技集团公司第二十八研究所申请的专利一种基于数据集增强的领域大模型训练方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120849956B 。

龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511341216.9，技术领域涉及：G06F18/214；该发明授权一种基于数据集增强的领域大模型训练方法是由周中元;曹兆元;陈伟荣;张豹;赵彦杰;赵晓星;曹方伟;蔡亦璋;王伟设计研发完成，并于2025-09-19向国家知识产权局提交的专利申请。

本一种基于数据集增强的领域大模型训练方法在说明书摘要公布了：本发明公开了一种基于数据集增强的领域大模型训练方法，包括根据领域需求定义数据规格并规划采集架构；采集通识、行业通用及专用多模态数据；对数据进行预处理、划分与标注；采用随机、基于模型及规则的增强方式生成高质量训练数据集；配置训练参数并动态调整学习率；分批加载数据进行前向与反向传播训练；根据训练与验证表现判断过拟合或欠拟合并相应调整；迭代训练至模型收敛；本发明通过将数据增强过程与领域知识及业务需求深度融合，并综合运用随机、基于模型和基于规则等多种增强策略，能够生成与真实业务场景高度契合、高质量、高可用性的训练样本，从根本上提升领域大模型的训练基础。

本发明授权一种基于数据集增强的领域大模型训练方法在权利要求书中公布了：1.一种基于数据集增强的领域大模型训练方法，其特征在于，包括以下步骤： S1、定义数据需求：根据领域大模型的训练需求规范数据规格，构建数据质量模型，并评估数据的可获取性； S2、制定数据规划：设计用于模型训练的数据架构，制定数据质量计划，并预估数据采集与增强的工作量； S3、采集多模态数据：采集包括通识类数据集、行业通用类数据集和行业专用类数据集在内的多模态数据；所述多模态数据包括图像、文本、音视频和数值数据；其中，所述通识类数据集基于公开数据构建，所述行业通用类数据集包含领域特定知识、业务、流程及场景信息，所述行业专用类数据集包含行业内部特定关键信息； S4、数据预处理与划分：对采集的数据进行数据转换、数据验证、数据清洗、数据聚合、数据抽样、特征创建、特征选择或丰富化处理中的一种或多种，并将预处理后的数据按预设比例划分为训练集和验证集； S5、数据标注：对所述训练集中的一个或多个目标变量进行赋值，并对实体、实体间关系及领域要素进行标注； S6、数据增强：根据所述训练集的数据类型，对训练集采用随机增强、基于模型的增强或基于规则的增强中的一种或多种方式进行增强处理，并将增强后的数据样本合并为高质量训练数据集； S7、配置训练参数：为基座大模型设置训练参数，包括学习率，并配置学习率调度器以在训练过程中动态调整学习率； S8、加载数据：将所述高质量训练数据集分批加载至所述基座大模型中，采用多线程处理以加速数据加载； S9、前向传播：基于当前训练参数，逐层计算神经元激活值，生成预测输出； S10、计算损失：通过损失函数计算所述预测输出与真实值之间的差异； S11、反向传播：根据损失函数对模型参数的偏导数，利用链式法则更新模型参数； S12、验证与调整：基于模型在训练集和验证集上的表现判断过拟合或欠拟合，并进行相应调整； S13、迭代训练：重复步骤S7至S12，直至模型性能满足预设条件； 其中，步骤S6所述的随机增强包括： 对数据样本施加随机变换函数以生成新样本，其数学模型表示为： ；其中，表示新生成的数据样本，表示原始数据样本，表示随机变换函数； 所述基于模型的增强包括：通过生成模型G对随机噪声向量z进行变换以生成新样本，其数学模型表示为： ；其中，表示新生成的数据样本，表示生成模型，表示随机噪声向量； 所述基于规则的增强包括：根据预定义的规则函数对数据样本进行变换以生成新样本，其数学模型表示为： ；其中，表示新生成的数据样本，表示原始数据样本，表示规则函数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国电子科技集团公司第二十八研究所，其通讯地址为：210046 江苏省南京市栖霞区灵山南路一号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。