买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜航天信息股份有限公司;河北航天信息技术有限公司申请的专利一种建立短文本多层级分类模型的方法和系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114579737B 。

龙图腾网通过国家知识产权局官网在2025-05-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111636972.6，技术领域涉及：G06F16/353；该发明授权一种建立短文本多层级分类模型的方法和系统是由王亚平;林文辉;王志刚;马兰;李瑞祥;伺彦伟;祁洪波设计研发完成，并于2021-12-29向国家知识产权局提交的专利申请。

本一种建立短文本多层级分类模型的方法和系统在说明书摘要公布了：本发明实施例公开了一种建立短文本多层级分类模型的方法和系统，所述方法包括：对同一份短文本数据集，按照设置的不同层级的短文本类别标签进行标注后生成的不同层级的标注数据集，并将其作为输入，对基于公开的预训练模型Bertbase后接全连接层建立的分类模型分层级进行训练，生成不同层级的分类模型，并在训练下一层级分类模型时，将上一层级经过微调的预训练模型Bertbase的部分训练参数迁移到下一层级初始预训练模型Bertbase的对应部分，最后将生成的多层级的分类模型进行组合生成最终的分类模型。所述方法和系统可有效扩增每种类别下的数据总量，解决模型训练的数据稀疏度问题；并对低层级的分类学习，通过迁移高层级分类模型的通用参数提升训练效果。

本发明授权一种建立短文本多层级分类模型的方法和系统在权利要求书中公布了：1.一种建立短文本多层级分类模型的方法，其特征在于，所述方法包括：步骤101、获取第一层级标注数据集，其中，所述第一层级标注数据集是按照预先设置的第一层级类别标签对短文本数据集中的每个短文本进行标注后生成的数据集；步骤102、将第一层级标注数据集输入初始第一层级分类模型进行模型训练，生成最优第一层级分类模型，其中，所述初始第一层级分类模型是公开的预训练模型Bertbase后接初始第一层级全连接层，所述最优第一层级分类模型是最优第一层级预训练模型Bertbase后接最优第一层级全连接层，所述最优第一层级预训练模型Bertbase是对公开的预训练模型Bertbase进行微调得到的预训练模型Bertbase，所述最优第一层级全连接层是对初始第一层级全连接层调整参数后得到的全连接层；步骤103、获取第二层级标注数据集，其中，所述第二层级标注数据集是按照预先设置的第二层级类别标签对短文本数据集中的每个短文本进行标注后生成的数据集；步骤104、将第二层级标注数据集输入初始第二层级分类模型进行模型训练，生成最优第二层级分类模型，其中，所述初始第二层级分类模型是初始第二层级预训练模型Bertbase后接初始第二层级全连接层，所述初始第二层级预训练模型Bertbase是将最优第一层级预训练模型Bertbase的前N层的训练参数迁移到公开的预训练模型Bertbase的前N层后得到的预训练模型Bertbase，最优第二层级分类模型是最优第二层级预训练模型Bertbase后接最优第二层级全连接层，所述最优第二层级预训练模型Bertbase是对初始第二层级预训练模型Bertbase进行微调得到的预训练模型Bertbase，所述最优第二层级全连接层是对初始第二层级全连接层调整参数后得到的全连接层，N为自然数；步骤105、获取第i层级标注数据集，其中，所述第i层级标注数据集是按照预先设置的第i层级类别标签对短文本数据集中的每个短文本进行标注后生成的数据集，其中，3≤i≤I，i的初始值为3，I为自然数；步骤106、将第i层级标注数据集输入初始第i层级分类模型进行模型训练，生成最优第i层级分类模型，其中，所述初始第i层级分类模型是初始第i层级预训练模型Bertbase后接初始第i层级全连接层，所述初始第i层级预训练模型Bertbase是将最优第i-1层级预训练模型Bertbase的前N层的训练参数迁移到初始第i层级预训练模型Bertbase的前N层后得到的预训练模型Bertbase，最优第i层级分类模型是最优第i层级预训练模型Bertbase后接最优第i层级全连接层，所述最优第i层级预训练模型Bertbase是对初始第i层级预训练模型Bertbase进行微调得到的预训练模型Bertbase，所述最优第i层级全连接层是对初始第i层级全连接层调整参数后得到的全连接层；步骤107、令i＝i+1，当i≤I时，返回步骤105，当iI时，转至步骤108；步骤108、将最优第一层级分类模型至最优第I层级分类模型按照从第一层级至第I层级的顺序组合生成的模型作为短文本多层级分类模型。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人航天信息股份有限公司;河北航天信息技术有限公司，其通讯地址为：100195 北京市海淀区杏石口路甲18号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。