买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜深圳云天励飞技术股份有限公司申请的专利一种预训练语言模型的训练、诉求转接方法、装置和设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114492452B 。

龙图腾网通过国家知识产权局官网在2025-04-01发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111607768.1，技术领域涉及：G06N3/08；该发明授权一种预训练语言模型的训练、诉求转接方法、装置和设备是由李圆法;蚁韩羚;余晓填;王孝宇设计研发完成，并于2021-12-24向国家知识产权局提交的专利申请。

本一种预训练语言模型的训练、诉求转接方法、装置和设备在说明书摘要公布了：本发明公开了一种预训练语言模型的训练、诉求转接方法、装置和设备，其中训练方法包括：获取多组训练样本；通过预设的预训练语言模型计算当前训练样本中的两条诉求信息各自的文本向量；基于文本向量对诉求信息的类别和类别匹配情况进行预测，得到预测类别和预测类别匹配结果；根据第一误差以及第二误差校正预设的预训练语言模型的模型参数，第一误差是预测类别和类别标签之间的误差，第二误差是预测类别匹配结果和类别匹配标签之间的误差；当预训练语言模型满足预设的条件时，输出预训练语言模型。本发明提供的技术方案，提高了诉求信息的向量表达准确度。

本发明授权一种预训练语言模型的训练、诉求转接方法、装置和设备在权利要求书中公布了：1.一种预训练语言模型的训练方法，其特征在于，所述方法包括：获取多组训练样本，所述训练样本中包括两条语义相近的诉求信息，以及两条诉求信息对应的类别标签和类别匹配标签，所述类别匹配标签用于表征两条诉求信息是否属于同一类别；通过预设的预训练语言模型计算当前训练样本中的两条诉求信息各自的文本向量；基于所述文本向量对所述诉求信息的类别和类别匹配情况进行预测，得到预测类别和预测类别匹配结果；所述基于所述文本向量对所述诉求信息的类别和类别匹配情况进行预测，得到预测类别和预测类别匹配结果，包括：将两个文本向量分别输入第一全连接层，计算两个文本向量各自的预测类别，所述第一全连接层的参数通过第一误差进行校正；将两个文本向量同时输入第二全连接层，计算两个文本向量的预测类别匹配结果，所述第二全连接层的参数通过第二误差进行校正；根据第一误差以及第二误差校正所述预设的预训练语言模型的模型参数，所述第一误差是所述预测类别和所述类别标签之间的误差，所述第二误差是所述预测类别匹配结果和所述类别匹配标签之间的误差；当所述预训练语言模型满足预设的条件时，输出所述预训练语言模型。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人深圳云天励飞技术股份有限公司，其通讯地址为：518000 广东省深圳市龙岗区园山街道龙岗大道8288号深圳大运软件小镇17栋1楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。