阿里巴巴(中国)有限公司何如获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉阿里巴巴(中国)有限公司申请的专利预训练模型产品及处理方法、电子设备及计算机存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116361660B 。
龙图腾网通过国家知识产权局官网在2026-03-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310464544.2,技术领域涉及:G06F18/214;该发明授权预训练模型产品及处理方法、电子设备及计算机存储介质是由何如;王玮;黄松芳;黄非设计研发完成,并于2023-04-24向国家知识产权局提交的专利申请。
本预训练模型产品及处理方法、电子设备及计算机存储介质在说明书摘要公布了:本申请实施例提供了一种预训练模型产品及处理方法、电子设备及计算机存储介质,其中,一种预训练模型处理方法包括:基于掩码后的训练文本,获取预训练模型的生成器生成的改写文本;通过所述预训练模型的层级划分器,为所述改写文本中的多个单词分别预测生成对应的单词质量排列等级,其中,所述单词质量排列等级用于指示所述改写文本与所述训练文本的语义差异程度等级,所述单词质量排列等级包括至少三级;根据所述单词质量排列等级,对包括所述生成器和所述层级划分器的预训练模型进行训练。通过本申请实施例,能够提高预训练模型的训练精度和训练效率。
本发明授权预训练模型产品及处理方法、电子设备及计算机存储介质在权利要求书中公布了:1.一种预训练模型处理方法,其特征在于,包括: 基于掩码后的训练文本,获取预训练模型的生成器生成的改写文本; 根据所述改写文本中的多个第一单词对应的第一生成概率,与所述训练文本中的多个第二单词对应的第二生成概率,为所述多个第一单词分别确定对应的单词质量排列等级标签; 通过所述预训练模型的层级划分器,为所述改写文本中的多个单词分别预测生成对应的单词质量排列等级,其中,所述单词质量排列等级用于指示所述改写文本与所述训练文本的语义差异程度等级,所述单词质量排列等级包括至少三级; 根据所述单词质量排列等级,对包括所述生成器和所述层级划分器的预训练模型进行训练; 所述根据所述单词质量排列等级,对包括所述生成器和所述层级划分器的预训练模型进行训练,包括:根据所述层级划分器预测生成的所述改写文本的多个第一单词对应的单词质量排列等级,与所述改写文本的多个第一单词对应的单词质量排列等级标签的差异,对包括所述生成器和所述层级划分器的预训练模型进行训练。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人阿里巴巴(中国)有限公司,其通讯地址为:311121 浙江省杭州市余杭区五常街道文一西路969号3幢5层554室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励