首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于BERT的数据纠错方法、装置、设备及存储介质 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中国平安人寿保险股份有限公司

摘要:本申请实施例涉及数据处理领域,公开了一种基于BERT的数据纠错方法、装置、设备及存储介质,该方法包括:获取待纠错源数据,识别所述待纠错源数据中的异常数据,并确定所述异常数据对应的候选数据集合,所述候选数据集合中包括一个或多个候选数据;调用基于BERT的掩码语言模型对所述异常数据进行掩码处理,得到所述异常数据对应的候选数据排序结果;根据所述异常数据对应的候选数据排序结果中排在第一位的候选数据,确定所述异常数据对应的替换数据;根据所述替换数据对所述异常数据进行替换,得到所述待纠错源数据的目标语句。可以有效的提高数据纠错准确性。本申请涉及区块链技术,如可将上述数据写入区块链中,以用于数据纠错等场景。

主权项:1.一种基于BERT的数据纠错方法,其特征在于,包括:获取待纠错源数据,识别所述待纠错源数据中的异常数据,并确定所述异常数据对应的候选数据集合,所述候选数据集合中包括一个或多个候选数据;调用基于BERT的掩码语言模型对所述异常数据进行掩码处理,得到所述异常数据对应的候选数据排序结果;所述掩码处理得到的结果还包括参考字典中所有参考数据对应的置信度集合,所述置信度集合包括所述参考字典中每个参考数据对应的置信度;所述每个参考数据在所述参考字典中的位置是固定不变的,参考字典中任一参考数据的置信度在置信度集合的位置与所述任一参考数据在参考字典中的位置一致;所述候选数据排序结果是基于各个候选数据在异常数据位置的出现概率确定的,任一候选数据在异常数据位置的出现概率为所述任一候选数据的置信度;根据所述异常数据对应的候选数据排序结果中排在第一位的候选数据,确定所述异常数据对应的替换数据;所述根据所述异常数据对应的候选数据排序结果中排在第一位的候选数据,确定所述异常数据对应的替换数据包括:将所述异常数据对应的候选数据排序结果中排在第一位的候选数据确定为所述异常数据的候选替换数据;检测所述候选替换数据是否满足预设选取规则;当检测到所述候选替换数据满足所述预设选取规则时,则将所述候选替换数据确定为所述异常数据对应的替换数据;所述检测所述候选替换数据是否满足预设选取规则包括:检测候选替换数据的出现概率是否大于或等于预设概率阈值,或者,检测候选替换数据的出现概率和异常数据的置信度之间的差值是否大于或等于预设阈值,或者,检测第一位置和第二位置之间的差值是否大于或等于预设位置阈值,所述第一位置为所述候选替换数据的置信度在置信度排序结果中的位置,所述第二位置为所述异常数据的置信度在置信度排序结果中的位置;置信度排序结果是对所述置信度集合中的各个置信度进行降序排序得到的;根据所述替换数据对所述异常数据进行替换,得到所述待纠错源数据的目标数据。

全文数据:

权利要求:

百度查询: 中国平安人寿保险股份有限公司 基于BERT的数据纠错方法、装置、设备及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术