买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：广州市申迪计算机系统有限公司

摘要：本发明提供一种利用命名实体识别提取营业执照结构化信息的方法，包括以下步骤：训练命名实体模型和利用模型进行预测，其中，模型训练包括定义提取的实体、获取营业执照的照片，然后进行人工标记实体；利用BIO标注法，生成训练数据、构建以BERT+BILSTM+CRF为模型架构的模型、模型训练；利用模型进行预测包括文本拼接、模型预测、将单个字的识别结果按照BIO标注法组织成实体。本发明有很强的稳定性、鲁棒性，本发明适用范围广泛，本发明为了增强模型的泛化能力，提高提取的准确率，在数据生成时候引入噪声数据，在模型架构的特征提取层使用在大规模语料训练得到的预训练模型，在模型训练的时候引入对抗训练。

主权项：1.一种利用命名实体识别提取营业执照结构化信息的方法，其特征在于，包括以下步骤：S1、训练命名实体模型S101、定义实体定义提取的实体；所述的实体包括统一社会信用代码、名称、类型、经营场所、经营者、组成形式、注册日期、经营范围；S102、数据采集获取营业执照的照片，然后进行人工标记实体；通过人工将营业执照的统一社会信用代码、名称、类型、经营场所、经营者、组成形式、注册日期、经营范围信息标注出来；S103、生成数据将结构化信息转换成非结构化文字段落；具体为是将字段名和字段内容拼接后，进行随机打乱，并且通过把一条训练样本随机进行文字删除和形近字替换，生成多条训练样本；S104、利用BIO标注法，生成如下图的训练数据；S105、模型构建以BERT+BILSTM+CRF为模型架构，以Bert作为特征提取层，提取文本信息，再把Bert预训练模型学习到的token向量输入BILSTM进行进一步学习，最终通过CRF层获得每个token的分类结果；S106、模型训练通过将Bert层的参数学习率调低、以及将BILSTM层、全连接层和CRF层的学习率调高；还引入对抗训练FGM，以在输入上进行梯度上升，参数上进行梯度下降;设置训练样本和验证样本，并且每在训练集上训练一轮，在验证集上计算实体的microf1值，若经过多轮训练，验证集的f1值都没有下降，则停止训练，保存在验证集上分数最高的模型;S2利用模型进行预测S201、文本拼接利用横纵坐标对文本进行修复，找出相应文本框内多个像素是否有交叉的文本框，如有就拼接在该文本框后面，若没有，则遍历下一个没有遍历过的文本框；S202、模型预测把拼接后的文字段落输入到模型后，得到的是每个字的分类结果；S203、将单个字的识别结果按照BIO标注法组织成实体。

全文数据：

权利要求：

百度查询： 广州市申迪计算机系统有限公司 一种利用命名实体识别提取营业执照结构化信息的方法