买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：昆明理工大学

摘要：本发明涉及基于BiLSTM的老挝语文本正则化方法，属于自然语言处理领域。针对通用语言不可读词需要依据上下文语境推测结果，老挝语存在自己的语法结构、表达方式，以及老挝语文本正则化数据稀缺的问题，本发明提出了一种基于BiLSTM的老挝语文本正则化方法，主要包括对老挝语文本正则化数据预处理、基于自注意力机制的BiLSTM网络文本正则化处理两个部分构成。本发明所提的方法是将文本正则化任务当作序列标注任务完成，在BiLSTM神经网络中输入标注好的文本序列，根据上下文预测正确结果，增加自注意力机制加深模型对序列语义的理解。

主权项：1.基于BiLSTM的老挝语文本正则化方法，其特征在于：所述方法的具体步骤如下：Step1、老挝语文本正则化数据预处理：将老挝语文本数据进行数据清洗、编码转换、语料标注、长度比过滤、分词；Step2、基于BiLSTM神经网络的文本正则化处理：采用序列标注的思想，将BiLSTM作为编码器，结合不可读词的上下文文本向量，并将线性层和softmax作为解码器，预测不可读词可能的标签，并在BiLSTM后接自注意力机制加深序列词间关注度，使模型更好的理解上下文语义预测标签；所述Step2的具体步骤为：Step2.1、首先将文本正则化任务当作序列标注任务完成，在BiLSTM中，文本序列经过词嵌入表示为：为分词编码后的字符,h＝12…l，l为输入序列句子长度，n为词嵌入维度；前向隐藏层和后向隐藏层的输出维度均为n维，定义为和BiLSTM输出表示为： Step2.2、BiLSTM后接自注意力机制，使用自注意力机制关注序列词间的深层关系，使模型更好的理解输入序列的上下文语义信息；将自注意力机制的输出送入线性层，该线性层输出维度为正则化标签数，经过softmax计算每个标签的得分；所述Step2.2的具体步骤为：Step2.2.1、用attnq,K,V表示自注意力机制，q，K，V分别表示query，key，value，将BiLSTM的输出分别作为q，K，V；下式中，ki∈K和vi∈V，|q|＝|K|＝|V|；自注意力机制原理如下： 其中WK，Wq和WV为随机初始化权重，并在迭代中学习更新，Z为注意力头个数；BiLSTM输出序列的隐态表征表示为其中x∈R2n，自注意力机制输出其中c∈R2n；Step2.2.2、自注意力机制最后计算得出结合句子文本向量表征向量c，该序列表征向量c作为编码器的输出，送入到线性层分类，然后通过softmax层计算每个分类得分。

全文数据：

权利要求：

百度查询： 昆明理工大学 基于BiLSTM的老挝语文本正则化方法