买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

摘要：本发明涉及文本处理技术领域，具体涉及一种文本关键词提取方法，包括如下步骤：S1、建立关键词提取模型，所述关键词提取模型包括BERT模型层、Bi‑LSTM模型层和CRF模型层；S2、构建训练样本，所述训练样本包括多个文本，并使用所述训练样本训练所述关键词提取模型，同时将所述关键词提取模型作为Student模型，通过TF‑IDF算法和TextRank算法分别构建Teacher模型，建立知识蒸馏框架，使得所述Student模型接近所述Teacher模型，进而优化所述关键词提取模型；S3、使用训练好的所述关键词提取模型对文本关键词进行提取。该方法不过分依赖先验知识，可以实现利用较少量数据训练较大体量的模型，并弥补传统机器学习方法存在的种种不足，提升关键词提取的准确性。

主权项：1.一种文本关键词提取方法，其特征在于，包括如下步骤：S1、建立关键词提取模型，所述关键词提取模型包括BERT模型层、Bi-LSTM模型层和CRF模型层，所述BERT模型层用于对输入文本进行分词，生成若干关键词，并对所述若干关键词分别进行向量化；所述Bi-LSTM模型层用于对所述若干关键词进行分类，并提取与文本主题最接近的一类关键词；所述CRF模型层用于从该类关键词中提取与文本主题最接近的一个关键词；S2、构建训练样本，所述训练样本包括多个文本，并使用所述训练样本训练所述关键词提取模型，同时将所述关键词提取模型作为Student模型，通过TF-IDF算法和TextRank算法分别构建Teacher模型，建立知识蒸馏框架，使得所述Student模型接近所述Teacher模型，进而优化所述关键词提取模型；S3、使用训练好的所述关键词提取模型对文本关键词进行提取；使用Tf-idf和TextRank算法做TeacherModel，使用bert+BiLSTM+CRF作为studentModel，用TeacherModel预测的标签以及权重去训练StudentModel，在训练50个Epoch之后改用Labeldata作为groundTruth再做50个Epoch的训练，之后使用Stacking的思想，将TeacherModel与StudentModel融合。

全文数据：

权利要求：

百度查询： 天津光电通信技术有限公司 一种文本关键词提取方法