买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:南阳理工学院
摘要:本申请实施例公开了一种基于词法词缀的论文冗余数据清洗方法、装置及存储介质,属于文本分类预处理技术领域,该方法包括:获取待分类文本;基于自然语言处理中的词法特性对所述待分类文本进行虚词清洗,获取实词部分作为实词文本;对实词文本进行词缀清洗,获取被清洗后的文本,生成无缀文本;基于预设的领域术语表从无缀文本中获取所有领域术语,并将获取到的领域术语构成领域术语集;对无缀文本进行模块识别,基于预设的干扰列表对识别出的模块进行干扰文本去除,将去除干扰文本的文本作为元数据文本;将元数据文本和领域术语集中元素作为纯净文本进行分类。本申请有助于合理的减少文本分类时的网络资源消耗,一定程度上节约了文本分类的成本。
主权项:1.一种基于词法词缀的论文冗余数据清洗方法,其特征在于,包括下述步骤:获取待分类文本;基于自然语言处理中的词法特性对所述待分类文本进行虚词清洗,获取实词部分作为实词文本,其中,所述虚词清洗包括基于所述词法特性中实词和虚词区分规则,将所述待分类文本中的虚词部分用预设的特定符号表示;基于预设的语法前缀和后缀筛选方法对实词文本进行词缀清洗,获取被清洗后的文本,并生成无缀文本,其中,所述词缀清洗包括基于预设的前缀单元字节对实词文本进行清洗,生成无前缀文本,基于预设的后缀单元字节对无前缀文本进行清洗;基于预设的领域术语表从无缀文本中获取所有领域术语,并将获取到的领域术语构成领域术语集,其中,所述领域术语集中可以包含重复的元素;基于预设的模块标记列表和参照规范,对无缀文本进行模块识别,在模块识别完成之后,基于预设的干扰列表对识别出的模块进行干扰文本去除,将去除干扰文本的文本作为元数据文本;将元数据文本和领域术语集中元素作为纯净文本进行分类。
全文数据:
权利要求:
百度查询: 南阳理工学院 基于词法词缀的论文冗余数据清洗方法、装置及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。