龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
摘要：本发明涉及一种基于UniLM的中文语法纠错方法，包括以下步骤：步骤A：利用爬虫技术采集Lang‑8网站母语非中文学习者书写语句和对应批改语句，并对语句进行清洗生成语料库；步骤B：对语料库进行预处理后划分训练集和验证集；步骤C：结合预训练模型，对构建的基于UniLM的中文语法纠错模型采用训练集进行微调训练；步骤D：使用训练好的纠错模型采用验证集进行验证，并对纠错效果进行评价，并利用该纠错模型输入待纠错语句进行纠错。与现有技术相比，本发明具有精确率高、误判率低、性能好等优点。
主权项：1.一种基于UniLM的中文语法纠错方法，其特征在于，该方法包括以下步骤：步骤A：利用爬虫技术采集Lang-8网站母语非中文学习者书写语句和对应批改语句，并对语句进行清洗生成语料库；步骤B：对语料库进行预处理后划分训练集和验证集；步骤C：结合预训练模型，对构建的基于UniLM的中文语法纠错模型采用训练集进行微调训练；步骤D：使用训练好的纠错模型采用验证集进行验证，并对纠错效果进行评价，并利用该纠错模型输入待纠错语句进行纠错；所述的步骤C中，基于UniLM的中文语法纠错模型采用深度学习模型，具体由预训练模型、UniLM部分、Linear+Dropout层组成，所述的UniLM部分结构由Embedding层和N个相同的神经模块组成，且每个模块均由Multi-HeadAttention和FeedForward子层组成，每个子层均后接残差连接ResidualConnection；所述的UniLM部分用以抽取输入语义特征，其中的Embedding层用以将输入语句映射成词向量形式，神经模块的Multi-HeadAttention子层用以计算注意力，融合上下文语义信息，FeedForward子层用以对输入数据进行线性变换，残差连接用以防止模型过拟合并加快收敛速度，Linear层用以将输入数据特征转换为输出数据特征，Dropout层用以防止模型过拟合。
全文数据：
权利要求：
百度查询： 上海师范大学 一种基于UniLM的中文语法纠错方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号