龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：西安交通大学
摘要：本发明公开了一种基于混合提示学习的语言模型稳定优化方法，通过编码转换过程，利用分类数据集任务类别作为约束条件，获得输入文本和任务特定硬提示的字符id列表，然后使用基于提示的多编码器进行处理获得语义信息输出向量；将软提示作为生成解码器的查询输入，与语义信息输出向量进行交互，通过交叉注意力机制计算并经过处理后得到类别感知提示；对语义信息输出向量和类别感知提示分别进行处理计算两部分损失，整合后更新模型进行训练；利用完成训练的模型进行自然语言处理。本发明可在分离使用混合提示下捕获语义信息与类别信息，进而解决提示随机初始化带来的噪声问题，预测结果准确率高、误差小，能够应用于各类语言模型分类场景。
主权项：1.一种基于混合提示学习的语言模型稳定优化方法，其特征在于，包括以下步骤：步骤1：通过编码转换过程，利用分类数据集任务类别作为约束条件，获得输入文本和任务特定硬提示的字符id列表；步骤2：使用基于提示的多编码器对所述字符id列表进行处理，获得语义信息输出向量；步骤3：将软提示作为生成解码器的查询输入，与所述语义信息输出向量进行交互，通过交叉注意力机制计算并经过处理后得到类别感知提示步骤4：对所述语义信息输出向量和类别感知提示分别进行处理，计算两部分损失，进行整合后更新模型进行训练；步骤5：利用完成训练的模型进行自然语言处理。
全文数据：
权利要求：
百度查询： 西安交通大学 一种基于混合提示学习的语言模型稳定优化方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号