买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国科学技术大学
摘要:本发明公开了一种序列模型编辑方法、装置、电子设备及存储介质,包括,向所述序列模型给定提示词,获取所述提示词的多个原始隐藏向量;根据多个原始隐藏向量定位所述序列模型的待编辑位置,所述待编辑位置包含目标层和关键词元;根据关键词元的多个原始隐藏向量,确定最优隐藏向量;选择在给定提示词后,所述目标层中被激活的高分神经元,确定神经元子集;修改所述神经元子集的神经元参数,更新每一层的权重矩阵;迭代选择目标层的神经元,得到迭代后的神经元子集,修改迭代后的神经元子集的神经元参数,本发明能够很大程度上缓解模型遗忘问题;并且通过选择目标层,部分神经元的方式,降低了模型的编辑次数,从而降低防止模型损坏的风险。
主权项:1.一种序列模型编辑方法,其特征在于,包括:向所述序列模型给定提示词,获取所述提示词的多个原始隐藏向量;根据多个原始隐藏向量定位所述序列模型的待编辑位置,所述待编辑位置包含目标层和关键词元;根据关键词元的多个原始隐藏向量,确定最优隐藏向量;选择在给定提示词后,所述目标层中被激活的高分神经元,确定神经元子集;修改所述神经元子集的神经元参数,更新每一层的权重矩阵;迭代选择目标层的神经元,得到迭代后的神经元子集,修改迭代后的神经元子集的神经元参数,直至最优隐藏向量和原始隐藏向量满足公式:,其中为的目标阈值。
全文数据:
权利要求:
百度查询: 中国科学技术大学 一种序列模型编辑方法、装置、电子设备及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。