首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于公式学习的大模型微调方法、装置及存储介质 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:之江实验室

摘要:本说明书公开了一种基于公式学习的大模型微调方法、装置及存储介质,获取包含公式的原始文本中的公式和公式的候选变量。针对每个公式,根据该公式的上下文内容,确定目标文本并确定目标文本中的候选变量,在该公式中确定与候选变量一致的匹配变量,根据包含候选变量的语句确定解释文本。将目标文本的解释文本和匹配变量屏蔽,得到任务文本,根据公式和解释文本确定任务文本的标注。将任务文本和任务提示输入大模型得到预测文本,根据预测文本与标注的差异微调大模型。通过屏蔽目标文本的解释文本和匹配变量,对大模型进行微调,使大模型学习到公式中的变量与其解释之间的对应关系,从而在问答任务中提高大模型对涉及公式计算问题的回答准确率。

主权项:1.一种基于公式学习的大模型微调方法,其特征在于,包括:获取包含公式的原始文本,识别所述原始文本中的公式,以及识别所述原始文本中公式的候选变量;针对每个公式,根据该公式的上下文内容,确定该公式对应的目标文本;确定所述目标文本中的候选变量,并在该公式中确定与所述候选变量一致的匹配变量;根据所述目标文本中包含所述候选变量的语句,确定所述匹配变量的解释文本;将所述目标文本中所述解释文本以及该公式中的所述匹配变量屏蔽,得到任务文本,以及根据该公式和所述解释文本,确定所述任务文本的标注;将所述任务文本和预设的任务提示输入预训练的大模型,得到所述大模型输出的预测文本,根据所述预测文本与所述标注的差异,微调所述大模型,其中,微调完成的大模型用于确定输入文本中的公式以及公式中变量的解释,以输出涉及公式计算问题的答案。

全文数据:

权利要求:

百度查询: 之江实验室 一种基于公式学习的大模型微调方法、装置及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。