买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：清华大学

摘要：本申请涉及一种模型训练方法和解决特定领域问题的方法，其中，模型训练方法包括：获取第一样本数据；第一样本数据包括N个第一问题文本和N个第一答案文本；根据第一样本数据和第一大语言模型，得到N个第一知识文本；根据第一样本数据中的至少部分数据和N个第一知识文本中的至少部分数据，对第一中间语言模型继续进行训练，得到第一语言模型；本申请提供的模型训练方法通过预训练一个应用于特定领域的小型语言模型，并利用大语言模型生成伪数据对该小型语言模型进行调整，可以得到能够生成针对特定领域问题的相关知识的第一语言模型，第一语言模型可以帮助大语言模型解决特定领域问题，提高大语言模型解决特定领域问题的能力。

主权项：1.一种模型训练方法，其特征在于，所述方法包括：获取第一样本数据；所述第一样本数据包括N个第一问题文本和N个第一答案文本；所述N个第一问题文本与所述N个第一答案文本一一对应；所述第一问题文本用于描述属于特定领域的第一问题；所述第一答案文本用于描述所述第一问题的答案；N为正整数；根据所述第一样本数据和第一大语言模型，得到N个第一知识文本；所述N个第一知识文本与所述N个第一问题文本一一对应；所述第一知识文本用于提供与回答所述第一问题相关的知识；根据所述第一样本数据中的至少部分数据和所述N个第一知识文本中的至少部分数据，对第一中间语言模型继续进行训练，得到第一语言模型；所述第一中间语言模型为应用于所述特定领域的预训练语言模型；所述第一语言模型的参数数量小于所述第一大语言模型的参数数量；所述根据所述第一样本数据和第一大语言模型，得到N个第一知识文本，包括：将所述N个第一问题文本、所述N个第一答案文本和第一提示文本输入至所述第一大语言模型，得到所述第一大语言模型输出的所述N个第一知识文本；所述第一提示文本用于提示所述第一大语言模型根据所述第一问题文本和所述第一答案文本生成所述第一知识文本；所述根据所述第一样本数据中的至少部分数据和所述N个第一知识文本中的至少部分数据，对第一中间语言模型继续进行训练，得到第一语言模型，包括：根据所述第一样本数据、所述N个第一知识文本和所述第一大语言模型，得到第二样本数据；所述第二样本数据包括所述N个第一问题文本中的M个第一问题文本、所述N个第一答案文本中的M个第一答案文本和所述N个第一知识文本中的M个第一知识文本；M为正整数；M≤N；其中，所述M个第一问题文本与所述M个第一答案文本一一对应；所述M个第一知识文本与所述M个第一问题文本一一对应；所述M个第一知识文本用于提供与正确回答所述M个第一问题文本描述的第一问题相关的知识；根据所述第二样本数据，对所述第一中间语言模型继续进行训练，得到第一语言模型。

全文数据：

权利要求：

百度查询： 清华大学 一种模型训练方法和解决特定领域问题的方法