买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：浙江师范大学

申请日：2024-12-19

公开（公告）日：2025-01-17

公开（公告）号：CN119322890A

专利技术分类：....基于用户配置文件和个性化自定义搜索[2019.01]

专利摘要：本发明公开了一种基于大语言模型结构学习与知识表征的概念推荐方法，属于概念推荐领域。本发明的方法首先获取学生账户在学习过程中的学习数据和概念知识图谱并进行预处理；使用预训练语言模型对大语言模型生成的增强文本进行文本编码，得到每个概念的最终隐藏向量，进而构建增强概念知识图谱，基于增强概念知识图谱以及双视角交叉图对比学习方法预训练GraphGPS概念编码器；由TabDDPM模型合成教育数据，用来预训练深度知识追踪模型；将问题嵌入、答案嵌入、结构感知的概念表示以及学生知识状态表示拼接，构成最终表示，进而得到编码序列后，预训练序列编码模型以及微调概念推荐矩阵，最终构成概念推荐模型，用于进行概念推荐。

专利权项：1.一种基于大语言模型结构学习与知识表征的概念推荐方法，其特征在于，包括以下步骤：S1：从在线教育平台中获取学生账户在学习过程中的学习数据和相关的概念知识图谱，并对学习数据和概念知识图谱进行预处理；S2：利用大语言模型生成概念知识图谱中每个概念的增强文本，使用预训练语言模型对增强文本进行文本编码，得到每个概念的最终隐藏向量，由最终隐藏向量更新概念知识图谱中的节点，得到增强概念知识图谱，将增强概念知识图谱输入到GraphGPS概念编码器中，采用双视角交叉图对比学习方法对GraphGPS概念编码器进行预训练，得到预训练好的GraphGPS概念编码器；S3：随机采样学生账户的学习数据作为TabDDPM模型的输入，通过反向扩散过程生成合成的教育数据，将合成的教育数据与学生账户的学习数据合并形成知识追踪数据集，在知识追踪数据集上预训练深度知识追踪模型；S4：将新的概念知识图谱输入到预训练好的GraphGPS概念编码器中，输出每个时间步的结构感知的概念表示，将新的学习数据输入到预训练好的深度知识追踪模型中，输出每个时间步的学生知识状态表示，对新的学生学习数据进行嵌入，得到每个时间步的问题嵌入以及答案嵌入，将每个时间步的问题嵌入、答案嵌入、结构感知的概念表示以及学生知识状态表示拼接，得到每个时间步的最终表示，由对应每个学习数据的各个时间步的最终表示构成一个学习数据的编码序列；S5：将学习数据的编码序列输入到序列编码模型中进行预训练，基于预训练好的GraphGPS概念编码器、深度知识追踪模型以及序列编码模型微调可学习的概念推荐矩阵，由预训练好的GraphGPS概念编码器、深度知识追踪模型以及序列编码模型以及微调好的概念推荐矩阵构成概念推荐模型，将待进行概念推荐的学生学习数据输入到概念推荐模型中，计算每个概念的得分，生成在线教育平台针对学生账户的概念推荐结果，并按照预设方式推送至在线教育平台的用户界面中。

百度查询： 浙江师范大学 基于大语言模型结构学习与知识表征的概念推荐方法