买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：华中师范大学

摘要：本发明属于教育数据挖掘领域，提供一种融合认知刻画的注意力知识追踪方法，包括：1数据预处理；2特征融合；3表现预测；4模型训练。本发明提出了一套基于学习者认知画像的注意力知识追踪框架，此框架分别对学习者的记忆、实践和语言三方面特征进行建模，最终根据上述所得三方面特征进行联合建模，综合考虑学习者多方面的信息，以此来提升模型对于学习者知识掌握情况和未来表现预测的表现。

主权项：1.一种融合认知刻画的注意力知识追踪方法，其特征在于该方法包括以下步骤：1数据预处理；采集相应的数据记录，处理成知识追踪模型所需的数据格式，即构建数据模型，为后面的特征融合提供数据准备；1-1数据采集：采集“学习大数据”平台上学习者的数学科目历史学习记录，至少一个学期的，包括用户名、学生作答的题号、回答情况、知识点、时间信息以及问题文本原始数据；1-2构建数据模型：首先，对原始数据中学生的用户名用数字id进行映射；其次按照学生id对原始数据进行分组并建立按时间升序排列的学习者做题序列集；然后对数据进行清洗，删除少于3个学习者练习的问题以及做题记录数少于3的学生数据；2特征融合；从记忆维度、实践维度、语言维度这三个方面提取并构建关于学生认知刻画的综合、系统的特征，深入挖掘学习者的学习行为模式及其知识点掌握程度的动态变化过程；2-1问题定义：假设数据集中有H个学生，N个概念以及M个不同问题，NM，将学习者回答的问题、该问题所属的概念、作答反应表示为一个元组其中表示学生h在t时刻尝试的问题，为概念索引,表示答案，然后给定学生h从1到t-1时刻的历史学习记录目标是预测学生h在下一时刻t正确回答属于概念的问题的概率，即2-2问题、概念和交互嵌入：在步骤2-1的设定下，嵌入层的输入为问题序列Q＝{q1,q2,…,qt}、概念序列C＝{c1,c2,…,ct}、反应序列R＝{r1,r2,…,rt}，输出为问题嵌入、概念嵌入、问题-反应交互嵌入以及概念-反应交互嵌入；问题嵌入：利用问题嵌入矩阵EQ∈RM×d将问题集SetQ中的每一道练习题qi嵌入到第i行，即其中d表示嵌入到高维空间的维数；概念嵌入：利用概念嵌入矩阵EC∈RN×d获取概念集SetC中每一个概念ci的嵌入表示问题-反应交互嵌入：将回答情况rt扩展为d维的向量rt＝[rt,rt,…,rt]∈Rd，得到单个问题-反应交互嵌入如下所示： 其中，δqt表示问题困难度，P∈Rl×d为包含交互位置信息的位置嵌入矩阵，表示拼接；概念-反应交互嵌入：利用概念变化嵌入矩阵ED∈RN×d感知、获取同一概念下不同问题的上下文表示，得到单个概念-反应嵌入具体表示为： 练习-反应交互嵌入序列表示为其中概念-反应交互嵌入序列则表示为其中2-3认知刻画特征表示：在模型中对应构造三个特征融合器来获取学生的记忆、实践和语言特征，记忆特征融合器采用问题嵌入序列问题-反应交互嵌入序列练习次数N＝{n1,n2,…,nt-1}以及做题时间间隔ΔT＝{Δt1,Δt2,…,Δtt-1}作为输入，并输出使用修改后的记忆感知注意力机制获取的学生记忆相关特征M＝{m1,m2,…,mt}，实践特征融合器利用概念嵌入以及概念-反应嵌入作为输入，并输出使用一般注意力机制获取的学生实践相关特征P＝{p1,p2,…,pt}，语言特征融合器以问题嵌入序列问题-反应交互嵌入序列以及问题关系邻接矩阵R＝{Rt,1,Rt,2,…,Rt,t-1}作为输入，并输出使用修改后的练习关系感知注意力机制获取的学生语言相关特征L＝{l1,l2,…,lt}；3表现预测；特征融合，利用相对位置注意力机制来构建预测模型，对学生知识掌握情况进行诊断和学习者表现进行预测；3-1特征融合：预测阶段采用相对位置注意力机制进行预测，将练习嵌入序列和概念嵌入序列进行拼接和线性变化操作，将其作为预测模型的query矩阵，同样对记忆、实践和语言特征融合器所输出学生记忆、实践和语言相关特征进行拼接并进行线性变化，得到最终的嵌入表示,并将其作为key和value矩阵，具体计算如下： clipx,k＝max-k,mink,x其中，qi,ki,vi∈Rd，表示元素之间相对位置信息的向量，k为设定的元素之间的最大距离；最后，将模型的输出o传递到前馈层中，具体计算如下：F＝ReLUoW1+b1W2+b2其中，W1,W2∈Rd×d为权重矩阵，b1，b2∈Rd为偏置向量；除了上述建模结构外，在自注意层和前馈层之后都加入残差连接、层归一化和随机失活；3-2对于学习者的知识点掌握的诊断结果ht即为上述前馈层所输出的最终结果F；3-3学习者表现预测：学习者正确回答t时刻的问题概率为： 4模型训练；训练的目标是最小化学生反应序列的负对数似然，通过最小化预测学习者正确回答问题的概率和学习者反应的真实标签rt之间的交叉熵损失来学习参数，

全文数据：

权利要求：

百度查询： 华中师范大学 一种融合认知刻画的注意力知识追踪方法