买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：青岛网信信息科技有限公司;青岛大学

摘要：本发明提供了一种大语言模型时间维度优化方法、介质及系统，属于大语言模型技术领域，包括：首先,提取数据中的时间特征、实体和关系,构建时间‑事件网络。然后,应用因果推理算法分析事件序列,得到事件间的条件概率和时间间隔,建立因果关系图。接下来,采用HyperLogLog算法评估节点重要性,并使用PageRank算法计算节点的时序影响力,得到因果关系影响力HLL图。为了捕捉时间维度,设计时间感知注意力机制计算注意力权重。最后,将图特征与原始文本数据融合,构建微调数据集,并对基座大语言模型进行微调,得到考虑时间维度的大语言模型。本发明的方案解决现有的大语言模型对时间维度信息感知差的技术问题。

主权项：1.一种大语言模型时间维度优化方法，其特征在于，包括以下步骤：S10、对训练数据中的每一项数据进行时间特征提取，实体识别和关系抽取，构建时间-事件网络；S20、利用因果推理算法，分析时间-事件网络中的事件序列，计算事件之间的条件概率和时间间隔，得到所述训练数据中全部事件之间的因果关系路径；S30、根据所述因果关系路径，建立有向无环图，得到因果关系图；S40、基于因果关系图，按照每个节点的遍历路径，采用HyperLogLog算法对每条路径上的节点进行基数估计，得到所述因果关系图中每个节点的估计基数值作为节点的重要性指标，得到因果关系HLL图；S50、采用PageRank算法计算所述因果关系HLL图中每个节点的时序影响力，作为对应节点的影响力分数，得到因果关系影响力HLL图；S60、基于所述因果关系影响力HLL图，利用节点重要性指标、影响力分数和时间间隔信息，设计时间感知注意力机制，计算注意力权重，得到所述因果关系影响力HLL图中每个节点的注意力分数；S70、将所述因果关系影响力HLL图转化为邻接关系表，并将节点的重要性指标、影响力分数和注意力分数作为特征向量，与原始文本数据结合，建立微调数据集；S80、采用所述微调数据集对基座大语言模型进行微调，得到考虑时间维度的大语言模型。

全文数据：

权利要求：

百度查询： 青岛网信信息科技有限公司 青岛大学 一种大语言模型时间维度优化方法、介质及系统