买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉山东浪潮科学研究院有限公司申请的专利基于长期记忆的检索增强生成方法、系统、电子设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119415664B 。

龙图腾网通过国家知识产权局官网在2025-07-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510026857.9，技术领域涉及：G06F16/3329；该发明授权基于长期记忆的检索增强生成方法、系统、电子设备及存储介质是由段强;张吉臣;黄登蓉;张其来设计研发完成，并于2025-01-08向国家知识产权局提交的专利申请。

本基于长期记忆的检索增强生成方法、系统、电子设备及存储介质在说明书摘要公布了：本发明提供一种基于长期记忆的检索增强生成方法、系统、电子设备及存储介质，属于人工智能领域。该方法包括：利用大语言模型，将整个数据库的内容进行压缩和语义编码，形成全局记忆；基于用户提出的查询，生成初步答案，并将其作为检索信息从数据库中检索出相关信息；基于检索到的相关信息和全局记忆生成最终答案提供给用户。首先利用轻量级的大语言模型形成全局记忆，基于用户提出的查询生成检索线索，通过调整检索线索的详细程度和相关性，能够快速准确地定位到最有价值的信息。结合检索到的详细证据和初步答案生成最终的详细回答，具有高效性、准确性和灵活性优点，还能应用于需要处理大量文本数据和复杂查询的应用场景。

本发明授权基于长期记忆的检索增强生成方法、系统、电子设备及存储介质在权利要求书中公布了：1.一种基于长期记忆的检索增强生成方法，其特征在于，包括： 利用大语言模型，将整个数据库的内容进行压缩和语义编码，形成全局记忆； 基于用户提出的查询，生成初步答案，并将所述初步答案作为检索信息从数据库中检索出相关信息； 基于检索到的相关信息和全局记忆，生成最终答案，提供给用户； 其中，利用大语言模型，将整个数据库的内容进行压缩和语义编码，形成全局记忆，包括： 对数据库中的数据进行读取和聚合，并使用基于Transformer的大语言模型通过多层注意力机制将长文本压缩成记忆单元，同时保留关键语义信息形成全局记忆，其中，所述数据库包括关系型数据库和非关系型数据库； 其中，通过Transformer模型处理原始输入token，生成查询、键和值矩阵，并利用注意力机制计算权重； 在每个上下文窗口之后，附加记忆token，使用记忆token的权重矩阵更新记忆表示，形成全局记忆； 其中，所述全局记忆表征为： ； 式中，是隐藏状态表示中的第i个向量，是注意力机制输出的注意力权重矩阵中对应第i个词的注意力权重； 方法还对数据库中的数据进行读取和聚合，并使用基于Transformer的大语言模型通过多层注意力机制将长文本压缩成记忆单元，同时保留关键语义信息形成全局记忆，包括： 引入全局记忆构建算法，用于从原始的长文本数据中构建出包含语义信息的全局记忆表示： 原始输入token的表示步骤：原始输入token通过Transformer模型的处理，转换成查询、键和值矩阵，用于计算查询、键和值矩阵的注意力权重； 注意力机制的计算步骤：使用softmax函数计算注意力权重，并利用注意力权重获取加权的值； ； 式中，是键向量的维度； 记忆token的初始化步骤：在每个上下文窗口之后，附加预设数量的记忆token，并为记忆token初始化另一组查询、键和值的权重矩阵； 另一组查询、键和值的权重矩阵表示为,、和； 记忆token的更新步骤：使用与原始输入token相同的注意力机制和使用记忆token的权重矩阵，计算记忆token的更新表示； ，，； ； 记忆形成步骤：经过多层Transformer处理后，原始输入token被编码成隐藏状态，并在记忆形成后，丢弃原始token的键值缓存，其中，所述隐藏状态包括原始token的隐藏状态和记忆token的隐藏状态； 语义压缩步骤：将长文本压缩成全局记忆； 全局记忆构建算法的训练步骤：包括预训练和监督微调阶段，其中，在预训练阶段，全局记忆构建算法使用长上下文数据集来学习从原始上下文中形成记忆，在监督微调阶段，全局记忆构建算法使用预设任务的数据来生成基于形成的记忆的任务线索。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人山东浪潮科学研究院有限公司，其通讯地址为：250000 山东省济南市高新浪潮路1036号S02号楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。