买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利模型中键值缓存的容错方法、产品、设备及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120508433B 。

龙图腾网通过国家知识产权局官网在2025-09-19发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510998851.8，技术领域涉及：G06F11/07；该发明授权模型中键值缓存的容错方法、产品、设备及介质是由高飞;汪可;张亚强;许光远;李逍;陈筱琳设计研发完成，并于2025-07-18向国家知识产权局提交的专利申请。

本模型中键值缓存的容错方法、产品、设备及介质在说明书摘要公布了：本申请公开了一种模型中键值缓存的容错方法、产品、设备及介质，涉及计算机技术领域，包括逐层读取多个注意力层中每一层的键值缓存中多个词元的键向量并进行检测，在检测到当前层对应的第一词元的键向量存在读取错误的情况下，根据第一词元在上一层的注意力重要性，修正当前层的注意力分数，解决了键值缓存中的键向量读取错误导致的模型推理的稳定性差且可靠性差的技术问题，达到了提高键值缓存的容错能力，从而提高模型推理的稳定性和可靠性的技术效果。

本发明授权模型中键值缓存的容错方法、产品、设备及介质在权利要求书中公布了：1.一种模型中键值缓存的容错方法，其特征在于，包括： 逐层读取预训练语言模型的多层注意力层中每一层的键值缓存中与输入文本相关的多个词元的键值向量； 在读取当前层对应的多个词元的键值向量的情况下，对当前层对应的多个词元的键向量进行检测，检测所述键向量是否存在因存储介质故障导致的读取错误； 在检测到当前层对应的多个词元的键向量均未存在读取错误的情况下，根据当前层对应的多个词元的键向量和上下文输入向量，计算当前层的注意力分数； 在检测到当前层对应的多个词元中的第一词元的键向量存在读取错误的情况下，确定所述第一词元在上一层的注意力重要性，并根据所述第一词元在上一层的注意力重要性，修正当前层的注意力分数； 根据当前层对应的多个词元的值向量和注意力分数，确定当前层的上下文输出向量；其中，当前层的上下文输出向量为下一层的上下文输入向量，最后一层的上下文输出向量用于生成所述输入文本对应的推理结果； 所述根据所述第一词元在上一层的注意力重要性，修正当前层的注意力分数，包括： 在确定所述第一词元在上一层的注意力重要性小于第一重要性阈值的情况下，丢弃当前层对应的所述第一词元的键向量，并根据当前层对应的其他词元的键向量和所述上下文输入向量，计算当前层的注意力分数； 在确定所述第一词元在上一层的注意力重要性大于或等于所述第一重要性阈值的情况下，将上一层的注意力分数作为当前层的注意力分数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。