买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利存储优化的方法及装置、电子设备和存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120371221B 。

龙图腾网通过国家知识产权局官网在2025-08-29发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510851604.5，技术领域涉及：G06F3/06；该发明授权存储优化的方法及装置、电子设备和存储介质是由王萌设计研发完成，并于2025-06-24向国家知识产权局提交的专利申请。

本存储优化的方法及装置、电子设备和存储介质在说明书摘要公布了：本申请公开了一种存储优化的方法及装置、电子设备和存储介质，涉及数据处理技术领域，本申请的存储优化的方法及装置、电子设备和存储介质，通过采用保留、选取的策略，将缓存的占用空间压缩，通过为每一网络层分配缓存时，利用从低层到高层键值缓存逐步递减的方式分配，以此避免在低层遗漏关键词元，以及避免在高层保存不重要的词元，之后利用输入词元与缓存词元的注意力聚焦程度即目标注意力值，挑选出缓存词元中对输入词元最具影响力的关键词元进行缓存，之后在剩余词元中挑选出具有代表性的代表词元进行存储，可以只存储对模型处理数据具有影响的词元。达到将KV缓存的占用空间压缩，从而提供对更多请求的处理能力的技术效果。

本发明授权存储优化的方法及装置、电子设备和存储介质在权利要求书中公布了：1.一种存储优化的方法，其特征在于，包括： 在预设模型中进行键值缓存分配处理，得到所述预设模型中多个网络层各自对应的第一键值缓存，其中，所述多个网络层的层级越高对应的所述第一键值缓存越小； 计算多个输入词元与所述预设模型中多个缓存键值各自对应的多个缓存词元的目标注意力值，并根据所述第一键值缓存以及所述目标注意力值，从所述多个缓存词元中进行词元选择处理，得到关键词元； 根据所述目标注意力值构建多个其他词元各自对应的词元向量，并根据所述第一键值缓存以及所述词元向量从所述多个其他词元中进行词元选择处理，得到代表词元，其中，所述多个其他词元为所述多个缓存词元中除所述关键词元外的缓存词元； 将所述关键词元对应的关键键值、所述多个输入词元各自对应的输入键值以及所述代表词元对应的代表键值进行存储处理； 其中，在预设模型中进行键值缓存分配处理，得到所述预设模型中多个网络层各自对应的第一键值缓存包括： 确定预设总键值缓存，其中，所述预设总键值缓存包括所述多个网络层的第一总缓存以及所述多个网络层的预留总缓存； 根据所述多个网络层的层级数量、所述多个网络层各自对应的注意力头数量以及预设输入数量，对所述预留总缓存进行分配处理，得到所述多个网络层各自对应的第一预留缓存，其中，所述预设输入数量为预先配置的输入词元的数量，每个网络层包括多个注意力头； 根据所述层级数量、所述多个网络层各自对应的层级以及预设层级缓存比例，对所述第一总缓存进行分配处理，得到所述多个网络层各自对应的初始键值缓存，其中，所述预设层级缓存比例为预先配置的所述多个网络层中最低层级网络层对应的初始键值缓存与最高层级网络层对应的初始键值缓存之间的比例； 分别将所述多个网络层各自对应的所述第一预留缓存以及所述初始键值缓存进行相加处理，得到所述多个网络层各自对应的所述第一键值缓存。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215103 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。