买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海壁仞科技股份有限公司申请的专利注意力计算实现方法、装置、介质、设备及产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121072600B 。

龙图腾网通过国家知识产权局官网在2026-03-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511596843.7，技术领域涉及：G06N3/045；该发明授权注意力计算实现方法、装置、介质、设备及产品是由请求不公布姓名设计研发完成，并于2025-11-04向国家知识产权局提交的专利申请。

本注意力计算实现方法、装置、介质、设备及产品在说明书摘要公布了：本发明公开了一种注意力计算实现方法、装置、介质、设备及产品，所述方法包括：将当前待计算的第i个查询分块从共享内存加载至消费者线程组的第一寄存器组，对查询分块和键分块进行内部拆分计算，以获取对应的注意力分数分块；依次获取MK个注意力分数分块，并与对应的值分块执行混合精度的注意力融合计算，获得第i个查询分块对应的注意力输出分块；将注意力输出分块逻辑划分为N2个批次后，按批次复用执行融合计算过程中存储目标精度类型数据的指定寄存器组，进行目标精度类型的转换，并将每一批次转换后的输出结果写回共享内存。本发明能够高效地利用现有的硬件资源，以提高计算性能，尤其适用于大尺寸的查询分块和键分块场景。

本发明授权注意力计算实现方法、装置、介质、设备及产品在权利要求书中公布了：1.一种注意力计算实现方法，其特征在于，由消费者线程组执行，所述方法包括： 将当前待计算的第i个查询分块从共享内存加载至所述消费者线程组的第一寄存器组；其中，i≥1； 对加载得到的查询分块进行头维度的逻辑划分，得到N1个查询子块，并基于矩阵乘加指令，对每一个查询子块与第j个键分块中对应的键子块进行计算，以获取第i个查询分块对应的第j个注意力分数分块；其中，N1≥1；1≤j≤MK；MK为键矩阵的分块数量； 依次获取MK个注意力分数分块，并与对应的值分块执行混合精度的注意力融合计算，获得第i个查询分块对应的注意力输出分块；其中，所述键分块和所述值分块分批次缓存于共享内存中； 将所述注意力输出分块逻辑划分为N2个批次后，按批次复用指定寄存器组进行目标精度类型的转换，并将每一批次转换后的输出结果写回共享内存；其中，所述指定寄存器组是在执行注意力融合计算过程中，用于存储目标精度类型数据的寄存器组；N2≥1。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海壁仞科技股份有限公司，其通讯地址为：201114 上海市闵行区陈行公路2388号16幢13层1302室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。