西北工业大学耿杰获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西北工业大学申请的专利一种基于归因推理的SAR图像分类网络可解释性分析方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119514702B 。
龙图腾网通过国家知识产权局官网在2025-10-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411540761.6,技术领域涉及:G06N5/045;该发明授权一种基于归因推理的SAR图像分类网络可解释性分析方法是由耿杰;董理嘉;张宇航;蒋雯设计研发完成,并于2024-10-31向国家知识产权局提交的专利申请。
本一种基于归因推理的SAR图像分类网络可解释性分析方法在说明书摘要公布了:本发明公开了一种基于归因推理的SAR图像分类网络可解释性分析方法,包括以下步骤:步骤一,获取SAR图像数据集和训练好的Transformer分类网络;步骤二,构建注意力归因度量模型,计算Transformer分类网络各层级的归因推理矩阵;步骤三,度量注意力头的贡献值,搜寻注意力机制中贡献值高的连接关系,对网络结构进行可解释性分析;步骤四,构建归因得分矩阵,量化每层输入Token对网络决策的贡献程度,对网络的关键路径进行可解释性分析;步骤五,进行非关键Token剪枝,实现Transformer分类网络的输入Token轻量化。本发明提出的归因推理可解释性分析方法,能够从网络结构分析、网络特征传递分析两个视角来解释模型的作用机理,有效地提升了基于Transformer的SAR图像分类的可解释性。
本发明授权一种基于归因推理的SAR图像分类网络可解释性分析方法在权利要求书中公布了:1.一种基于归因推理的SAR图像分类网络可解释性分析方法,其特征在于,包括以下步骤: 步骤一、获取SAR图像数据集和训练好的Transformer分类网络; 步骤二、构建注意力归因度量模型,计算Transformer分类网络各层级的归因推理矩阵; 步骤201:引入缩放因子θ控制Transformer模型内部注意力权重的强度,根据公式计算Transformer中某一层第h个头的归因推理矩阵,其中A=[A1,A2,...,Ah,..,AH]表示该层多头注意力机制的注意力矩阵,符号⊙表示矩阵对应元素相乘,Ainfh∈Rn×n表示与第h个头注意力权重矩阵Ah对应的归因推理矩阵,表示Transformer网络Fx·沿着Ah的梯度; 步骤202:使用黎曼和公式来近似计算步骤201中的积分等式,即 其中N为采样点数; 步骤三、度量注意力头的贡献值,搜寻注意力机制中贡献值高的连接关系,对网络结构进行可解释性分析; 步骤301:对于第i个测试集样本Xi,利用归因度量模型计算得到Transformer每一层归因推理矩阵Ainfil=[Atil,1,Atil,2,...,Atil,H],其中l表示第l层,H表示该层网络具有的注意力头总数; 步骤302:对于第i个测试样本,利用公式计算第l层中第h个头的贡献度得分; 步骤303:依次遍历测试集的所有样本,然后利用公式对贡献度得分累加,得到第l层的注意力头贡献度; 步骤304:对每一层的注意力头贡献度进行归一化,即得到Transformer网络在SAR图像数据集上各注意力头的贡献度分布Il=[I1,I2,...,IH]; 步骤四、构建归因得分矩阵,量化每层输入Token对网络决策的贡献程度,对网络的关键路径进行可解释性分析; 步骤401:根据步骤202得到给定样本Xi对应的第l层归因矩阵其中表示第l层中第h个头的归因矩阵; 步骤402:对于第l层中第h个头,过滤掉归因矩阵中对角线上的值和低于阈值τ的值,规避强自相关对和过弱相关对的贡献值评估影响,即其中表示过滤之后的归因矩阵,onesn×n表示值全为1的矩阵,In×n表示单位矩阵,Mn×n表示满足条件的二值矩阵; 步骤403:对于Transformer网络的第l层,需要考虑所有注意力头对模型决策的贡献程度,因此将各注意力头的归因矩阵累加,从而得到第l层的单层归因得分矩阵 步骤404:将l层之后的所有层级的单层归因得分矩阵累加,得到Transformer网络第l层的整体归因得分矩阵,即 步骤405:计算第l层中第t个Token的贡献值,其中ast,k表示第l层归因得分矩阵的第t,k个元素; 步骤五、进行非关键Token剪枝,实现Transformer分类网络输入Token上的轻量化; 步骤501:提出非关键Token的剪枝原则:当前层级被剪掉的特征Token不能在后面的所有层级中出现,即被剪掉的特征Token不应该在参与网络后续的传播;当前层级被剪掉的总Token数目应当大于或者等于前一层被剪掉的总Token数;对于每一个样本,在网络中的关键信息流应该是不同的; 步骤502:计算样本Xi在第l层被保留的关键Token索引号即 其中kl′表示在第l层需要保留的Token数量,是根据步骤505计算得到第l层所有Token的贡献值,表示索引掩码,根据步骤501的原则以阻断被剪掉的Token对后续信息流的影响; 步骤503:根据各层保留的索引号来确定样本Xi在Transformer网络中的关键Token信息流,实现网络输入Token上的轻量化。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西北工业大学,其通讯地址为:710072 陕西省西安市碑林区友谊西路127号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励