买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜华为技术有限公司申请的专利一种基于模型动态行为的可解释性方法及相关装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN113947178B 。

龙图腾网通过国家知识产权局官网在2025-06-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202010683161.0，技术领域涉及：G06N3/0464；该发明授权一种基于模型动态行为的可解释性方法及相关装置是由纪守领;李长江;时杰;方成方设计研发完成，并于2020-07-15向国家知识产权局提交的专利申请。

本一种基于模型动态行为的可解释性方法及相关装置在说明书摘要公布了：本申请实施例提供一种基于模型动态行为的可解释性方法及相关装置，应用于人工智能领域，其中，一种基于模型动态行为的可解释性方法，包括：获取图像数据中目标像素点的非对称动态边界，非对称动态边界包括左动态边界和右动态边界；对目标像素点的左动态边界和右动态边界进行差量操作，获得目标像素点的左右动态边界之差；根据多个像素点分别对应的左右动态边界之差，获得图像数据的目标像素点集合，目标像素点集合包括多个像素点中一个或多个左右动态边界之差超过第一阈值的像素点。实施本申请实施例，忠实于原模型的情况下，精确解释该神经网络模型。

本发明授权一种基于模型动态行为的可解释性方法及相关装置在权利要求书中公布了：1.一种基于模型动态行为的可解释性方法，其特征在于，包括： 获取图像数据中目标像素点的非对称动态边界，所述图像数据为目标神经网络模型的输入数据，所述目标像素点为所述图像数据中多个像素点中的任意一个，所述非对称动态边界包括左动态边界和右动态边界，所述左动态边界为所述目标像素点的像素点值的下边界，所述右动态边界为所述目标像素点的像素点值的上边界，且所述目标像素点的像素点值在所述左动态边界和所述右动态边界之间变化时，所述图像数据在所述目标神经网络模型中的分类结果不变； 对所述目标像素点的所述左动态边界和所述右动态边界进行差量操作，获得所述目标像素点的左右动态边界之差； 根据所述多个像素点分别对应的左右动态边界之差，获得所述图像数据的目标像素点集合，所述目标像素点集合包括所述多个像素点中一个或多个左右动态边界之差超过第一阈值的像素点； 根据所述多个像素点分别对应的左右动态边界之差，获取所述目标像素点集合的动态边界范围； 根据所述动态边界范围，获得所述目标神经网络模型的鲁棒性边界范围，所述鲁棒性边界范围在所述动态边界范围之内，且用于确定输入所述目标神经网络模型后的分类结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华为技术有限公司，其通讯地址为：518129 广东省深圳市龙岗区坂田华为总部办公楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。