买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

摘要：本发明公开了一种神经网络的可解释性评估方法、装置、存储介质及设备，涉及人工智能技术领域。所述方法包括：获取测试数据集；针对测试数据集中的图像xi，基于图像xi对应的语义分割图对图像xi进行分割，得到图像xi的像素区域集合；对图像xi的像素区域集合中每一像素区域进行子区域分割，并将分割结果作用到图像xi上，得到图像xi的子区域分割结果；基于图像xi的子区域分割结果；通过测试数据集中所有图像的目标比比值，确定被测神经网络的评估结果。本发明给出了神经网络对图像预测的解释，并确保准确评估神经网络的预测水平。

主权项：1.一种神经网络的可解释性评估方法，其特征在于，所述方法包括：获取测试数据集，所述测试数据集包含多张图像，以及每张图像的标签和每张图像对应的语义分割图；针对所述测试数据集中的图像xi，基于所述图像xi对应的语义分割图对所述图像xi进行分割，得到所述图像xi的像素区域集合；对所述图像xi的像素区域集合中每一像素区域进行子区域分割，并将分割结果作用到所述图像xi上，得到所述图像xi的子区域分割结果；基于所述图像xi的子区域分割结果，确定所述图像xi的目标比比值，所述图像xi的目标比比值用于指示所述图像xi的关注子区域与所述图像xi的主体区域之间的重合程度；其中，所述图像xi的关注子区域是被测神经网络针对所述图像xi所关注的子区域，所述图像xi的主体区域是指所述图像xi的标签对应的子区域；其中，所述基于所述图像xi的子区域分割结果，确定所述图像xi的目标比比值，包括：基于所述图像xi的子区域分割结果，构建所述图像xi的局部解释模型，所述图像xi的局部解释模型用于指示所述图像xi的子区域分割结果中各子区域对所述图像xi的预测结果的贡献程度；其中，所述基于所述图像xi的子区域分割结果，构建所述图像xi的局部解释模型，包括：以所述图像xi的子区域分割结果中各子区域在所述图像xi的局部解释模型中是否出现，确定所述图像xi的向量表示；基于所述图像xi的向量表示对所述图像xi进行处理，并以处理后的图像xi′为输入、以所述图像xi的标签为输出，训练分类器；基于所述分类器对所述图像xi的预测结果以及所述图像xi，构建所述图像xi的局部解释模型；通过所述图像xi的局部解释模型，获取所述图像xi的关注子区域；基于所述图像xi的关注子区域和所述图像xi的主体区域，计算目标比；在所述目标比比值收敛的情况下，将所述目标比比值作为所述图像xi的目标比比值；通过所述测试数据集中所有图像的目标比比值，确定所述被测神经网络的评估结果，所述评估结果用于指示所述被测神经网络的预测水平。

全文数据：

权利要求：

百度查询： 中国科学院软件研究所 神经网络的可解释性评估方法、装置、存储介质及设备