龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：复旦大学
摘要：本发明提供了一种深度神经网络决策偏见挖掘与可视化方法及装置，具有这样的特征，包括以下步骤：步骤S1将图像输入深度神经网络模型得到输出结果；步骤S2选取目标特征层；步骤S3根据图像的标签和输出结果得到权重向量；步骤S4设置通道掩码；步骤S5通过通道掩码得到对应的遮盖特征图；步骤S6根据所有遮盖特征图得到遮盖输出结果；步骤S7根据遮盖输出结果、输出结果和通道掩码得到损失函数计算结果；步骤S8根据损失函数计算结果更新通道掩码；步骤S9重复步骤S5至步骤S8，直至达到终止条件，则根据所有通道掩码、特征图和权重向量得到归因热力图。总之，本方法能够得到针对深度神经网络潜在决策偏见的可视化结果。
主权项：1.一种深度神经网络决策偏见挖掘与可视化方法，用于生成输入深度神经网络模型的图像的归因热力图，其特征在于，包括以下步骤：步骤S1，将所述图像输入所述深度神经网络模型，得到输出结果；步骤S2，选取所述深度神经网络模型的一个特征层作为目标特征层；步骤S3，根据所述图像的标签和所述输出结果进行反向传播，计算得到权重向量；步骤S4，分别对所述目标特征层的各个通道设置初始化掩码作为对应的通道掩码；步骤S5，对每个所述通道，通过对应的所述通道掩码对该通道生成的特征图进行遮盖，得到对应的遮盖特征图；步骤S6，将所有所述遮盖特征图作为所述目标层的输出，经由所述深度神经网络模型后续层的处理，得到遮盖输出结果；步骤S7，对每个所述通道掩码，根据所述遮盖输出结果、所述输出结果和该通道掩码计算损失函数，得到对应的损失函数计算结果；步骤S8，根据所有所述损失函数计算结果反向传播更新所有所述通道掩码；步骤S9，重复所述步骤S5至所述步骤S8，直至达到终止条件，则根据所有所述通道掩码、所述特征图和所述权重向量计算得到所述归因热力图。
全文数据：
权利要求：
百度查询： 复旦大学 深度神经网络决策偏见挖掘与可视化方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号