买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜北京奇虎科技有限公司申请的专利模型安全评估方法、设备、存储介质及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118445174B 。

龙图腾网通过国家知识产权局官网在2025-04-29发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202311117324.9，技术领域涉及：G06F11/3668；该发明授权模型安全评估方法、设备、存储介质及装置是由张德岳;杨东东;韩东;邹权臣设计研发完成，并于2023-08-31向国家知识产权局提交的专利申请。

本模型安全评估方法、设备、存储介质及装置在说明书摘要公布了：本发明公开了一种模型安全评估方法、设备、存储介质及装置，本发明对待测试模型进行识别性能测试，获得识别性能测试结果；基于预设白盒模型或预设黑盒模型对待测试模型进行鲁棒性能测试，获得鲁棒性能测试结果；基于预设白盒模型或所述预设黑盒模型对待测试模型进行后门风险测试，获得后门风险测试结果；根据性能测试结果、鲁棒性能测试结果以及模型后门风险测试结果对待测试模型进行安全综合分析，相较于现有技术中尚未建立统一深度学习模型安全性评估规范，测评维度单一导致针对模型安全性能评估方法的可用性、易用性以及均较差，本发明实现了多维度评估模型安全性能，可以全面保障模型的安全性能，提升模型安全性能。

本发明授权模型安全评估方法、设备、存储介质及装置在权利要求书中公布了：1.一种模型安全评估方法，其特征在于，所述模型安全评估方法包括以下步骤：对待测试模型进行识别性能测试，获得识别性能测试结果；所述对待测试模型进行识别性能测试，获得识别性能测试结果的步骤，包括：对预设初始测试集进行数据增强，构建泛化测试集；基于所述预设初始测试集对待测试模型进行识别性能测试，获得第一ACC指标；基于所述泛化测试集对待测试模型进行识别性能测试，获得第二ACC指标；根据所述第一ACC指标和所述第二ACC指标确定识别性能测试结果，其中，所述模型安全评估方法支持CV领域数据集的上传与处理，所述预设初始测试集为用户根据所述待测试模型的任务类型上传的干净测试集；所述泛化测试集包括调用图像变换，构造一组经过翻转、缩放的泛化测试集D1；调用像素变换，构造一组添加各种噪声的泛化测试集D2；调用自然场景变换，构造一组添加自然噪声的泛化测试集D3；调用风格迁移网络，构造一组带有艺术风格的泛化测试集D4；在模型识别性能的测评中，根据所述待测试模型在多组测试数据上的ACC表现作为评估指标，在各组测试数据上的ACC越高，说明模型对于正常数据和泛化数据的识别性能越好，所述待测试模型的识别性能的测评分数计算公式表述如下：Scoreacc＝α0*ACCD0+α1*ACCD1+α2*ACCD2+α3*ACCD3+α4*ACCD4其中，Scoreacc表示所述待测试模型的识别性能评分，ACCD0表示所述待测试模型在预设初始测试集D0上的识别性能，ACCD1表示所述待测试模型在泛化测试集D1上的识别性能，ACCD2表示所述待测试模型在泛化测试集D2上的识别性能，ACCD3表示所述待测试模型在泛化测试集D3上的识别性能，ACCD4表示所述待测试模型在泛化测试集D4上的识别性能，α0、α1、α2、α3、α4、分别表示相应的权重系数；所述待测试模型安全性能的整体评分为：Score＝w1*Scoreacc+w2*Scoreadv+w3*Scoreback；其中，Score为所述待测试模型安全性能的整体评分，Scoreadv表示所述待测试模型的鲁棒性能评分，Scoreback表示所述待测试模型的后门风险评分，w1、w2、w3分别表示三项评分的权重系数，对抗攻击风险是每个模型都会面临的一种安全威胁，因此所述待测试模型的安全评分计算公式中权重系数w2的占比最大；基于预设白盒模型或预设黑盒模型对所述待测试模型进行鲁棒性能测试，获得鲁棒性能测试结果；所述基于预设白盒模型或预设黑盒模型对所述待测试模型进行鲁棒性能测试，获得鲁棒性能测试结果的步骤，包括：基于所述待测试模型的模拟访问情况从预设白盒模型或预设黑盒模型中选取目标模型对所述待测试模型进行鲁棒性能测试，获得鲁棒性能测试结果，所述模拟访问情况包括完全获取模型参数与输出信息、获取完整输出信息但无法访问模型参数以及获取输出类别信息但无法访问模型参数；基于所述预设白盒模型或所述预设黑盒模型对所述待测试模型进行后门风险测试，获得后门风险测试结果；所述基于所述预设白盒模型或所述预设黑盒模型对所述待测试模型进行后门风险测试，获得后门风险测试结果的步骤，包括：获取所述待测试模型的访问状态；在所述访问状态为仅获取待检测模型输出层权重参数信息时，确定测试场景为白盒场景，并将所述预设白盒模型作为目标模型；根据所述预设白盒模型以及预设TPR模型评估方法对所述待测试模型进行后门风险测试，获得后门风险测试结果；或，在所述访问状态为访问待测试模型但仅获取输出类别信息时，确定测试场景为黑盒场景，并将所述预设黑盒模型作为目标模型；根据所述预设黑盒模型以及预设AEVA后门攻击方法对所述待测试模型进行后门风险测试，获得后门风险测试结果；根据所述性能测试结果、所述鲁棒性能测试结果以及模型后门风险测试结果对所述待测试模型进行安全综合分析。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京奇虎科技有限公司，其通讯地址为：100015 北京市朝阳区酒仙桥路6号院2号楼1至19层104号内8层801；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。