买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:浙江大学
摘要:本发明公开了一种目标检测模型的窃取脆弱性分析方法和系统,属于模型窃取和人工智能知识产权保护分析领域。包括:获取相应任务场景和预测类别的无标注样本集;基于不确定度的主动学习方法,从无标注样本集中筛选查询数据集并迭代训练替代模型;基于互联网样本的数据集增强,更新查询数据集;基于目标检测的多尺度一致性,优化更新后的查询数据集中的标注;基于优化标注后的查询数据集训练替代模型;根据替代模型和目标模型的性能分析结果判断目标模型的窃取脆弱性。本发明填补了现有研究中针对目标检测深度学习模型的模型窃取威胁分析的空缺。
主权项:1.一种目标检测模型的窃取脆弱性分析方法,其特征在于,包括以下步骤:1获取待分析的目标模型的任务场景和所有预测类别,获取任务场景下的样本,得到一个无标注样本集;2通过基于不确定度的主动学习方法,从无标注样本集中选取数据构成查询数据集并通过目标模型标注,基于查询数据集迭代训练替代模型;步骤2包括:2-1遍历无标注样本集中的样本,基于替代模型的输出分别计算定位不确定度和分类不确定度;2-2根据定位不确定度和分类不确定度计算总不确定度,从无标注样本集中筛选出总不确定度最高的一批样本,由目标模型标注后加入到查询数据集,并将筛选出来的样本从无标注样本集中剔除;2-3基于当前的查询数据集训练替代模型;2-4重复步骤2-1至2-3,直到查询数据集达到规模上限,保留利用规模上限的数据集训练后的替代模型;3针对查询数据集中的稀有类别,通过关键词搜索互联网样本,并通过替代模型的置信度筛选后得到增强数据集,将增强数据集通过目标模型标注后加入到查询数据集中,更新查询数据集;4基于目标检测的多尺度一致性,优化更新后的查询数据集中的标注;5基于优化标注后的查询数据集训练替代模型;6根据替代模型和目标模型的性能分析结果判断目标模型的窃取脆弱性。
全文数据:
权利要求:
百度查询: 浙江大学 一种目标检测模型的窃取脆弱性分析方法和系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。