买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：清华大学深圳国际研究生院

摘要：本申请公开了一种模型漏洞检测方法、检测装置、电子设备及存储介质。模型漏洞检测方法包括：获取随机生成的图像数据和标签数据并据此计算云端模型的模型梯度；获取客户端模型的第一模型参数和第二模型参数，并结合模型梯度计算损失函数值；更新图像数据和标签数据直至得到最小损失函数值，并获取与之对应的目标图像数据和目标标签数据；根据目标图像数据、目标标签数据和原始训练数据检测模型漏洞，其中，第一模型参数为客户端模型在第一时间点的模型参数，第二模型参数为客户端模型在第二时间点的模型参数。通过两个时间点的客户端模型参数获得目标数据，从而可以快速地检测模型算法中存在的数据泄漏漏洞，实用性更高。

主权项：1.模型漏洞检测方法，其特征在于，包括：获取随机生成的图像数据和标签数据；根据所述图像数据和所述标签数据计算云端模型的模型梯度；获取客户端模型的第一模型参数和第二模型参数；其中，所述第一模型参数为所述客户端模型在第一时间点的模型参数，所述第二模型参数为所述客户端模型在第二时间点的模型参数；根据所述模型梯度、所述第一模型参数和所述第二模型参数计算损失函数值；更新所述图像数据和所述标签数据，直至得到最小损失函数值；获取与所述最小损失函数值对应的目标图像数据和目标标签数据；根据所述目标图像数据、所述目标标签数据、原始图像数据和原始标签数据检测所述客户端模型是否存在模型漏洞；其中，所述根据所述模型梯度、所述第一模型参数和所述第二模型参数计算损失函数值的步骤，包括：根据所述模型梯度得到第一比值；其中，所述根据所述模型梯度得到第一比值的步骤，包括：计算所述模型梯度的范数，得到第一范数值；计算所述模型梯度与所述第一范数值的比值，得到所述第一比值；根据所述第一模型参数和所述第二模型参数得到第二比值；其中，所述根据所述第一模型参数和所述第二模型参数得到第二比值的步骤，包括：计算所述第一模型参数与所述第二模型参数的差，得到第一差值；计算所述第一差值的范数，得到第二范数值；计算所述第一差值与所述第二范数值的比值，得到所述第二比值；根据所述第一比值和所述第二比值得到所述损失函数值；其中，所述根据所述第一比值和所述第二比值得到所述损失函数值的步骤，包括：计算所述第一比值与所述第二比值的差，得到第二差值；计算所述第二差值的范数，得到第三范数值；计算所述第三范数值的平方，得到所述损失函数值。

全文数据：

权利要求：

百度查询： 清华大学深圳国际研究生院 模型漏洞检测方法、检测装置、电子设备及存储介质