买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

摘要：本发明公开了一种人工智能产品的技术风险评估方法及系统，建立面向人工智能产品的“风险域—风险子域—度量元”层次化的技术风险模型，每个风险域均有对应的风险子域，每个风险子域包含对应的度量元；根据待评估产品特性及评估需求确定该产品的风险域对应的风险子域及度量元，制定针对具体的技术风险模型；根据待评估人工智能产品的技术风险模型，收集技术风险评估要求的多个度量元结果；根据预先建立的技术风险评估通过准则对多个度量元结果进行评估，得出技术风险评估结论。本发明从多个角度考虑人工智能产品的技术风险，建立了人工智能产品的开发和应用全生命周期涉及的人工智能技术风险评估方法，解决了人工智能产品的技术风险评估模型缺失的问题。

主权项：1.一种人工智能产品的技术风险评估方法，其特征在于，包括如下步骤：建立面向人工智能产品的“风险域—风险子域—度量元”层次化的技术风险模型，其中每个风险域均有对应的风险子域，每个风险子域包含对应的度量元，其中：风险域包括：数据集风险、算法模型风险、系统运行风险；其中，数据集风险的风险子域包括：无偏性、完整性、有效性、保密性、准确性和数据集分布平衡性；算法模型风险的风险子域包括：鲁棒性、模型覆盖率、准确性、透明性、算法依赖性、可解释性和抗欺骗攻击性；系统运行风险的风险子域包括：功能安全性、可预测性、可复现性、容错性、可追溯性、可控性和适应性；根据待评估人工智能产品特性及评估需求，确定待评估人工智能产品的风险域对应的风险子域及度量元，制定针对所述待评估人工智能产品的技术风险模型；根据所述待评估人工智能产品的技术风险模型，收集技术风险评估要求的多个度量元结果；根据预先建立的技术风险评估通过准则对多个度量元结果进行评估，得出技术风险评估结论，其中预先建立的技术风险评估通过准则包括：依据相关历史相似产品度量值或根据需要达到的目标给定每个度量元设定需要达到的阈值；该风险子域下选取的度量元全部达到阈值要求，则该风险子域达到评估要求；该风险域下的选取的风险子域全部满足，则选取的风险域达到评估要求；若风险域全部满足，则技术风险达到评估要求；所述根据预先建立的技术风险评估通过准则对多个度量元结果进行评估，得出技术风险评估结论的过程，包括：利用收集的技术风险评估要求的多个度量元结果，对照预先建立的技术风险评估通过准则逐一开展结果判定，并最终得出待测人工智能产品技术风险评估的结果。

全文数据：

权利要求：

百度查询： 中国科学院软件研究所 中科南京软件技术研究院 一种人工智能产品的技术风险评估方法及系统