龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：上海交通大学
摘要：本申请涉及机器学习技术领域，公开了一种解释黑盒人工智能模型所建模的稀疏交互效用的方法和系统。该方法和系统可以自动地分析模型所建模的交互分布。该方法和系统的实施包括以下步骤:提供需要评估的数据；使用黑盒模型对数据进行预测，获得模型的预测结果；基于黑盒模型的输出,对样本的输入单元间的交互作用进行建模，计算输入单元间形成的组合的交互强度，将黑盒模型表达成输入单元组合间的“与加关系”和“或加关系”；通过优化,使得“与加关系”和“或加关系”更加稀疏。本发明的优点在于，提供了一种解释黑盒人工智能模型所建模的交互的量化方法，相比于前人研究，可以获得更稀疏、简洁的交互解释。
主权项：1.一种测定黑盒人工智能模型的稀疏交互效用的方法，其特征在于，包括以下步骤：1提供模型提供一待分析的黑盒人工智能模型，所述黑盒人工智能模型包括基于某一数据集上预先训练好的人工智能模型；2获取待评估数据基于所述黑盒人工智能模型，获取与所述人工智能模型兼容的待评估数据，其中，所述待评估数据包含n个输入单元，n为≥4的正整数；其中，步骤1和步骤2可互换或同时进行；3计算所述输入单元间的“与交互”和“或交互”将所述待评估数据输入所述黑盒人工智能模型，并获取所述黑盒人工智能模型的输出；基于所述黑盒人工智能模型的输出，对所述输入单元间的交互配合作用进行建模，从而获得由不同所述输入单元组成的集合，记为输入单元组合S或评估集合S；并计算每个输入单元组合S的“与交互”和“或交互”；4测定稀疏交互效用基于步骤3中获得的输入单元组合S间的“与交互”和“或交互”，计算所有输入单元组合S间的“与加关系”和“或加关系”，并将黑盒模型输出表示成输入单元组合间的“与加关系”和“或加关系”的组合，并用于解释黑盒人工智能模型的稀疏交互效用。
全文数据：
权利要求：
百度查询： 上海交通大学 一种测定黑盒人工智能模型的稀疏交互效用的方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号