龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
摘要：本文描述了能够基于托管AI系统的输入例如，查询和输出来检测针对托管人工智能AI系统的算法攻击的技术。在第一示例中，基于特征的分类器模型用于基于从查询和输出的数值表示得出的特征来生成分类得分，并且基于分类得分大于或等于得分阈值来检测算法攻击。在第二示例中，基于变换器的模型用于通过提供多变量时间序列来生成向量，该多变量时间序列基于输入的多个属性和输出的多个属性，作为基于变换器的模型的输入，并且基于向量与对应于参考向量的点之间的距离小于或等于距离阈值来检测算法攻击。
主权项：1.一种用于检测针对托管人工智能系统的算法攻击的系统，所述系统包括：存储器；以及耦合到所述存储器的处理系统，所述处理系统被配置为：从由所述托管人工智能系统接收的相应查询的数值表示和由所述托管人工智能系统对所述相应查询的处理得到的输出，得出与已知类型的算法攻击相关联的特征；通过将所得出的所述特征作为输入提供给基于特征的分类器模型，使用所述基于特征的分类器模型来生成分类得分，所述分类得分指示所述查询的至少一部分对应于所述已知类型的算法攻击的可能性；将所述分类得分与得分阈值进行比较，所述得分阈值与所述已知类型的算法攻击相关联；以及至少部分地基于所述分类得分大于或等于所述得分阈值，来检测所述算法攻击，所述得分阈值与所述已知类型的算法攻击相关联。
全文数据：
权利要求：
百度查询： 微软技术许可有限责任公司 基于托管AI系统的输入和输出检测针对托管AI系统的算法攻击
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号