西安交通大学蔺琛皓获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西安交通大学申请的专利基于输出响应的智能体助手攻击防御方法及相关装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120165967B 。
龙图腾网通过国家知识产权局官网在2025-12-26发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510491840.0,技术领域涉及:H04L9/40;该发明授权基于输出响应的智能体助手攻击防御方法及相关装置是由蔺琛皓;李帅东;沈超;汤子恒;杨鑫山;杨雨龙;李前;赵正宇设计研发完成,并于2025-04-18向国家知识产权局提交的专利申请。
本基于输出响应的智能体助手攻击防御方法及相关装置在说明书摘要公布了:本发明属于人工智能领域,公开了一种基于输出响应的智能体助手攻击防御方法及相关装置,包括获取智能体助手基于当前感知界面和当前操作的当前输出响应;进行当前输出响应的对抗性检测,得到状态安全性检测结果;基于当前输出响应构建当前状态节点并插入至状态树中,以及从状态树中获取第一路径信息和第二路径信息;对第一路径信息进行越狱性判定,得到路径安全性检测结果;对第二路径信息进行任务完成可能度判定,得到路径完整性检测结果;当状态安全性检测结果、路径安全性检测结果和路径完整性检测结果均为通过时,智能体助手继续执行;否则,回滚至状态树中设定状态节点对应的状态。增强智能体助手的稳健性和适应性,保障智能体助手安全应用。
本发明授权基于输出响应的智能体助手攻击防御方法及相关装置在权利要求书中公布了:1.一种基于输出响应的智能体助手攻击防御方法,其特征在于,包括: 获取智能体助手基于当前感知界面或当前操作的当前输出响应; 获取智能体助手的用户指令,并根据当前输出响应和用户指令通过预训练的对抗样本检测模型进行当前输出响应的对抗性检测,得到状态安全性检测结果; 基于当前输出响应构建当前状态节点并插入至状态树中,以及从状态树中获取根状态节点至当前状态节点的路径信息作为第一路径信息,以及获取根状态节点至当前状态节点的上一状态节点的路径信息作为第二路径信息; 通过大语言模型对第一路径信息进行行为分析总结得到行为总结并使用提示词调优后的语言模型对行为总结进行越狱性判定,得到路径安全性检测结果; 根据用户指令通过大语言模型对第二路径信息进行任务完成可能度判定,得到路径完整性检测结果; 当状态安全性检测结果、路径安全性检测结果和路径完整性检测结果均为通过时,智能体助手继续执行;否则,智能体助手回滚至状态树中设定状态节点对应的状态。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安交通大学,其通讯地址为:710049 陕西省西安市碑林区咸宁西路28号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励