龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
摘要：本说明书实施例公开了一种大模型的安全性测评方法、装置及设备，该方法包括：获取用于对目标大模型进行安全性测评所需使用的测试集，测试集中包括测试样本数据和对应的标签信息；确定测试样本数据中后门触发器的停用词权重比例阈值，基于停用词权重比例阈值对预设的多个初始停用词组中的基准停用词当前所在的初始停用词组进行调整，得到多个目标停用词组；将测试样本数据中包含的当前处于第一目标停用词组的停用词，使用多个目标停用词组中的其它目标停用词组中与停用词相匹配的基准停用词替换，直到停用词权重比例满足预设条件，得到替换后的测试集；基于替换后的测试集对目标大模型进行安全性测评，以判断目标大模型是否存在越狱攻击风险。
主权项：1.一种大模型的安全性测评方法，所述方法包括：获取用于对目标大模型进行安全性测评所需使用的测试集，所述测试集中包括测试样本数据和所述测试样本数据对应的标签信息；确定所述测试集中的测试样本数据中后门触发器的停用词权重比例阈值，并基于所述停用词权重比例阈值对预设的多个初始停用词组中的基准停用词当前所在的初始停用词组进行调整，得到多个目标停用词组；将所述测试集中的测试样本数据中包含的当前处于第一目标停用词组的停用词，使用所述多个目标停用词组中除所述第一目标停用词组之外的其它目标停用词组中与所述停用词相匹配的基准停用词替换，直到所述测试集中的测试样本数据中包含的停用词对应的停用词权重比例满足预设条件，得到替换后的测试样本数据和所述标签信息构成的测试集；基于替换后的测试样本数据和所述标签信息构成的测试集对所述目标大模型进行安全性测评，以判断所述目标大模型是否存在越狱攻击风险。
全文数据：
权利要求：
百度查询： 支付宝(杭州)信息技术有限公司 清华大学 一种大模型的安全性测评方法、装置及设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号