买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉厦门大学申请的专利一种面向大型语言模型的多样本攻击检测与防御方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120542579B 。

龙图腾网通过国家知识产权局官网在2025-10-14发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511021911.7，技术领域涉及：G06N5/04；该发明授权一种面向大型语言模型的多样本攻击检测与防御方法是由李煜瑒;刘思聪设计研发完成，并于2025-07-24向国家知识产权局提交的专利申请。

本一种面向大型语言模型的多样本攻击检测与防御方法在说明书摘要公布了：一种面向大型语言模型的多样本攻击检测与防御方法，涉及人工智能安全领域。构建多层次文本筛查与干预机制，通过输入内容去重、格式调整及上下文扰动，降低多样本攻击的影响。对文本进行相似性分析，识别高度重复的示例，利用高效匹配策略筛选；利用预训练模型对文本的语义特征映射，结合历史数据比对，判断其是否存在潜在诱导风险。解析多轮对话结构，提取并分析用户与系统的交互模式，动态调整检测规则，提高对不同格式诱导攻击的适应能力。针对高风险文本，采取删除和截断策略，保留少量核心内容，对于部分中等风险文本，调整顺序或插入干扰信息降低其影响。提高LLM在复杂交互环境下的安全性，减少不合规内容的生成，高效、低误伤、可扩展。

本发明授权一种面向大型语言模型的多样本攻击检测与防御方法在权利要求书中公布了：1.一种面向大型语言模型的多样本攻击检测与防御方法，其特征在于包括以下步骤： 步骤1：输入采集与初始字符过滤：采集用户输入数据，包括文本、图文混合或可转换为文本的内容；对输入文本进行初步符号剔除，剔除连续空格、难以识别的特殊符号，保留必要标点和换行结构； 步骤2：可疑标记检测与规则校验：利用正则表达式检测具有诱导风险的标签；若检测到所述标签在输入文本中出现频次超过统计平均阈值，则执行强化清洗；对可信账号放宽所述阈值，对非可信账号保持默认阈值； 步骤3：文本分段与短上下文哈希去重：将文本按句子或逻辑段拆分为多个文本段；对每个文本段计算词级加权哈希指纹；采用HNSW算法对所述加权哈希指纹进行近似最近邻搜索，若文本段与黑名单哈希值的汉明距离小于阈值，则判定为高危文本段并执行清洗； 步骤4：语义向量映射与相似度判断：对剩余文本段采用Sentence-BERT进行语义向量映射，转换为高维向量；若文本长度超过512tokens，采用依存句法分析结合滑动窗口机制切分后再映射，通过动态信息熵加权聚合得到文本段整体语义向量；将所述语义向量与黑名单向量集及近期输入向量集对比，计算加权相似度，若相似度超过阈值，则判定为语义重复或变体； 步骤5：多轮对话与格式识别：构建用户角色关键词集合和系统角色关键词集合，遍历文本记录角色位置及类别，统计角色交替次数并计算对话轮数；若对话轮数超过阈值T1、同一角色连续出现次数超过阈值T2，或用户与系统角色关键词的平均位置差超过阈值T3，则判定为异常对话并执行删除冗余回合操作；动态扩展角色集合，将多次出现在用户-系统交替模式中的新词识别为角色关键词； 步骤6：高维阈值融合、段落打散与上下文重构：若文本段的哈希相似度指标RH超过阈值θH且语义相似度指标RS超过阈值θS，则判定为高危段落；对高危段落执行内容截断，仅保留信息密度最高的2～3句核心内容；对单一维度超标的中等重复段落，执行局部句序调整与干扰内容插入； 步骤7：输出处理完成的文本。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人厦门大学，其通讯地址为：361005 福建省厦门市思明南路422号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。