恭喜山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院);山东山科智能科技有限公司;山东正中信息技术股份有限公司鹿全礼获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院);山东山科智能科技有限公司;山东正中信息技术股份有限公司申请的专利基于零资源框架的细粒度大模型幻觉处理方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119670760B 。
龙图腾网通过国家知识产权局官网在2025-06-03发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510174481.6,技术领域涉及:G06F40/30;该发明授权基于零资源框架的细粒度大模型幻觉处理方法及系统是由鹿全礼;祝志豪;乔友为;许赞;满佳政;张建成;马晓红;刘祥志;吴晓明;董云峰;亓蓓;曹炳阳;侯冬冬设计研发完成,并于2025-02-18向国家知识产权局提交的专利申请。
本基于零资源框架的细粒度大模型幻觉处理方法及系统在说明书摘要公布了:本发明属于自然语言处理技术领域。提供了一种基于零资源框架的细粒度大模型幻觉处理方法及系统,通过大语言模型进行预处理后的文本的多维异常检测,得到多维异常检测结果;根据多维异常检测结果进行异常修正优先级排序;根据句法分析结果以及生成的句法依赖树,动态调整上下文窗口范围;结合调整后的上下文窗口范围,根据异常修正优先级排序结果,进行高风险词汇和句子的优先修正;评估修正后的内容,符合终止条件时得到修正后的最终文本。本发明实现了对检测内容的过度置信、细微语义和语法偏差幻觉检测,提高了大语言模型的幻觉检测处理能力,特别是对于细粒度幻觉问题的检测处理能力。
本发明授权基于零资源框架的细粒度大模型幻觉处理方法及系统在权利要求书中公布了:1.一种基于零资源框架的细粒度大模型幻觉处理方法,其特征在于,包括以下过程:获取待检测的文本并进行预处理,所述预处理,包括:进行句法分析,生成句法依赖树;通过大语言模型进行预处理后的文本的多维异常检测,得到多维异常检测结果;根据多维异常检测结果进行异常修正优先级排序;根据句法分析结果以及生成的句法依赖树,动态调整上下文窗口范围;结合调整后的上下文窗口范围,根据异常修正优先级排序结果,进行高风险词汇和句子的优先修正;评估修正后的内容,符合终止条件时得到修正后的最终文本;通过大语言模型进行预处理后的文本内容的多维异常检测,得到多维异常检测结果,包括:通过大语言模型生成候选词表,计算各待检测词汇和候选词汇的生成概率,通过待检测词汇与候选词的生成概率差异评估是否存在生成概率异常,当差异大于设定阈值时,标记为异常,并计算异常评分;通过大语言模型获得各待检测词汇和上下文的增强嵌入向量,进行语义相似度异常检测,语义相似度低于设定阈值时,标记为异常,并计算异常评分;通过句法依赖树和记录的词汇语法角色,进行语法一致性检测,语法一致性低于设定阈值时,标记为异常,并计算异常评分;检查各待检测词汇的词性角色合理性、依赖关系合法性以及句法依赖树结构完整性,不符合常规句法的模式,标记为异常,并计算异常评分;对得到的不同维度的异常评分进行加权求和作为各个待检测词汇对应的综合异常评分;根据句法分析结果以及生成的句法依赖树,动态调整上下文窗口范围,包括:根据记录的句法分析结果,依据每个待检测词汇的词性角色初步分配上下文窗口大小;通过句法依赖树,计算各待检测词汇与上下文中其他词汇之间的句法距离,计算依赖强度;基于每个待检测词汇与上下文词汇间的语义关联度,计算语义相似度;通过结合依赖强度和语义相似度,动态调整窗口范围,生成适应性强的MASK矩阵,将生成的MASK矩阵与大语言模型的多头注意力机制结合,动态调整注意力权重分布,聚焦高相关区域的上下文信息;根据依赖强度确定第一窗口范围,根据语义相似度确定第二窗口范围,以第一窗口范围和第二窗口范围的交集为动态调整后的上下文窗口范围,生成适应性强的MASK矩阵;将生成的MASK矩阵与大语言模型的多头注意力机制结合,包括:,其中,分别为查询向量、键向量和值向量,为键向量的维度,为归一化指数函数,为注意力掩码。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院);山东山科智能科技有限公司;山东正中信息技术股份有限公司,其通讯地址为:250000 山东省济南市历下区科院路19号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。