买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国人民解放军军事科学院军事科学信息研究中心
摘要:本发明涉及自然语言处理技术领域,公开了一种大语言模型幻觉检测方法及装置,方法包括:利用大语言模型抽取利用参考文献的标题及描述信息构建的参考内容中的实体,构建参考内容实体集;利用大语言模型抽取生成内容中的实体,构建生成内容实体集;对生成内容实体集中的每个实体,将其与参考内容实体集中的实体进行匹配度计算,得到其与参考内容实体集的匹配度;基于匹配度,判断生成内容实体集中的每一个实体是否有参考文献支持,若均有参考文献支持,则确定生成内容不存在幻觉;否则,确定生成内容可能存在幻觉。基于两个实体集进行实体的匹配度计算,能够精确评估生成内容中每个实体的事实性,显著提升内容验证的精确度和效率。
主权项:1.一种大语言模型幻觉检测方法,包括:步骤1:利用大语言模型抽取参考内容中的实体,构建参考内容实体集,所述参考内容是利用参考文献的标题及描述信息构建的;步骤2:利用大语言模型抽取生成内容中的实体,构建生成内容实体集;步骤3:对生成内容实体集中的每个实体,将其与参考内容实体集中的实体进行匹配度计算,得到其与参考内容实体集的匹配度;步骤4:基于匹配度,判断生成内容实体集中的每一个实体是否有参考文献支持,若均有参考文献支持,则确定生成内容不存在幻觉;否则,确定生成内容可能存在幻觉。
全文数据:
权利要求:
百度查询: 中国人民解放军军事科学院军事科学信息研究中心 一种大语言模型幻觉检测方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。