广州昂宝电子有限公司邓博文获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉广州昂宝电子有限公司申请的专利基于LangChain和大语言模型的问答方法和系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117313859B 。
龙图腾网通过国家知识产权局官网在2026-04-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311248327.6,技术领域涉及:G06N5/04;该发明授权基于LangChain和大语言模型的问答方法和系统是由邓博文;高珊设计研发完成,并于2023-09-25向国家知识产权局提交的专利申请。
本基于LangChain和大语言模型的问答方法和系统在说明书摘要公布了:本申请涉及基于LangChain和大语言模型的问答方法和系统。该方法包括:基于加速推理框架来加载LLM;搭建文本向量知识库;对用户问题进行向量化以生成问题向量;使用两种不同的向量检索库对问题向量与文本向量知识库进行相似度匹配,返回两组相似文本段落;针对两组相似文本段落,进行两两段落相似度匹配,得到具有最高段落相似度得分的两个相似文本段落;当最高段落相似度得分高于或等于设定阈值时,对两个相似文本段落进行内容融合以生成最终知识段落,并基于最终知识段落生成上下文提示模板;当最高段落相似度得分低于设定阈值时,将用户问题作为上下文提示模板;将上下文提示模板输入至LLM中,进行并行推理并流式输出答案。
本发明授权基于LangChain和大语言模型的问答方法和系统在权利要求书中公布了:1.一种基于LangChain框架和大语言模型LLM的问答方法,包括: 基于LLM加速推理框架来加载所述LLM; 搭建所述LangChain框架中的文本向量知识库; 对用户问题进行向量化以生成问题向量; 使用第一向量检索库和与所述第一向量检索库不同的第二向量检索库,对所述问题向量与所述文本向量知识库进行向量相似度匹配,以返回第一组相似文本段落和第二组相似文本段落; 对选自所述第一组相似文本段落中的文本段落与选自所述第二组相似文本段落中的文本段落组成的文本段落对,进行段落文本相似度匹配,以得到具有最高段落相似度得分的一对目标相似文本段落; 当所述最高段落相似度得分高于或等于段落相似度阈值时,对所述一对目标相似文本段落进行内容融合以生成与所述问题向量最相关的最终知识段落,并基于所述最终知识段落生成上下文提示模板; 当所述最高段落相似度得分低于所述段落相似度阈值时,将所述用户问题作为所述上下文提示模板;并且 将所述上下文提示模板输入至所述LLM中,以进行并行推理并且流式输出答案。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人广州昂宝电子有限公司,其通讯地址为:510700 广东省广州市黄埔区莲花砚路1号A栋2001房;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励