Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 江西啄木蜂科技有限公司王耿获国家专利权

江西啄木蜂科技有限公司王耿获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉江西啄木蜂科技有限公司申请的专利一种面向林业垂直领域的语言大模型构造方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120068947B

龙图腾网通过国家知识产权局官网在2025-07-22发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510546350.6,技术领域涉及:G06N3/0455;该发明授权一种面向林业垂直领域的语言大模型构造方法是由王耿;李翔;魏霞;王琛;叶绍泽;李沅明设计研发完成,并于2025-04-28向国家知识产权局提交的专利申请。

一种面向林业垂直领域的语言大模型构造方法在说明书摘要公布了:本发明公开了一种面向林业垂直领域的语言大模型构造方法,属于计算机模型技术领域,包括构造林业管理业务问答的第一数据集;构造多模态编码模型;冻结多模态编码模型的文本流,将多模态编码模型和LLM解码器构成一大语言模型并训练,用于生成智能问答时与用户输入相关的目标文本;构建RAG知识库;基于RAG检索进行智能问答。本发明针对林业管理业务图文具有高度匹配的特性,引入多模态联合编码、加权相似度计算和冻结文本编码器训练LLM的创新技术,极大提升了林业智能问答和文档生成的质量和应用价值。还解决了现有图像与文本匹配精度不足的问题,结合RAG技术能实现更灵活精确的检索和智能问答。

本发明授权一种面向林业垂直领域的语言大模型构造方法在权利要求书中公布了:1.一种面向林业垂直领域的语言大模型构造方法,其特征在于:包括以下步骤; S1,构造林业管理业务问答的第一数据集D1; 确定林业管理的多类业务,对每类业务,获取多个文本及每个文本对应的图像,将对应的文本和图像构成图文对,所有图文对构成第一数据集D1; S2,构造一多模态编码模型,包括S21~S22; S21,构造一改进ViLBERT模型; 获取一ViLBERT模型,其图像流和文本流各包括N个Co-TRM层,对图像流中第n个Co-TRM层和和文本流中第n个Co-TRM层,根据下式构造第一改进Q矩阵替换中Q矩阵Q1、第二改进Q矩阵替换中Q矩阵Q2,得到改进ViLBERT模型; , , 式中,、分别为中Q1、Q2的可学习权重,、分别为中Q2、Q1的可学习权重,1≤n≤N; S22,用D1基于MLM任务、MRM任务、多模态对齐任务训练改进ViLBERT模型至收敛,得到多模态编码模型,所述多模态编码模型用于输入图文对,图文对中图像和文本分别经图像流和文本流输出图像编码和文本编码; S3,训练一大语言模型; 冻结多模态编码模型的文本流,将多模态编码模型和LLM解码器构成一大语言模型,并训练大语言模型根据用户输入生成文本向量vq,送入LLM解码器生成业务智能问答时与用户输入相关的目标文本; 若用户输入为文本,由多模态编码模型得到对应的文本编码作为vq,若用户输入为图像,则由多模态编码模型执行多模态对齐任务,输出与该图像对齐的文本的文本编码作为vq; S4,构建RAG知识库D2,D2中第k条数据为,其中,Tk、Ik分别为D1中第k个图文对中文本和图像,、分别为Tk、Ik经多模态编码模型得到的文本编码和图像编码; S5,基于RAG检索进行智能问答; S51,将用户的查询数据输入多模态编码模型,得到对应编码,所述查询数据包括查询图像和或查询文本,对应编码为查询图像编码和或查询文本编码; S52,计算D2中每条数据的得分和权重,其中第k条数据dk的得分和权重根据下式得到; , , 式中,γ为得分权重,为计算模长,为exp函数; S53,预设阈值,筛选出得分大于阈值的数据置于候选集B,对候选集内数据根据下式加权得到一加权结果TRAG; , S54,根据查询数据生成提示向量,基于TRAG和提示向量,由LLM解码器生成目标文本。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人江西啄木蜂科技有限公司,其通讯地址为:330096 江西省南昌市南昌高新技术产业开发区昌东大道含弘广场现代服务产业园13楼整层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。