买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉重庆壹永科技集团有限公司申请的专利结合BERT模型与大模型的医疗文本关系联合抽取方法和系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121503705B 。

龙图腾网通过国家知识产权局官网在2026-04-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202610042199.7，技术领域涉及：G06N5/04；该发明授权结合BERT模型与大模型的医疗文本关系联合抽取方法和系统是由赵思源;刘伟华;陈小梅设计研发完成，并于2026-01-14向国家知识产权局提交的专利申请。

本结合BERT模型与大模型的医疗文本关系联合抽取方法和系统在说明书摘要公布了：本发明涉及一种结合BERT模型与大模型的医疗文本关系联合抽取方法和系统，属于医疗信息处理技术领域，解决了现有技术中BERT类模型在医疗文本复杂关系抽取中的局限性的问题。方法包括以下步骤：获取待抽取的医疗文本信息；将所述医疗文本信息输入训练好的BERT模型得到医疗文本信息的特征向量序列；将医疗文本信息的特征向量序列输入训练好的大模型抽取医疗文本信息的实体关系；大模型为基于门控交叉注意力机制的大模型。提高了复杂关系抽取的准确性和上下文一致性。

本发明授权结合BERT模型与大模型的医疗文本关系联合抽取方法和系统在权利要求书中公布了：1.一种结合BERT模型与大模型的医疗文本关系联合抽取方法，其特征在于，包括以下步骤： 获取待抽取的医疗文本信息； 将所述医疗文本信息输入训练好的BERT模型得到所述医疗文本信息的特征向量序列； 将所述医疗文本信息的特征向量序列输入训练好的大模型抽取医疗文本信息的实体关系；所述大模型为插入门控交叉注意力模块的大模型；所述门控交叉注意力模块包括依次连接的预处理门控单元、增强门控单元、交叉注意力单元、过滤门控单元和适配器； 在大模型的每层Transformer结构的自注意力模块之后、前馈网络之前加入门控交叉注意力模块构建基于门控交叉注意力机制的大模型； 所述预处理门控单元用于对输入信息进行初步筛选过滤得到初步过滤特征； 所述增强门控单元用于基于初步过滤特征生成增强键矩阵和增强值矩阵； 所述交叉注意力单元用于基于当前查询、增强键矩阵和增强值矩阵进行交叉注意力计算得到上下文向量； 所述过滤门控单元用于对上下文向量和当前查询进行融合并过滤得到最终过滤特征； 所述适配器用于将最终过滤特征进行表示空间转换后作为门控交叉注意力模块的输出； 所述增强门控单元采用以下方式基于初步过滤特征生成增强键矩阵和增强值矩阵： ； ； ； ； ； ； ； ； 其中，表示当前查询，表示平均池化，表示张量操作的维度参数，表示初步过滤特征，表示平均池化查询，表示平均池化键值，表示增强系数，表示增强门控向量，表示tanh函数，表示拼接，表示sigmoid函数，和均表示可学习的权重矩阵，和均表示偏置，表示增强键投影矩阵，表示增强值投影矩阵，表示键投影矩阵，表示值投影矩阵，表示维度扩展，表示医疗文本信息的特征向量序列中每个token的特征维度，表示增强键投影矩阵的维度，表示增强值投影矩阵的维度，上角标T表示转置，表示增强键矩阵，表示增强值矩阵，表示逐元素乘积。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人重庆壹永科技集团有限公司，其通讯地址为：400000 重庆市渝中区化龙桥街道华盛路1号24层4-7单元；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。