西北工业大学;西北工业大学深圳研究院牛凯获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西北工业大学;西北工业大学深圳研究院申请的专利一种基于大模型知识的跨模态行人搜索关键语义完备对齐方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119474438B 。
龙图腾网通过国家知识产权局官网在2025-09-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411744379.7,技术领域涉及:G06F16/583;该发明授权一种基于大模型知识的跨模态行人搜索关键语义完备对齐方法是由牛凯;刘严颐;张艳宁设计研发完成,并于2024-11-30向国家知识产权局提交的专利申请。
本一种基于大模型知识的跨模态行人搜索关键语义完备对齐方法在说明书摘要公布了:本申请属于计算机视觉和自然语言处理技术领域。本申请提供一种基于大模型知识的跨模态行人搜索关键语义完备对齐方法。本公开实施例利用预训练视觉语言大模型所含外部通用知识提取更具判别力的视觉特征和文本特征;设计噪声过滤模块,通过参考模态内的全局和局部语义间的关系,滤除图像和文本中与行人无关的噪声,仅保留与行人相关的细粒度关键语义信息;提出关键语义显著性与完整性联合优化的完备学习模块,同时考虑显著性和完整性两方面的协同关系,实现跨模态行人关键语义信息的完备对齐。能够过滤行人无关的噪声信息,增强模型对行人相关的关键信息的关注度,挖掘跨模态细粒度信息之间的对应关系,进而提升跨模态行人检索的准确度。
本发明授权一种基于大模型知识的跨模态行人搜索关键语义完备对齐方法在权利要求书中公布了:1.一种基于大模型知识的跨模态行人搜索关键语义完备对齐方法,其特征在于,该方法包括: 构建预训练多模态大模型;其中,所述预训练多模态大模型包括预训练视觉语言大模型、噪声过滤模块和关键语义显著性与完整性联合优化完备学习模块,所述关键语义显著性与完整性联合优化完备学习模块包括显著语义对齐子模块和完整语义对齐子模块; 利用所述预训练视觉语言大模型分别提取训练集图像的视觉全局特征和视觉局部特征、单词编码的文本全局特征和文本局部特征; 根据所述视觉全局特征和所述文本全局特征,以得到跨模态全局相似度和行人分类; 利用所述噪声过滤模块滤除所述视觉局部特征和所述文本局部特征中与行人无关的噪声信息,以得到视觉关键语义和文本关键语义; 利用所述显著语义对齐子模块对所述视觉关键语义和所述文本关键语义处理,以得到视觉显著语义和文本显著语义; 根据所述视觉显著语义和所述文本显著语义,以得到跨模态显著性相似度; 利用所述完整语义对齐子模块对所述视觉关键语义和所述文本关键语义进行处理,以得到视觉完整性关键语义和文本完整性关键语义; 根据所述视觉完整性关键语义和所述文本完整性关键语义,以得到图像文本对的跨模态完整性相似度; 基于所述行人分类、所述跨模态全局相似度、所述跨模态显著性相似度和所述跨模态完整性相似度,利用Adam优化算法对所述预训练多模态大模型进行微调,以得到微调好的所述预训练多模态大模型; 将查询语句输入至微调好的所述预训练多模态大模型中,以得到检索结果序列。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西北工业大学;西北工业大学深圳研究院,其通讯地址为:710072 陕西省西安市碑林区友谊西路127号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励