首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于条件变分Transformer和自省对抗学习的多样化图像描述方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中国矿业大学

摘要:本发明公开了一种基于条件变分Transformer和自省对抗学习的多样化图像描述方法,包括:提取图像的区域特征得到输入向量输入至预设的条件变分Transformer模型,得到图像的相应描述语句;该模型包括变分推断编码器和生成器;将模型使用序列化条件自编码中的变分下界机理进行预训练;再采用自省对抗学习策略进行微调,在不额外添加判别器的前提下,通过对抗学习自我评估生成的描述语句来实现图像描述的多样化。本发明采用序列化条件变分自编码架构,与条件变分Transformer模型相结合,解决了模型受限于单一映射的问题;采用自省对抗学习策略,缓解了模型受限于人工评价指标的问题,提升了多样化图像描述的性能。

主权项:1.一种基于条件变分Transformer和自省对抗学习的多样化图像描述方法,其特征在于,包括步骤如下:步骤1、获取图像,并提取该图像的区域特征得到输入向量;步骤2、将上述向量输入预设的条件变分Transformer模型,得到图像的相应描述语句;其中,所述预设的条件变分Transformer模型包括变分推断编码器和生成器,所述的变分推断编码器和生成器均由掩码自注意力层、交叉注意力层、归一化残差层和前馈神经网络组成;步骤3、将上述预设的条件变分Transformer模型使用序列化条件自编码中的变分下界机理进行模型的预训练;步骤4、将上述预训练的模型采用自省对抗学习策略进行微调,在不额外添加判别器的前提下,通过对抗学习思想自我评估生成的描述语句,来实现图像描述的多样化。

全文数据:

权利要求:

百度查询: 中国矿业大学 一种基于条件变分Transformer和自省对抗学习的多样化图像描述方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。