龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：浙江大华技术股份有限公司
摘要：本申请公开了一种图文多模态模型的知识蒸馏方法、图像处理方法及设备，方法包括：将样本图像输入至多模态模型的第一图像编码器，得到第一图像特征，将提示文本输入至多模态模型的文本编码器，得到文本特征；将样本图像输入至图像处理模型的第二图像编码器，得到第二图像特征；计算第一图像特征和第二图像特征之间的图像对齐损失；以及，计算文本特征和第二图像特征之间的图文对齐损失；基于图像对齐损失和图文对齐损失训练图像处理模型，可以分别从两个不同模态维度对图像处理模型的第二图像编码器进行蒸馏训练，使得图像处理模型的第二图像编码器可以理解复杂的文本语义信息，提升第二图像编码器的收敛速度，保证图像处理模型的图像处理效果。
主权项：1.一种图文多模态模型的知识蒸馏方法，其特征在于，包括：获取训练完成的多模态模型、预训练的图像处理模型和样本图像；其中，所述多模态模型含有文本编码器和第一图像编码器，所述图像处理模型含有第二图像编码器，所述样本图像标记有提示文本；将所述样本图像输入至所述第一图像编码器，得到所述第一图像编码器输出的第一图像特征，将所述提示文本输入至所述文本编码器，得到所述文本编码器输出的文本特征；将所述样本图像输入至所述第二图像编码器，得到所述第二图像编码器输出的第二图像特征；利用预设图像损失函数计算所述第一图像特征和所述第二图像特征之间的图像对齐损失；以及，利用预设图文损失函数计算所述文本特征和所述第二图像特征之间的图文对齐损失；基于所述图像对齐损失和所述图文对齐损失，计算得到模型蒸馏总损失；基于所述模型蒸馏总损失对所述预训练的图像处理模型中的第二图像编码器进行参数调整，得到训练完成的图像处理模型。
全文数据：
权利要求：
百度查询： 浙江大华技术股份有限公司 图文多模态模型的知识蒸馏方法、图像处理方法及设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号