买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:浙江大学;中邮消费金融有限公司
摘要:本发明公开了一种基于局部关键位置增强的数字人视频生成方法和系统,包括:获取单目视频并提取关键点序列;使用基于OPENGL的实时神经语义图像绘制方式对关键点序列进行实时绘制,得到神经语义图像序列和眼睛注视图像序列;在包含生成器和图像质量判别器的StyleUNet网络中引入用于局部特征判别真伪的局部判别器来构建多判别器联合优化的对抗学习框架,并构建正常样本和困难样本对对抗学习框架进行二阶段的对抗训练,训练结束后生成器作为视频生成模型;利用视频生成模型基于神经语义图像序列、眼睛注视图像序列、以及引入的随机噪声连续生成数字人图像,并为连续的数字人图像添加音频得到高保真、时序连续地生成数字人视频。
主权项:1.一种基于局部关键位置增强的数字人视频生成方法,其特征在于,包括以下步骤:获取单目视频,并基于单目视频生成关键点序列,对关键点序列进行预处理后,依据动作划分成不同动作片段,基于普氏分析的重定向方法对动作片段进行对齐,得到重定向后的关键点序列;使用基于OPENGL的实时神经语义图像绘制方式对重定向后的关键点序列进行实时绘制,得到神经语义图像序列和眼睛注视图像序列;在包含生成器和图像质量判别器的StyleUNet网络中引入用于局部特征判别真伪的局部判别器来构建多判别器联合优化的对抗学习框架,并构建正常样本和困难样本对对抗学习框架进行二阶段的对抗训练,训练结束后生成器作为视频生成模型;利用视频生成模型基于神经语义图像序列、眼睛注视图像序列、以及引入的随机噪声连续生成数字人图像,并为连续的数字人图像添加音频得到数字人视频。
全文数据:
权利要求:
百度查询: 浙江大学 中邮消费金融有限公司 基于局部关键位置增强的数字人视频生成方法和系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。