买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:阿里巴巴(中国)有限公司
摘要:本申请提供一种动态3D目标建模、动态3D物体建模的方法及设备。本申请的方法,第一阶段将稀疏控制点初始化为显示的3D高斯,对稀疏3D高斯的参数以及形变网络进行优化,以获得与参考视频对应的合理化的动态3D目标的动作和形状;第二阶段优化稠密3D高斯来实现对动态3D目标纹理的精细化模拟,稠密3D高斯的运动由稀疏控制点进行控制;通过对动态3D目标的运动和外观的分开建模,减小了运动和外观的模糊性,能够生成与参考视频十分贴合的动态3D目标即4D目标,其在参考视角的符合程度、动态物体的时空一致性、以及动作的真实性三个方面都达到了相比目前同类方案更好的效果,提升了动态3D目标建模的精准度和效果。
主权项:1.一种动态3D目标建模方法,其特征在于,包括:获取第一目标的参考视频;在第一阶段,将所述第一目标的稀疏控制点初始化为稀疏3D高斯,获取初始化的形变网络,基于所述第一目标的参考视频,优化所述第一目标的稀疏3D高斯和形变网络,得到所述第一目标优化后的稀疏控制点和形变网络;在第二阶段,初始化所述第一目标的稠密3D高斯,基于所述第一目标的参考视频,所述第一目标优化后的稀疏控制点和形变网络,优化所述第一目标的稠密3D高斯,得到所述第一目标优化后的稠密3D高斯,其中,所述第一目标优化后的稀疏控制点、形变网络和稠密3D高斯用于表示所述第一目标的动态3D模型;所述基于所述第一目标的参考视频,对所述第一目标的稀疏3D高斯和形变网络进行优化,得到所述第一目标优化后的稀疏控制点和形变网络,包括:将所述参考视频中的至少一帧图像作为第一参考图像,将所述第一参考图像对应的时间步和所述第一目标的稀疏3D高斯的中心位置输入形变网络,通过所述形变网络预测所述稀疏3D高斯在对应时间步内的位移;根据所述稀疏3D高斯和所述稀疏3D高斯在对应时间步内的位移,确定所述第一目标在对应时间步的形变稀疏3D高斯;根据所述第一参考图像对应的第一视角,渲染出所述形变稀疏3D高斯在第一视角的图像,得到第一重建图像;根据所述第一参考图像和所述第一重建图像,计算第一重建损失,并根据所述第一重建损失优化所述稀疏3D高斯和形变网络。
全文数据:
权利要求:
百度查询: 阿里巴巴(中国)有限公司 动态3D目标建模、动态3D物体建模的方法及设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。