买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中译文娱科技(青岛)有限公司
摘要:本发明涉及图文生成模型的张量并行技术领域,具体为一种面向图文生成模型的张量并行方法,包括以下步骤:构建分层控制单元对GPTTransformer模型进行张量并行计算,实现模型分层加载;采用多卡并行的GPTTransformer模型对用户需求进行自然语言处理,实现文本与图像的跨模态语义对齐;结合深度扩散Diffusion网络训练图文生成模型。具体实现方式包括对输入矩阵和参数矩阵进行横切和纵切分块,并行计算Attention模块、MLP模块和输出Embedding层。本发明通过多层次张量并行计算,提高了模型的运算速度和效率,适用于图文生成系统和文案生成系统,能够有效提升用户体验和系统性能。同时提供了一种高效、可扩展的图文生成解决方案,具有广泛的应用前景和商业价值。
主权项:1.一种面向图文生成模型的张量并行方法,其特征在于,包括以下步骤:S1:构建分层控制单元对GPTTransformer模型进行张量并行计算,实现模型分层加载;S2:采用多卡并行的GPTTransformer模型对用户需求进行自然语言处理,实现文本与图像的跨膜态语义对齐;S3:结合深度扩散Diffusion网络训练图文生成模型。
全文数据:
权利要求:
百度查询: 中译文娱科技(青岛)有限公司 一种面向图文生成模型的张量并行方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。