上海云燧科技有限公司林水金获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海云燧科技有限公司申请的专利基于多模态大模型的量化推理方法、装置、设备及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120822628B 。
龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511340466.0,技术领域涉及:G06N5/04;该发明授权基于多模态大模型的量化推理方法、装置、设备及介质是由林水金;张克俭;李迎设计研发完成,并于2025-09-19向国家知识产权局提交的专利申请。
本基于多模态大模型的量化推理方法、装置、设备及介质在说明书摘要公布了:本发明公开了基于多模态大模型的量化推理方法、装置、设备及介质。该方法包括:激活优化基础输入激活集合确定目标量化激活集合、目标缩放因子集合及目标偏置项集合;压缩量化并比特量化基础特征权重集合得到目标量化权重集合;迭代构建基础输入激活集合、目标量化激活集合、基础特征权重集合、目标量化权重集合、目标缩放因子集合及平均绝对梯度集合确定目标损失函数,并基于其确定量化参数集合及目标特征权重集合;基于目标偏置项集合、目标缩放因子集合及基础输入激活集合得到目标输入激活集合并基于量化参数集合及目标特征权重集合推理运算目标输入激活集合确定目标推理结果。通过本发明的技术方案,能够提升推理计算效率。
本发明授权基于多模态大模型的量化推理方法、装置、设备及介质在权利要求书中公布了:1.一种基于多模态大模型的量化推理方法,其特征在于,包括: 获取目标多模态大模型基于原始样本数据集的基础输入激活集合、基础特征权重集合及平均绝对梯度集合;其中,目标多模态大模型用于在不同模态之间建立联系并进行转换,目标多模态大模型用于对文本类型、图像类型、音频类型、视频类型或三维空间模型类型的数据进行处理; 基于预设网格搜索规则对所述基础输入激活集合进行激活优化,确定所述基础输入激活集合对应的目标量化激活集合、目标缩放因子集合及目标偏置项集合; 基于预设压缩量化规则对所述基础特征权重集合进行压缩量化处理,得到所述基础特征权重集合对应的基础量化权重集合,并基于预设比特量化规则对所述基础量化权重集合进行比特量化处理,得到所述基础量化权重集合对应的目标量化权重集合; 基于预设模态平衡规则对所述基础输入激活集合、目标量化激活集合、基础特征权重集合、目标量化权重集合、目标缩放因子集合及平均绝对梯度集合进行迭代构建,确定所述目标多模态大模型对应的目标损失函数,并基于所述目标损失函数确定所述目标多模态大模型对应的量化参数集合及目标特征权重集合; 基于所述目标偏置项集合及目标缩放因子集合对所述基础输入激活集合进行调整量化,得到所述基础输入激活集合对应的目标输入激活集合,并基于所述量化参数集合及目标特征权重集合对所述目标输入激活集合进行推理运算,确定所述原始样本数据集对应的目标推理结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海云燧科技有限公司,其通讯地址为:201203 上海市浦东新区中国(上海)自由贸易试验区盛夏路61弄1号3层03室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励