Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 恭喜杭州海康威视数字技术股份有限公司彭博获国家专利权

恭喜杭州海康威视数字技术股份有限公司彭博获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网恭喜杭州海康威视数字技术股份有限公司申请的专利多模态大语言模型量化方法、装置、设备、存储介质及产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119227770B

龙图腾网通过国家知识产权局官网在2025-04-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411755976.X,技术领域涉及:G06N3/082;该发明授权多模态大语言模型量化方法、装置、设备、存储介质及产品是由彭博;李哲暘;谭文明设计研发完成,并于2024-12-03向国家知识产权局提交的专利申请。

多模态大语言模型量化方法、装置、设备、存储介质及产品在说明书摘要公布了:本申请涉及模型部署技术领域,公开了多模态大语言模型量化方法、装置、设备、存储介质及产品,包括:将待量化大模型划分为多模态处理分块以及语言模型分块;根据多模态处理分块中各处理子模块对应的量化误差构建处理子模块序列;基于处理子模块序列对多模态处理分块中各处理子模块分别进行量化;根据量化后的所述多模态处理分块确定语言子模块序列;依据语言子模块序列对所述语言模型分块中各语言子模块分别进行量化。由于可依据多模态语言大模型的计算特性进行针对性的模块划分,并基于模块划分顺序进行量化调整,确保量化符合模型的实际计算特性,提升了对多模态语言大模型进行量化部署的效果。

本发明授权多模态大语言模型量化方法、装置、设备、存储介质及产品在权利要求书中公布了:1.一种多模态大语言模型量化方法,其特征在于,所述方法包括:将待量化大模型划分为多模态处理分块以及语言模型分块,所述待量化大模型为支持多模态输入的语言大模型,所述语言大模型根据输入生成文字描述或图像,所述多模态输入包括语言文本,或,所述多模态输入包括语言文本,以及图像、音频、视频中至少一种;根据所述多模态处理分块中各处理子模块对应的量化误差构建处理子模块序列,所述处理子模块包括所述多模态处理分块中至少一层网络;基于所述处理子模块序列对所述多模态处理分块中各处理子模块分别进行量化;根据量化后的所述多模态处理分块确定语言子模块序列;依据所述语言子模块序列对所述语言模型分块中各语言子模块分别进行量化,所述语言子模块包括所述语言模型分块中至少一层网络;其中,所述根据量化后的所述多模态处理分块确定语言子模块序列,包括:通过量化后的所述多模态处理分块对预设样本进行处理,生成样本输出特征值;基于所述样本输出特征值确定所述语言模型分块中各语言子模块对应的量化误差,语言子模块对应的量化误差为将语言模型分块中该语言子模块量化前后,语言模型分块针对所述样本输出特征值的输出差异;基于各语言子模块对应的量化误差从大到小,对所述语言模型分块中各语言子模块进行排序,生成语言子模块序列。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人杭州海康威视数字技术股份有限公司,其通讯地址为:310051 浙江省杭州市滨江区阡陌路555号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。