Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 鹏城实验室张栋祥获国家专利权

鹏城实验室张栋祥获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉鹏城实验室申请的专利针对大模型参数的数据处理方法、装置、设备以及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120806000B

龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511300226.8,技术领域涉及:G06N3/0495;该发明授权针对大模型参数的数据处理方法、装置、设备以及介质是由张栋祥;张士勋;张尔焜;章弋嘉;王丙强;田永鸿;黎文博;许芬设计研发完成,并于2025-09-12向国家知识产权局提交的专利申请。

针对大模型参数的数据处理方法、装置、设备以及介质在说明书摘要公布了:本申请实施例提供了一种针对大模型参数的数据处理方法、装置、设备以及介质,属于人工智能技术领域。该方法包括:从存储器的第一数据存储区域的不同分区中,获取目标大模型经的量化矩阵和元参数,并读取表征处理器数据处理能力的内存访问粒度,基于内存访问粒度确定插入元参数和量化矩阵之间的填充区大小;在存储器中划分不同于第一数据存储区域的第二数据存储区域,在第二数据存储区域中依次写入元参数、与填充区大小匹配的预设填充信息、以及量化矩阵得到初始数据原子块;在第二数据存储区域中连续排列所有初始数据原子块,得到目标数据原子块。本申请通过优化数据存储方式,提升处理器在推理过程中内存带宽利用率,进而提升其数据计算效率。

本发明授权针对大模型参数的数据处理方法、装置、设备以及介质在权利要求书中公布了:1.一种针对大模型参数的数据处理方法,其特征在于,应用于处理器,所述处理器与存储器关联,所述针对大模型参数的数据处理方法包括: 从所述存储器的第一数据存储区域的不同分区中,获取目标大模型经参数压缩后得到的量化矩阵、以及用于恢复所述量化矩阵的元参数; 从所述处理器的配置数据存储区域中,读取表征所述处理器数据处理能力的内存访问粒度,基于所述内存访问粒度确定插入所述元参数和所述量化矩阵之间的填充区大小; 在所述存储器中划分不同于所述第一数据存储区域的第二数据存储区域,在所述第二数据存储区域中依次写入所述元参数、与所述填充区大小匹配的预设填充信息、以及所述量化矩阵,得到初始数据原子块; 在所述第二数据存储区域中连续排列所有所述初始数据原子块,得到目标数据原子块; 所述元参数包括缩放因子和偏移量参数; 所述在所述第二数据存储区域中依次写入所述元参数、与所述填充区大小匹配的预设填充信息、以及所述量化矩阵,得到初始数据原子块,包括: 在所述第二数据存储区域中依次写入所述缩放因子、所述偏移量参数、与所述填充区大小匹配的预设填充信息、以及所述量化矩阵,得到所述初始数据原子块,其中,所述预设填充信息为预设零数据、预设标识符或预设校验码中的任意一种,所述初始数据原子块的数据长度是所述内存访问粒度的整数倍。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人鹏城实验室,其通讯地址为:518000 广东省深圳市南山区兴科一街2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。