深圳市迈特芯科技有限公司彭皓翔获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉深圳市迈特芯科技有限公司申请的专利一种面向多模态大语言模型的用于生成硬件加速器可执行代码的编译方法、系统、终端及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121478250B 。
龙图腾网通过国家知识产权局官网在2026-04-03发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610028133.2,技术领域涉及:G06F8/30;该发明授权一种面向多模态大语言模型的用于生成硬件加速器可执行代码的编译方法、系统、终端及存储介质是由彭皓翔;苏灿;武东宽;施旭;高琦;江柯垚;刘杭;段智祥;孙凌;王锦萍设计研发完成,并于2026-01-09向国家知识产权局提交的专利申请。
本一种面向多模态大语言模型的用于生成硬件加速器可执行代码的编译方法、系统、终端及存储介质在说明书摘要公布了:本发明涉及数据处理技术领域,公开了一种面向多模态大语言模型的用于生成硬件加速器可执行代码的编译方法、系统、终端及存储介质。所述方法包括:根据待部署大语言模型的结构和硬件平台支持的算子构建计算图;遍历计算图以推断各算子的输出张量类型信息,并验证相邻算子间类型一致性;基于验证后的类型信息,执行静态内存分配以确定权重数据的静态存储地址,同时执行动态内存分配以确定状态数据的动态存储地址;随后结合验证后的类型信息、静态与动态存储地址,生成用于配置硬件加速平台寄存器的中间表示指令序列;最终将该中间表示指令序列转换为可由硬件加速平台直接加载执行的目标代码文件。本发明提升了编译效率、部署可靠性和资源利用率。
本发明授权一种面向多模态大语言模型的用于生成硬件加速器可执行代码的编译方法、系统、终端及存储介质在权利要求书中公布了:1.一种面向多模态大语言模型的用于生成硬件加速器可执行代码的编译方法,其特征在于,所述面向多模态大语言模型的用于生成硬件加速器可执行代码的编译方法包括: 根据待部署的大语言模型的模型结构和硬件加速平台所支持的硬件算子,构建计算图,其中,所述计算图的节点为算子,所述计算图的有向边表征张量数据流; 遍历所述计算图,推断各所述算子的输出张量类型信息,并验证相邻所述算子之间的张量类型信息的一致性; 若一致,根据验证后的张量类型信息,执行静态内存分配以确定权重数据的静态存储地址,并执行动态内存分配以确定状态数据的动态存储地址,根据验证后的张量类型信息、所述静态存储地址和所述动态存储地址,生成配置硬件加速平台寄存器的中间表示指令序列; 将所述中间表示指令序列转换为可供所述硬件加速平台加载执行的目标代码文件; 其中,所述根据待部署的大语言模型的模型结构和硬件加速平台所支持的硬件算子,构建计算图,包括: 从所述待部署的大语言模型中导出或定义初始计算图,将所述初始计算图解析为有向无环图,将所述有向无环图中的计算操作抽象为初始算子,并基于所述待部署的大语言模型的计算逻辑确定各所述初始算子的执行序列,得到算子执行序列表; 若所述算子执行序列表存在与所述硬件算子不匹配的新算子,则对所述新算子进行算子注册,得到目标算子,将所述目标算子纳入所述硬件加速平台的支持范围; 为所述算子执行序列表中的每个算子定义属性,根据所述属性和所述算子执行序列表,得到最终计算图; 其中,所述遍历所述计算图,推断各所述算子的输出张量类型信息,并验证相邻所述算子之间的张量类型信息的一致性,包括: 以递归下降方式遍历所述计算图,获取每个所述算子的输入张量类型信息; 调用每个所述算子对应的、由硬件加速平台寄存器配置任务生成的推理函数,计算每个所述算子的输出张量类型信息; 将前驱算子的输出张量类型信息与后继算子的输入张量类型信息进行比较; 其中,所述执行静态内存分配以确定权重数据的静态存储地址,包括: 遍历所述计算图,识别权重数据; 根据所述权重数据的张量类型信息,计算所述权重数据所需存储空间; 根据所述存储空间,并按图遍历顺序在硬件加速平台存储空间中为所述权重数据分配静态存储地址; 其中,所述执行动态内存分配以确定状态数据的动态存储地址,包括: 在所述静态存储地址分配完成后,重新遍历所述计算图,识别所有状态数据,其中,所述状态数据包括输入数据、输出数据和中间结果数据; 在所述状态数据的生命周期内于硬件加速平台存储空间中为所述状态数据分配动态存储地址,并在生命周期结束后回收所述动态存储地址。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人深圳市迈特芯科技有限公司,其通讯地址为:518055 广东省深圳市南山区西丽街道西丽社区打石二路万科云城六期一栋云中城B704;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励