Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 北京邮电大学刘亮获国家专利权

北京邮电大学刘亮获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉北京邮电大学申请的专利一种面向嵌入式RTOS的内存动态自适应DNN推理方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119597470B

龙图腾网通过国家知识产权局官网在2025-12-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411657159.0,技术领域涉及:G06F9/50;该发明授权一种面向嵌入式RTOS的内存动态自适应DNN推理方法及系统是由刘亮;郑霄龙;马华东;信海腾;褚昊霖设计研发完成,并于2024-11-19向国家知识产权局提交的专利申请。

一种面向嵌入式RTOS的内存动态自适应DNN推理方法及系统在说明书摘要公布了:本发明提供一种面向嵌入式RTOS的内存动态自适应DNN推理方法及系统,包括:在离线阶段,解析模型的计算图结构,识别特定算子序列并融合为新算子;预先计算各算子推理时所需的参数;对模型中所有张量矫正,去除冗余张量;根据各算子执行顺序,为每个张量分配内存,计算每个张量相对于内存块起始位置的偏移量;各算子选择内核后生成模型代码;在在线阶段,根据生成的模型代码,基于行部分加载机制,为各算子计算过程中产生的中间张量分配中间内存,使用轻量级算法,根据可用内存大小计算每个中间张量相对于中间内存块起始位置的偏移量,实现模型推理。本发明能够在极度受限且动态变化的内存资源条件下,自动调整深度神经网络推理任务的内存占用大小。

本发明授权一种面向嵌入式RTOS的内存动态自适应DNN推理方法及系统在权利要求书中公布了:1.一种面向嵌入式RTOS的内存动态自适应DNN推理方法,其特征在于,所述方法包括离线编译方法和在线调度方法,所述方法包括以下步骤: 在所述离线编译方法中,解析模型的计算图结构,识别所述模型中的算子序列,将其融合为新算子;预先计算所述模型中各算子推理时所需的参数;对所述模型中所有张量进行矫正,并去除冗余张量;根据所述模型中各算子的执行顺序,为每个张量规划生命周期和内存,并计算每个张量相对于内存块起始位置的偏移量;为所述模型中各算子选择内核;生成模型代码; 在所述在线调度方法中,根据所述离线编译方法生成的模型代码,基于行部分加载机制,为各算子计算过程中产生的中间张量分配中间内存,并使用轻量级算法,根据可用内存大小,计算每个中间张量相对于中间内存块起始位置的偏移量;实现所述模型的推理;其中,所述行部分加载机制包括:在各算子计算过程中,根据选择的内核尺寸和步长,每次计算需计算相应行数的输出,当此次计算与上一次计算存在重复行计算时,将重复的行的输出进行拷贝,仅计算新的行的输出;所述轻量级算法包括:设置一组中间参数控制由卷积算子、深度卷积算子和卷积算子融合得到的新算子执行流,包括预先计算好所述深度卷积算子的高维度填充行数,初始化所述深度卷积算子输入张量的前所述填充行数行为0,循环层数设置为所述深度卷积算子的输出行数,循环计算所述中间参数的数值、第一个卷积算子、所述深度卷积算子、第二个卷积算子,将所述深度卷积算子输入张量需要重用的行进行拷贝,以完成融合算子的计算。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京邮电大学,其通讯地址为:100876 北京市海淀区西土城路10号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。