买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：上海燧原科技股份有限公司

摘要：本发明公开了一种深度学习模型的自动可逆化合成方法、装置、设备及介质，该方法包括：根据目标深度学习模型的抽象语法树生成有向无环图进行结构分析，确定各节点之间的依赖关系，并确定出与各节点对应的可逆候选结构，并得到合法可逆候选结构；筛选出实测可用的各目标可逆结构后，根据抽象语法树的树结构进行节点遍历，并基于代价模型在各可逆化策略中动态规划出与目标深度学习模型对应的目标可逆化策略；按照目标可逆化策略，构建出与目标深度学习模型对应的目标可逆化重构模型在后端系统中实际运行。本公开实施例的技术方案提供一种在深度学习模型中自动化识别出全部可用可逆结构后，自动化确定出深度学习模型最优可逆化策略的实现方式。

主权项：1.一种深度学习模型的自动可逆化合成方法，其特征在于，包括：获取与目标深度学习模型对应的抽象语法树，并根据抽象语法树生成有向无环图，其中，抽象语法树中的节点对应目标深度学习模型中的算子；所述目标深度学习模型应用在计算机视觉领域、自然语言处理领域、医疗领域或者自动驾驶领域；所述计算机视觉领域包括图像分类、目标检测或者人脸识别；所述自然语言处理领域包括文本分类、机器翻译或者语音识别；对有向无环图进行结构分析，确定各节点之间的依赖关系，并根据依赖关系，确定出与各节点对应的可逆候选结构；其中，可逆候选结构为包含至少一个节点的无分支结构；其中，当目标深度学习模型中的一个局部结构除了起始输入边和最终输出边之外，再没有一个流入该局部结构的有向边，或者从该局部结构中流出的有向边，该局部结构整体为一个无分支结构；在全部可逆候选结构中，滤除不满足合法性检测条件的可逆候选结构，得到合法可逆候选结构，并根据黑白名单确定与每个合法可逆候选结构分别对应的可逆转换模式集；根据与每个合法可逆候选结构分别对应可逆转换模式集，构建与目标深度学习模型对应的多个第一类可逆化重构模型；将各第一类可逆化重构模型加载至后端系统中试运行，并根据试运行结果筛选出实测可用的各目标可逆结构和与目标可逆结构对应的目标可逆转换模式集；所述后端系统为实体执行设备，试运行是指在将设定第一可逆化重构模型加载至该执行设备，并控制该执行设备在执行设定时长或者控制该执行设备达到设定计算目标的执行过程中，检测设定第一可逆化重构模型是否能够正常执行，试运行结果包括正常运行或者异常运行；根据抽象语法树的树结构进行节点遍历，并在遍历过程中基于代价模型在各可逆化策略中动态规划出与目标深度学习模型对应的目标可逆化策略；其中，基于代价模型，能够计算出每种可逆化策略的代价值，并选择出与最小代价值对应的目标可逆化策略，所述代价模型的输入为一项或者多项模型性能衡量参数，输出为代价值，模型性能衡量参数包括计算耗时和内存占用量；其中，各目标可逆结构和与目标可逆结构对应的目标可逆转换模式集，用于组成目标深度学习模型适配的可逆化策略；按照目标可逆化策略，构建出与目标深度学习模型对应的目标可逆化重构模型，并将目标可逆化重构模型加载至所述后端系统中实际运行，以执行模型训练操作；其中，根据抽象语法树的树结构进行节点遍历，并在遍历过程中基于代价模型在各可逆化策略中动态规划出与目标深度学习模型对应的目标可逆化策略，包括：按照后序遍历的方式，在抽象语法树中获取当前处理节点；基于预设的代价模型，在与当前处理节点关联的全部可逆化策略中，确定与当前处理节点对应的局部最优可逆化策略；其中，与当前处理节点关联的可逆化策略包括：对当前处理节点进行可逆化转换的策略，以及不对当前处理节点进行可逆化转换的策略；返回执行通过后序遍历的方式，在抽象语法树中获取当前处理节点的操作，直至遍历出与抽象语法树的根节点对应的局部最优可逆化策略；将与抽象语法树的根节点对应的局部最优可逆化策略，确定为目标可逆化策略。

全文数据：

权利要求：

百度查询： 上海燧原科技股份有限公司 深度学习模型的自动可逆化合成方法、装置、设备及介质