买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：西安电子科技大学

摘要：本发明公开了一种基于动态树门控网络的高效模块化持续学习方法，主要解决现有技术计算资源浪费，模块复用率低及灾难性遗忘的问题。其实现方案是：1获取任务流训练集；2设计包含功能组件及树形门控组件的模型网络并定义其损失函数；3将任务流训练集输入到模型网络中对其进行训练：3a利用树形门控组件和功能组件产生模块的任务特征，将若干模块求和得到模型网络的输出；3b计算模型网络损失函数和梯度，更新模型网络参数；3c单一任务训练结束后，冻结模型网络参数；重复3a‑3c直至任务流训练集结束，获得训练好的模型网络。本发明能克服灾难性遗忘，提升模块复用率，节约计算资源，可用于机器人学习，医疗诊断与辅助治疗。

主权项：1.一种基于动态树形门控网络的模块化持续学习方法，其特征在,包括如下步骤：1从公开网站下载任务流数据，取其80％作为任务流训练集；2设计模型网络架构：选用逆卷积网络作为树形门控组件的叶子节点，将叶子节点以树形结构连接起来组成树形门控组件，该树形结构包括高层叶子节点以及底层叶子节点；选用卷积网络作为功能组件；将树形门控组件与功能组件进行连接组成模型网络的模块，并分别定义树形门控组件中叶子节点的重建误差功能组件的损失函数定义模型网络损失函数3初始化网络参数，设置模型网络超参数，该超参数包括添加阈值z，模块随机失活概率p，增量投影阶段长度ladd和积累阶段长度lacc；4将任务流训练集输入到模型网络对其进行训练：4a依据伯努利分布和模块随机失活概率生成随机的伯努利变量，该变量用于决定当前模块是否失活；4b使用功能组件，提取任务特征；4c使用树形门控组件产生功能组件的权重；4d判断树形门控组件的输出是否达到添加阈值z：若满足，则在模块化网络中添加新的模块，以触发增量投影阶段后；若不满足，则保持模型网络当前架构；4e重复步骤4a-4d直至满足模型网络的模块数，输出模型网络提取的任务特征；4f计算模型网络的损失函数利用反向传播更新模型参数；4g重复步骤4a-4f直至满足增量投影阶段长度，触发积累阶段；4h重复步骤4a-4g直至当前任务训练结束，再对模块化网络中的所有模块进行冻结，使其不再更新参数；4i重复步骤4a-4h迭代更新模型，直至任务流训练集结束，完成任务流的学习过程，得到训练好的模型网络。

全文数据：

权利要求：

百度查询： 西安电子科技大学 基于动态树形门控网络的模块化持续学习方法