桂林电子科技大学;南宁桂电电子科技研究院有限公司周祖鹏获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉桂林电子科技大学;南宁桂电电子科技研究院有限公司申请的专利一种数字孪生辅助的仿鳄机器人步态控制深度强化学习方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119759070B 。
龙图腾网通过国家知识产权局官网在2025-10-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411745777.0,技术领域涉及:G05D1/49;该发明授权一种数字孪生辅助的仿鳄机器人步态控制深度强化学习方法是由周祖鹏;吴锋民设计研发完成,并于2024-12-02向国家知识产权局提交的专利申请。
本一种数字孪生辅助的仿鳄机器人步态控制深度强化学习方法在说明书摘要公布了:本发明公开了一种数字孪生辅助的仿鳄机器人步态控制深度强化学习方法,该方法分为预训练和实时训练两个阶段。具体步骤包括:步骤1、利用仿真和建模技术构建仿鳄机器人孪生系统模型,并将其储存在边缘设备中;步骤2、构建仿鳄机器人步态控制的状态空间和动作空间;步骤3、设计考虑前向运动步态速度、稳定性和低能耗的奖励函数;步骤4、采用多进程并行收集数据进行预训练,得到孪生决策模型;步骤5、将孪生决策模型部署在边缘设备中,利用通信模块与孪生物理实体相互传递信息,对仿鳄机器人进行实时训练。本发明通过建立数字孪生模型进行预训练,以及利用边缘设备的强大计算能力和存储资源,提高了仿鳄机器人步态控制的训练效率。
本发明授权一种数字孪生辅助的仿鳄机器人步态控制深度强化学习方法在权利要求书中公布了:1.一种数字孪生辅助的仿鳄机器人步态控制深度强化学习方法,该方法分为预训练和实时训练两个阶段,其特征在于,包括如下步骤: 步骤1:利用仿真和建模技术构建仿鳄机器人孪生系统模型,并将其储存在边缘设备中; 所述仿鳄机器人孪生系统模型包括仿鳄机器人孪生模型和地形环境模型,所述仿鳄机器人孪生模型是仿鳄机器人物理实体的数字化复现,所述地形环境模型由仿鳄机器人物理实体内载传感器采集并搭建的地形环境描述,所述边缘设备指在网络边缘进行数据处理和存储,并通过通信模块与孪生物理实体相互传递信息的设备,由数据处理单元、数据存储单元和通信模块组成; 步骤2:构建仿鳄机器人步态控制的状态空间和动作空间; 所述状态空间为仿鳄机器人孪生系统状态信息,包括仿鳄机器人状态信息和地形环境信息,所述动作空间为仿鳄机器人各关节电机的旋转角度; 步骤3:设计考虑前向运动步态速度、稳定性和低能耗的奖励函数; 所述奖励函数包括前向运动奖励,能量消耗惩罚和稳定性奖励;所述前向运动奖励包括前进速度奖励和前进方向奖励;所述能量消耗只考虑各个关节电机的转矩和转速;所述稳定性奖励包括仿鳄机器人质心高度浮动、跌倒和姿态角变化;最终的奖励函数为上述奖励函数的线性叠加; 步骤4:采用多进程并行收集数据进行预训练,得到孪生决策模型; 所述多进程中各个子进程负责利用CPU资源探索环境和收集历史数据,而主进程在GPU中进行策略更新;DRL算法部署在孪生决策模型中,采用Actor-Critic网络架构; 步骤5:将孪生决策模型部署在边缘设备中,利用通信模块与孪生物理实体相互传递信息,对仿鳄机器人进行实时训练; 对仿鳄机器人进行实时训练的具体方法为:在实时训练阶段,仿鳄机器人物理实体内载高清传感器采集状态信息,边缘设备在每个时间步长用来自物理实体感知数据实时更新孪生系统模型;孪生决策模型从孪生系统模型中提取步态控制所需的状态数据,产生决策输出后由通信模块传递至孪生物理实体;孪生物理实体接收决策输出并执行步态动作;依次循环,孪生系统模型将持续从物理实体中获取实时的轨迹样本数据r、s、s_next、d、a,并将其储存在边缘设备的经验缓冲区中,用于对孪生决策模型进行实时训练。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人桂林电子科技大学;南宁桂电电子科技研究院有限公司,其通讯地址为:541004 广西壮族自治区桂林市七星区金鸡路1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励