恭喜西南石油大学张星获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜西南石油大学申请的专利一种分布式多智能体交通信号协同控制方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119889066B 。
龙图腾网通过国家知识产权局官网在2025-06-03发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510353897.4,技术领域涉及:G08G1/081;该发明授权一种分布式多智能体交通信号协同控制方法是由张星;张恒汝设计研发完成,并于2025-03-25向国家知识产权局提交的专利申请。
本一种分布式多智能体交通信号协同控制方法在说明书摘要公布了:本发明提供了一种分布式多智能体交通信号协同控制方法,属于智能交通控制领域。该方法包括对路网环境进行初始化操作,并根据城市路网的拓扑结构,构建邻接表,以及将城市路网中的每个交通信号灯控制路口视为一个独立的智能体;对于每个智能体,获取所在交叉口的局部观测状态;根据动作概率分布,通过采样进行动作选择;利用智能体将选择的动作发送至交通模拟器,并更新交通信号灯的状态,利用交通模拟器计算并返回下一个时间步的智能体信息;将动作概率分布发送至其所有邻居智能体;进行参数更新,直至达到预设的训练轮次,完成对交通信号的协同控制。本发明采用分布式多智能体强化学习框架提高了探索效率和促进智能体之间的协同合作。
本发明授权一种分布式多智能体交通信号协同控制方法在权利要求书中公布了:1.一种分布式多智能体交通信号协同控制方法,其特征在于,包括以下步骤:S1、初始化阶段:对城市路网环境进行初始化操作,并根据城市路网的拓扑结构,构建邻接表,以及将城市路网中的每个交通信号灯控制路口视为一个独立的智能体,并对每个智能体进行初始化,其中,智能体之间通过邻接表进行局部信息共享;S2、环境交互阶段:对于每个智能体独立地获取其所在交叉口的局部观测状态;S3、决策阶段:基于每个智能体获取的局部观测状态,得到动作概率分布,并由智能体根据动作概率分布,通过采样进行动作选择,其中,动作概率分布表示智能体选择每个可用交通信号相位的概率;S4、执行阶段:由每个智能体将选择的动作发送至交通模拟器,更新交通信号灯的状态以及模拟车辆的移动,并利用交通模拟器计算并返回下一个时间步的智能体信息,其中,智能体信息包括每个智能体的奖励以及每个智能体的下一个局部观测状态;S5、信息共享阶段:由每个智能体将动作概率分布发送至其所有邻居智能体,其中,每个智能体之间仅共享动作概率分布,邻居智能体由邻接表确定;S6、学习阶段:根据S3得到的动作概率分布、S4得到的每个智能体的奖励和下一个局部观测状态,以及S5得到的从邻居智能体接收到的动作概率分布进行参数更新,并通过计算个体熵和联合熵更新Actor网络、Critic网络以及自适应温度系数alpha和beta,其中,个体熵用于衡量单个智能体动作选择的随机性,联合熵用于衡量相邻智能体之间动作的联合分布;自适应温度系数alpha的更新的表达式如下:L_alpha=-logalpha*Hπ·|s+target_entropy_individual其中,L_alpha表示自适应温度系数alpha的损失函数值,alpha表示用于调整个体熵正则化强度的自适应温度系数,Hπ·|s表示个体熵,target_entropy_individual表示预设的目标个体熵,该预设的目标个体熵设为负的动作空间的大小,logalpha表示自适应温度系数alpha的对数;自适应温度系数beta的更新的表达式如下:L_beta=-logbeta*Hπ_joint+target_entropy_joint其中,L_beta表示自适应温度系数beta的损失函数值,beta表示用于调整联合熵正则化强度的自适应温度系数,logbeta表示自适应温度系数beta的对数,Hπ_joint表示联合熵,target_entropy_joint表示预设的目标联合熵,该预设的目标联合熵设为负的动作空间的大小与联合智能体数量的乘积;Critic网络的损失函数的表达式如下:L_critic=R+γ*Vs'-Vs^2其中,L_critic表示Critic网络的损失函数,R表示即时奖励,γ表示折扣因子,Vs和Vs'分别表示当前状态和下一状态的价值估计;Actor网络的损失函数的表达式如下:L_actor=-logπa|s*As,a+alpha*Hπ·|s+beta*Hπ_joint其中,L_actor表示Actor网络的损失函数,πa|s表示在状态s下采取动作a的概率,As,a表示优势函数;S7、循环迭代:重复S2到S6,直至达到预设的训练轮次,智能体学习得到在不同交通状态下的最优信号控制决策,并与其所有相邻智能体协同工作,完成对交通信号的协同控制。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西南石油大学,其通讯地址为:610500 四川省成都市新都区新都大道8号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。