基于双评论家的多智能体深度确定性策略梯度方法

摘要：

在现实世界的复杂多智能体环境中,任务的完成通常需要多个智能体之间的相互协作,这促使各种多智能体强化学习方法不断涌现.动作价值函数估计偏差是单智能体强化学习领域中备受关注的一个重要问题,而在多智能体环境中却鲜有研究.针对这一问题,分别从理论和实验上证明了多智能体深度确定性策略梯度方法存在价值函数被高估.提出基于双评论家的多智能体深度确定性策略梯度(multi-agent deep deterministic policy gradient method based on double critics,MADDPG-DC)方法,通过在双评论家网络上的最小值操作来避免价值被高估,进一步促进智能体学得最优的策略.此外,延迟行动者网络更新,保证行动者网络策略更新的效率和稳定性,提高策略学习和更新的质量.在多智能体粒子环境和交通信号控制环境上的实验结果证明了所提方法的可行性和优越性.

关键词：强化学习、价值估计、双评论家、交通信号控制、多智能体深度确定性策略梯度

所属期刊栏目：60

分类号：TP18(自动化基础理论)

在线出版日期：2023-12-08（万方平台首次上网日期，不代表论文的发表时间）

页数：共11页

页码：2394-2404