鸽子强化学习过程中内部学习状态的动态建模研究

摘要：

经典Q-learning强化学习模型中学习率为一固定参数,无法有效反映认知学习的动态过程.提出了一种将学习速率表征为时变参数的Q-Learning强化学习模型,给出了利用近期历史行为数据估计阶段性学习速率的方法.为了评估验证该模型的性能,设计了条件刺激与操作行为奖励无关→相关→无关三个阶段动态试验范式,用以观察和分析鸽子在随机强化、固定强化,以及固定强化关系消退等不同条件下的学习行为变化过程,采用动物触屏行为系统完成了3只鸽子颜色刺激-啄屏抉择认知训练,利用训练过程中不同session的行为数据对动态学习率进行了最小二乘估计.分析结果表明:可以获得更小的行为预测误差,误差下降收敛的速度更快,同时学习率的动态变化过程可以有效的反映动物认知行为训练过程中的内在学习状态.

关键词：动态学习率、Q-Learning、鸽子、行为

所属期刊栏目：17

分类号：Q811.211;Q811.8(生物工程学(生物技术))

在线出版日期：2017-07-17（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：120-125