传统的行动者—评论家（actor-critic，AC）算法用在连续空间时，数据利用率低、收敛慢，而现实世界中采样往往需要昂贵的代价，因此提出了一种新的连续空间递归最小二乘AC算法，能够充分利用数据，提高学习预测能力。该方法用高斯径向基函数对连续的状态空间进行编码，评论家部分改用带资格迹的递归最小二乘时间差分方法，而行动者部分用策略梯度方法，在连续动作空间中进行策略搜索。Mountain Car问题的仿真结果表明该算法具有较好的收敛结果。