基于SARSA算法的足球机器人决策系统的研究与设计
| 摘要 | 第4-5页 |
| ABSTRACT | 第5-6页 |
| 第1章 绪论 | 第9-17页 |
| 1.1 课题的研究背景和意义 | 第9-10页 |
| 1.2 国内外研究现状及分析 | 第10-15页 |
| 1.2.1 Robo Cup 2D研究现状 | 第10-13页 |
| 1.2.2 多智能体中强化学习的研究现状 | 第13-15页 |
| 1.3 本文主要研究内容 | 第15-16页 |
| 1.4 本文的章节安排 | 第16-17页 |
| 第2章 足球机器人系统及强化学习算法的研究 | 第17-31页 |
| 2.1 引言 | 第17页 |
| 2.2 树形搜索的多智能体在线规划 | 第17-22页 |
| 2.2.1 合作动作模块 | 第19页 |
| 2.2.2 动作生成模块 | 第19-20页 |
| 2.2.3 评估模块 | 第20页 |
| 2.2.4 树形搜索算法 | 第20-22页 |
| 2.3 强化学习模型 | 第22-30页 |
| 2.3.1 马尔可夫过程 | 第23-26页 |
| 2.3.2 模型相关的强化学习算法 | 第26-27页 |
| 2.3.3 模型无关的强化学习算法 | 第27-30页 |
| 2.4 本章小结 | 第30-31页 |
| 第3章 基于SARSA算法的足球机器人决策系统 | 第31-43页 |
| 3.1 引言 | 第31-32页 |
| 3.2 状态空间的划分与动作集的确定 | 第32-34页 |
| 3.2.1 状态空间的划分 | 第32-33页 |
| 3.2.2 动作集的确定 | 第33-34页 |
| 3.2.3 奖励函数 | 第34页 |
| 3.3 奖励修正函数的研究与设计 | 第34-36页 |
| 3.3.1 基于球队分散度的奖励修正 | 第35-36页 |
| 3.3.2 基于足球转移距离的奖励修正 | 第36页 |
| 3.4 共享Q表算法研究与设计 | 第36-41页 |
| 3.4.1 共享Q表算法的设计 | 第38-40页 |
| 3.4.2 基于最大Q值的融合算法 | 第40-41页 |
| 3.5 动作选择策略设计 | 第41-42页 |
| 3.6 本章小结 | 第42-43页 |
| 第4章 实验平台介绍及实验结果分析 | 第43-51页 |
| 4.1 实验平台介绍 | 第43-45页 |
| 4.2 S ARS A算法学习收敛性实验结果分析 | 第45-46页 |
| 4.3 球队比赛实验结果分析 | 第46-50页 |
| 4.3.1 奖励函数对比赛结果的影响 | 第46-47页 |
| 4.3.2 奖励修正对比赛结果的影响与比较 | 第47-48页 |
| 4.3.3 其他球队的比赛结果与分析 | 第48-50页 |
| 4.4 本章小结 | 第50-51页 |
| 结论 | 第51-52页 |
| 参考文献 | 第52-58页 |
| 攻读学位期间发表的学术论文 | 第58-60页 |
| 致谢 | 第60页 |
