| 摘要 | 第4-6页 |
| Abstract | 第6页 |
| 第1章 绪论 | 第10-16页 |
| 1.1 课题研究的背景及意义 | 第10-11页 |
| 1.2 强化学习的发展历史与研究现状 | 第11-14页 |
| 1.3 强化学习在倒立摆系统的应用情况 | 第14-15页 |
| 1.4 本文的主要研究内容及论文安排 | 第15-16页 |
| 第2章 强化学习 | 第16-26页 |
| 2.1 强化学习的基本原理和模型 | 第16页 |
| 2.2 强化学习的基本知识 | 第16-18页 |
| 2.2.1 评价函数 | 第16-17页 |
| 2.2.2 Markov 决策过程 | 第17-18页 |
| 2.3 动态规划方法 | 第18-20页 |
| 2.3.1 策略迭代 | 第18-19页 |
| 2.3.2 值迭代 | 第19-20页 |
| 2.4 时间差分 | 第20-22页 |
| 2.4.1 TD(0) | 第20页 |
| 2.4.2 n 步截断回报与λ-回报 | 第20-21页 |
| 2.4.3 适合度轨迹 | 第21-22页 |
| 2.5 强化学习的主要算法 | 第22-25页 |
| 2.5.1 Q 学习算法 | 第22-23页 |
| 2.5.2 自适应启发评价算法 | 第23-25页 |
| 2.6 本章小结 | 第25-26页 |
| 第3章 倒立摆系统 | 第26-37页 |
| 3.1 倒立摆系统简介 | 第26-27页 |
| 3.1.1 直线倒立摆系统 | 第26页 |
| 3.1.2 环形倒立摆系统 | 第26-27页 |
| 3.2 倒立摆系统的数学模型 | 第27-35页 |
| 3.2.1 直线一级倒立摆系统的数学模型 | 第27-29页 |
| 3.2.2 直线二级倒立摆系统的数学模型 | 第29-35页 |
| 3.3 倒立摆系统的控制算法 | 第35-36页 |
| 3.4 本章小结 | 第36-37页 |
| 第4章 基于值函数逼近的强化学习 | 第37-46页 |
| 4.1 表格型强化学习算法 | 第37-38页 |
| 4.2 改进的Q 学习系统 | 第38-40页 |
| 4.3 仿真实验及结果分析 | 第40-44页 |
| 4.4 本章小结 | 第44-46页 |
| 第5章 针对连续状态和连续行为空间的强化学习 | 第46-58页 |
| 5.1 基于内部回归神经网络的强化学习系统 | 第46-56页 |
| 5.1.1 系统结构 | 第46-51页 |
| 5.1.2 仿真实验 | 第51-55页 |
| 5.1.3 一级倒立摆物理实体实验 | 第55-56页 |
| 5.2 基于BP 神经网络和适合度轨迹的强化学习系统 | 第56-57页 |
| 5.2.1 系统结构 | 第56-57页 |
| 5.2.2 仿真结果对比 | 第57页 |
| 5.3 本章小结 | 第57-58页 |
| 结论 | 第58-60页 |
| 参考文献 | 第60-64页 |
| 攻读硕士学位期间所发表的学术论文 | 第64-65页 |
| 致谢 | 第65页 |