连续空间强化学习研究
| 摘要 | 第5-7页 |
| abstract | 第7-8页 |
| 第一章 绪论 | 第16-29页 |
| 1.1 研究背景与意义 | 第16-18页 |
| 1.2 国内外研究现状 | 第18-26页 |
| 1.2.1 强化学习泛化性研究现状 | 第18-20页 |
| 1.2.2 强化学习高效性研究现状 | 第20-22页 |
| 1.2.3 强化学习收敛性研究现状 | 第22-23页 |
| 1.2.4 空间自适应表示研究现状 | 第23-24页 |
| 1.2.5 步长自适应调整研究现状 | 第24-26页 |
| 1.3 本文工作与创新 | 第26-27页 |
| 1.4 本文结构与安排 | 第27-29页 |
| 第二章 连续空间强化学习研究基础 | 第29-42页 |
| 2.1 强化学习数学模型 | 第29-30页 |
| 2.2 强化学习探索策略 | 第30-32页 |
| 2.2.1 Softmax策略 | 第31页 |
| 2.2.2 (?)-greedy策略 | 第31页 |
| 2.2.3 传统高斯策略 | 第31-32页 |
| 2.3 时域差值学习算法 | 第32-35页 |
| 2.3.1 线性TD(λ) 算法 | 第32-34页 |
| 2.3.2 线性Sarsa(λ) 算法 | 第34-35页 |
| 2.3.3 线性Q(λ) 算法 | 第35页 |
| 2.4 Actor-Critic学习算法 | 第35-40页 |
| 2.4.1 策略梯度定理 | 第35-37页 |
| 2.4.2 线性AC算法 | 第37-40页 |
| 2.5 重要收敛结果与理论 | 第40-41页 |
| 2.5.1 线性TD(λ) 算法收敛结果 | 第40页 |
| 2.5.2 两时间尺度随机逼近理论 | 第40-41页 |
| 2.6 本章小结 | 第41-42页 |
| 第三章 增量最近邻TD学习算法 | 第42-59页 |
| 3.1 研究动机 | 第42-43页 |
| 3.2 局部加权学习 | 第43页 |
| 3.3 增量最近邻TD学习 | 第43-50页 |
| 3.3.1 增量最近邻TD学习框架 | 第43-47页 |
| 3.3.2 在线稀疏化条件定义 | 第47-48页 |
| 3.3.3 加权向量具体定义 | 第48-49页 |
| 3.3.4 资格迹矩阵迭代更新 | 第49-50页 |
| 3.4 性能分析 | 第50-51页 |
| 3.5 仿真研究 | 第51-57页 |
| 3.5.1 仿真问题与设置 | 第51-52页 |
| 3.5.2 仿真结果与分析 | 第52-57页 |
| 3.6 本章小结 | 第57-59页 |
| 第四章 基于核的RLSTD学习算法 | 第59-85页 |
| 4.1 研究动机 | 第59-60页 |
| 4.2 LSTD算法 | 第60-62页 |
| 4.3 正则化OSKRLSTD算法 | 第62-74页 |
| 4.3.1 OSKRLSTD-L_2算法 | 第62-65页 |
| 4.3.2 OSKRLSTD-L_1算法 | 第65-69页 |
| 4.3.3 仿真研究 | 第69-74页 |
| 4.3.3.1 仿真问题与设置 | 第70-71页 |
| 4.3.3.2 仿真结果与分析 | 第71-74页 |
| 4.4 正则化OSMKRLSTD算法 | 第74-84页 |
| 4.4.1 多特征LSTD算法 | 第75页 |
| 4.4.2 OSMKRLSTD-L_2算法 | 第75-82页 |
| 4.4.3 仿真研究 | 第82-84页 |
| 4.4.3.1 仿真问题与设置 | 第82页 |
| 4.4.3.2 仿真结果与分析 | 第82-84页 |
| 4.5 本章小结 | 第84-85页 |
| 第五章 对称扰动AC学习算法 | 第85-112页 |
| 5.1 研究动机 | 第85-86页 |
| 5.2 传统高斯策略问题分析 | 第86-88页 |
| 5.3 对称扰动采样AC算法 | 第88-98页 |
| 5.3.1 SSAC算法框架 | 第88-90页 |
| 5.3.2 性能分析 | 第90-95页 |
| 5.3.2.1 复杂度分析 | 第90-91页 |
| 5.3.2.2 收敛性分析 | 第91-95页 |
| 5.3.3 仿真研究 | 第95-98页 |
| 5.3.3.1 仿真问题与设置 | 第95-96页 |
| 5.3.3.2 仿真结果与分析 | 第96-98页 |
| 5.4 对称扰动兼容AC算法 | 第98-111页 |
| 5.4.1 (?)-贪婪高斯策略 | 第98-100页 |
| 5.4.2 兼容AC算法 | 第100-105页 |
| 5.4.2.1 RLSEGAC算法框架 | 第101-103页 |
| 5.4.2.2 SEGAC算法框架 | 第103-105页 |
| 5.4.3 性能分析 | 第105-106页 |
| 5.4.3.1 策略改进分析 | 第105-106页 |
| 5.4.3.2 收敛性分析 | 第106页 |
| 5.4.4 仿真研究 | 第106-111页 |
| 5.4.4.1 仿真问题与设置 | 第106-108页 |
| 5.4.4.2 仿真结果与分析 | 第108-111页 |
| 5.5 本章小结 | 第111-112页 |
| 第六章 TD学习向量步长自适应算法 | 第112-123页 |
| 6.1 研究动机 | 第112-113页 |
| 6.2 自适应向量步长TD学习 | 第113-116页 |
| 6.2.1 RLSTD算法重新解读 | 第113-114页 |
| 6.2.2 向量步长自适应算法 | 第114-116页 |
| 6.3 性能分析 | 第116-118页 |
| 6.4 仿真研究 | 第118-122页 |
| 6.4.1 仿真问题与设置 | 第118-120页 |
| 6.4.2 仿真结果与分析 | 第120-122页 |
| 6.5 本章小结 | 第122-123页 |
| 第七章 总结与展望 | 第123-125页 |
| 7.1 全文工作总结 | 第123-124页 |
| 7.2 后续工作展望 | 第124-125页 |
| 致谢 | 第125-126页 |
| 参考文献 | 第126-139页 |
| 攻读博士学位期间取得的成果 | 第139-140页 |
