| 致谢 | 第4-5页 |
| 摘要 | 第5-6页 |
| ABSTRACT | 第6-7页 |
| 1 绪论 | 第12-19页 |
| 1.1 研究背景与意义 | 第12-13页 |
| 1.2 国内外研究现状 | 第13-16页 |
| 1.3 本文主要研究工作 | 第16-17页 |
| 1.4 本文组织结构 | 第17-18页 |
| 1.5 本章小结 | 第18-19页 |
| 2 理论基础 | 第19-36页 |
| 2.1 序列决策问题和马尔科夫决策过程 | 第19-22页 |
| 2.1.1 序列决策问题 | 第19-20页 |
| 2.1.2 马尔科夫决策过程 | 第20-22页 |
| 2.2 强化学习 | 第22-27页 |
| 2.2.1 强化学习算法主要思想和关键问题 | 第23-24页 |
| 2.2.2 基于值函数的算法 | 第24-26页 |
| 2.2.3 基于策略梯度的算法 | 第26-27页 |
| 2.3 其他知识与概念 | 第27-35页 |
| 2.3.1 深度学习和卷积神经网络 | 第27-30页 |
| 2.3.2 目标检测算法简介 | 第30-32页 |
| 2.3.3 模仿学习 | 第32-35页 |
| 2.4 本章小结 | 第35-36页 |
| 3 游戏问题建模与强化学习智能体设计 | 第36-63页 |
| 3.1 FIFA游戏与SHOOTING BRONZE场景介绍 | 第36-38页 |
| 3.1.1 FIFA游戏简介 | 第36-37页 |
| 3.1.2 Shooting Bronze场景简介 | 第37-38页 |
| 3.2 SHOOTING BRONZE问题建模 | 第38-41页 |
| 3.3 系统架构 | 第41-44页 |
| 3.3.1 包含复杂环境输入的决策问题设计方案 | 第41-42页 |
| 3.3.2 Shooting Bronze序列决策问题设计方案 | 第42-43页 |
| 3.3.3 整体架构方案设计 | 第43-44页 |
| 3.4 感知模块设计 | 第44-50页 |
| 3.4.1 迁移学习方法分析 | 第44-46页 |
| 3.4.2 目标检测算法选择 | 第46-47页 |
| 3.4.3 感知模块设计方案 | 第47-50页 |
| 3.5 决策模块设计 | 第50-60页 |
| 3.5.1 Dribble模仿学习设计 | 第51-54页 |
| 3.5.2 Shoot强化学习设计 | 第54-60页 |
| 3.6 环境模块设计 | 第60-62页 |
| 3.6.1 屏幕抓取模块 | 第60页 |
| 3.6.2 分数检测模块 | 第60-61页 |
| 3.6.3 按键控制模块 | 第61-62页 |
| 3.7 本章小结 | 第62-63页 |
| 4 实验设计及结果分析 | 第63-76页 |
| 4.1 实验环境介绍 | 第63页 |
| 4.2 实验结果分析和比较 | 第63-75页 |
| 4.2.1 强化学习智能体实验结果 | 第64-65页 |
| 4.2.2 算法可行性和稳定性分析 | 第65-68页 |
| 4.2.3 本文方法同Double DQN算法对比 | 第68-70页 |
| 4.2.4 分离式深度环境感知算法同通用感知方法对比 | 第70-72页 |
| 4.2.5 行为模仿辅助的强化学习算法同单一决策算法对比 | 第72-74页 |
| 4.2.6 Counter-based和random-based探索算法对比 | 第74-75页 |
| 4.3 本章小结 | 第75-76页 |
| 5 总结与展望 | 第76-78页 |
| 5.1 论文研究工作总结 | 第76-77页 |
| 5.2 今后工作展望 | 第77-78页 |
| 参考文献 | 第78-86页 |
| 作者简历 | 第86-87页 |
| 作者攻读硕士学位期间发表的论文 | 第87页 |
