| 摘要 | 第4-5页 |
| Abstract | 第5页 |
| 本论文专用术语的注释表 | 第8-9页 |
| 第一章 绪论 | 第9-20页 |
| 1.1 研究背景与动机 | 第10-13页 |
| 1.1.1 软件系统的自适应性 | 第10-11页 |
| 1.1.2 Web服务组合的自适应性 | 第11-12页 |
| 1.1.3 研究动机 | 第12-13页 |
| 1.2 国内外研究现状 | 第13-17页 |
| 1.2.1 自适应服务组合研究 | 第13-15页 |
| 1.2.2 基于多Agent技术的服务组合研究 | 第15-16页 |
| 1.2.3 多Agent强化学习研究 | 第16-17页 |
| 1.3 研究内容 | 第17-18页 |
| 1.4 论文结构 | 第18-20页 |
| 第二章 Web服务组合概述 | 第20-31页 |
| 2.1 Web服务 | 第20-23页 |
| 2.1.1 Web服务定义 | 第20-21页 |
| 2.1.2 Web服务模型 | 第21-22页 |
| 2.1.3 常用Web服务标准 | 第22-23页 |
| 2.2 Web服务组合 | 第23-26页 |
| 2.2.1 Web服务组合的概念 | 第23-24页 |
| 2.2.2 Web服务组合的方法 | 第24-26页 |
| 2.3 Web服务组合的服务质量 | 第26-28页 |
| 2.3.1 服务质量定义 | 第26页 |
| 2.3.2 QoS属性 | 第26-27页 |
| 2.3.3 QoS抽象模型 | 第27-28页 |
| 2.4 Web服务组合的自适应性 | 第28-30页 |
| 2.4.1 Web服务组合的自适应性定义 | 第28-29页 |
| 2.4.2 Web服务组合的自适应性内容 | 第29-30页 |
| 2.5 本章小结 | 第30-31页 |
| 第三章 强化学习理论基础 | 第31-37页 |
| 3.1 强化学习原理和结构 | 第31-33页 |
| 3.2 马尔可夫决策过程 | 第33-34页 |
| 3.3 强化学习常用算法 | 第34-36页 |
| 3.3.1 TD算法 | 第34页 |
| 3.3.2 Q学习算法 | 第34-35页 |
| 3.3.3 Sarsa算法 | 第35-36页 |
| 3.4 本章小结 | 第36-37页 |
| 第四章 基于多Agent强化学习的自适应服务组合模型 | 第37-61页 |
| 4.1 场景描述 | 第37页 |
| 4.2 模型构建 | 第37-45页 |
| 4.2.1 基于Markov Decision Process的单Agent服务组合模型 | 第37-40页 |
| 4.2.2 基于Markov Games的多Agent服务组合模型 | 第40-45页 |
| 4.3 最优策略定义 | 第45-50页 |
| 4.3.1 奖励函数定义 | 第45-48页 |
| 4.3.2 基于Nash均衡的最优策略定义 | 第48-50页 |
| 4.4 协同机制设计 | 第50-54页 |
| 4.4.1 虚拟行动过程 | 第50-52页 |
| 4.4.2 协同方法设计 | 第52-54页 |
| 4.5 求解方法 | 第54-56页 |
| 4.5.1 基于离策略强化学习的求解算法 | 第54-56页 |
| 4.5.2 基于在策略强化学习的求解算法 | 第56页 |
| 4.6 方法的收敛性研究 | 第56-59页 |
| 4.6.1 基于离策略强化学习的求解算法的收敛性研究 | 第56-58页 |
| 4.6.2 基于在策略强化学习的求解算法的收敛性研究 | 第58-59页 |
| 4.7 本章小结 | 第59-61页 |
| 第五章 实验与分析 | 第61-67页 |
| 5.1 实验设置 | 第61-62页 |
| 5.2 结果与分析 | 第62-66页 |
| 5.2.1 有效性分析 | 第62-63页 |
| 5.2.2 可扩展性分析 | 第63-65页 |
| 5.2.3 自适应性分析 | 第65-66页 |
| 5.3 本章小结 | 第66-67页 |
| 第六章 总结与展望 | 第67-71页 |
| 6.1 本文总结 | 第67-68页 |
| 6.2 未来工作 | 第68-71页 |
| 致谢 | 第71-72页 |
| 参考文献 | 第72-78页 |
| 附录A 攻读硕士期间发表的论文 | 第78页 |
