| 摘要 | 第4-6页 |
| Abstract | 第6-7页 |
| 第1章 绪论 | 第11-19页 |
| 1.1 分布式内存计算平台Spark简介 | 第11-13页 |
| 1.1.1 大数据处理技术发展背景 | 第11-12页 |
| 1.1.2 分布式内存计算平台典型代表-Spark平台 | 第12-13页 |
| 1.2 Spark平台中基于内存的数据存储空间管理技术的现状与不足 | 第13-15页 |
| 1.3 本文的主要贡献 | 第15-16页 |
| 1.4 本文的组织结构 | 第16页 |
| 1.5 本章小结 | 第16-19页 |
| 第2章 相关工作 | 第19-27页 |
| 2.1 海量数据处理平台的演进 | 第19-20页 |
| 2.1.1 海量数据处理应用新特征 | 第19页 |
| 2.1.2 新型海量数据处理平台发展历程 | 第19-20页 |
| 2.2 分布式内存计算平台概述 | 第20-23页 |
| 2.2.1 分布式内存计算平台新特征 | 第20-21页 |
| 2.2.2 Spark平台概述 | 第21-22页 |
| 2.2.3 其他分布式内存计算平台 | 第22-23页 |
| 2.3 分布式共享内存相关研究工作 | 第23-24页 |
| 2.4 数据替换相关研究工作 | 第24-25页 |
| 2.5 资源动态分配技术相关研究工作 | 第25-26页 |
| 2.6 本章小结 | 第26-27页 |
| 第3章 基于共享内存的RDD缓存数据空间的组织与管理模型 | 第27-35页 |
| 3.1 基于共享内存的RDD缓存数据空间动态管理技术的基本思路 | 第27-28页 |
| 3.2 基于共享内存的RDD缓存数据空间的组织模型 | 第28-30页 |
| 3.2.1 组织结构 | 第29页 |
| 3.2.2 数据存储粒度 | 第29页 |
| 3.2.3 数据存储机制 | 第29-30页 |
| 3.3 基于共享内存的RDD缓存数据空间的管理模型 | 第30-34页 |
| 3.3.1 管理架构 | 第30-31页 |
| 3.3.2 元数据定义 | 第31-33页 |
| 3.3.3 容错性 | 第33-34页 |
| 3.4 本章小结 | 第34-35页 |
| 第4章 面向RDD缓存数据空间的数据迁移策略 | 第35-45页 |
| 4.1 RDD缓存数据空间数据迁移中关键问题 | 第35-36页 |
| 4.2 RDD缓存数据空间数据迁移触发条件定义 | 第36页 |
| 4.3 RDD缓存数据空间数据迁移代价的量化计算模型 | 第36-39页 |
| 4.3.1 数据迁移代价量化计算考虑因素 | 第37页 |
| 4.3.2 数据迁移代价量化计算决策因子 | 第37-38页 |
| 4.3.3 数据迁移代价量化计算 | 第38-39页 |
| 4.4 RDD缓存数据空间迁移目标节点满足度的量化计算模型 | 第39-41页 |
| 4.4.1 迁移目标节点满足度量化计算考虑因素 | 第39-40页 |
| 4.4.2 迁移目标节点满足度量化计算决策因子 | 第40-41页 |
| 4.4.3 迁移目标节点满足度量化计算 | 第41页 |
| 4.5 RDD缓存数据空间内的数据迁移策略 | 第41-43页 |
| 4.6 本章小结 | 第43-45页 |
| 第5章 面向Spark平台的内存数据空间动态分配策略 | 第45-55页 |
| 5.1 关键问题 | 第45-46页 |
| 5.2 临时数据空间周期性判断模型 | 第46-50页 |
| 5.2.1 自相关函数 | 第46-47页 |
| 5.2.2 模型定义 | 第47-48页 |
| 5.2.3 临时数据空间周期性判断模型设计 | 第48-50页 |
| 5.3 内存使用量预测 | 第50-52页 |
| 5.3.1 周期性临时数据空间预测方法 | 第50页 |
| 5.3.2 非周期性临时数据空间预测方法 | 第50-52页 |
| 5.4 面向Spark平台的内存数据空间动态分配策略 | 第52-54页 |
| 5.5 本章小结 | 第54-55页 |
| 第6章 基于共享内存的RDD缓存数据空间动态管理技术在Spark平台上的实现 | 第55-69页 |
| 6.1 SMSpark系统架构 | 第55-57页 |
| 6.2 SMSpark系统共享内存空间数据的读写功能实现 | 第57-59页 |
| 6.2.1 共享内存空间内数据读取流程及其模块交互关系 | 第58页 |
| 6.2.2 共享内存空间内数据写入流程及其模块交互关系 | 第58-59页 |
| 6.3 SMSpark系统编程接口的扩充 | 第59-60页 |
| 6.4 SMSpark系统基于RDD缓存数据本地性的任务调度功能实现 | 第60页 |
| 6.5 SMSpark系统RDD缓存数据空间的数据迁移功能实现 | 第60-65页 |
| 6.5.1 迁移数据选取的功能实现 | 第60-63页 |
| 6.5.2 迁移目标节点选取的功能实现 | 第63-65页 |
| 6.5.3 数据迁移功能的实现流程 | 第65页 |
| 6.6 SMSpark系统内存数据空间动态分配功能实现 | 第65-67页 |
| 6.6.1 临时数据空间管理相关数据结构 | 第66页 |
| 6.6.2 临时数据空间使用量周期性采集与预测功能的实现 | 第66-67页 |
| 6.6.3 内存数据空间动态分配功能实现 | 第67页 |
| 6.7 本章小结 | 第67-69页 |
| 第7章 性能测试与分析 | 第69-91页 |
| 7.1 测试负载 | 第69-72页 |
| 7.1.1 单应用负载 | 第69-70页 |
| 7.1.2 多应用负载 | 第70-72页 |
| 7.2 性能评价指标 | 第72-75页 |
| 7.3 测试结果与分析 | 第75-89页 |
| 7.3.1 测试环境 | 第75页 |
| 7.3.2 单应用负载测试结果与性能分析 | 第75-79页 |
| 7.3.3 多应用负载测试结果与性能分析 | 第79-88页 |
| 7.3.4 临时数据空间使用量预测准确度测试结果与性能分析 | 第88-89页 |
| 7.3.5 系统可扩展性测试结果与性能分析 | 第89页 |
| 7.4 本章小结 | 第89-91页 |
| 结论 | 第91-93页 |
| 参考文献 | 第93-97页 |
| 攻读硕士学位期间所发表的学术论文 | 第97-99页 |
| 致谢 | 第99页 |
