| 摘要 | 第3-5页 |
| Abstract | 第5-6页 |
| 第1章 引言 | 第10-21页 |
| 1.1 研究背景 | 第10-12页 |
| 1.2 Hadoop Map Reduce及HDFS概述 | 第12-15页 |
| 1.2.1 Hadoop HDFS文件系统概述 | 第12-13页 |
| 1.2.2 Hadoop Map Reduce概述 | 第13-15页 |
| 1.3 本文研究领域与面临的主要挑战 | 第15-18页 |
| 1.3.1 Map Reduce在异构集群中的适用性 | 第15-16页 |
| 1.3.2 Map Reduce在倾斜输入数据的适用性 | 第16-17页 |
| 1.3.3 Map Reduce在众核集群中的扩展性 | 第17-18页 |
| 1.4 本文的主要贡献 | 第18-19页 |
| 1.4.1 异构集群中基于计算能力感知的数据分布 | 第19页 |
| 1.4.2 基于倾斜缓和及智能资源调度的Map Reduce优化 | 第19页 |
| 1.4.3 众核集群中基于混合存储系统的Map Reduce优化 | 第19页 |
| 1.5 论文的组织和各章内容简介 | 第19-21页 |
| 第2章 研究现状与相关工作 | 第21-28页 |
| 2.1 并行计算框架 | 第21-24页 |
| 2.1.1 MPI并行计算框架 | 第21-22页 |
| 2.1.2 类Map Reduce并行计算框架 | 第22页 |
| 2.1.3 Dryad并行计算框架 | 第22页 |
| 2.1.4 图计算并行计算框架 | 第22-23页 |
| 2.1.5 迭代式内存并行计算框架 | 第23页 |
| 2.1.6 流式并行计算框架 | 第23-24页 |
| 2.2 异构集群上的Map Reduce优化 | 第24-25页 |
| 2.2.1 基于数据分布的Map Reduce优化 | 第24页 |
| 2.2.2 基于任务调度的Map Reduce优化 | 第24-25页 |
| 2.3 倾斜输入数据Map Reduce优化 | 第25-27页 |
| 2.3.1 并行系统中的倾斜 | 第25页 |
| 2.3.2 Map Reduce中的倾斜 | 第25-27页 |
| 2.4 众核集群上的Map Reduce优化 | 第27-28页 |
| 2.4.1 众核服务器上的Map Reduce优化 | 第27页 |
| 2.4.2 基于内存缓存的Map Reduce优化 | 第27页 |
| 2.4.3 基于SSD缓存的IO优化 | 第27-28页 |
| 第3章 异构集群中基于计算能力感知的数据分布 | 第28-50页 |
| 3.1 本章概述 | 第28-29页 |
| 3.2 异构集群中Map Reduce性能低下的原因 | 第29-30页 |
| 3.3 系统设计 | 第30-38页 |
| 3.3.1 计算能力定义 | 第31页 |
| 3.3.2 计算能力测定 | 第31-35页 |
| 3.3.3 基于计算能力的数据分布 | 第35-38页 |
| 3.4 性能测评 | 第38-45页 |
| 3.4.1 测试平台参数 | 第38页 |
| 3.4.2 测试用例 | 第38-39页 |
| 3.4.3 实验结果 | 第39-45页 |
| 3.5 本章讨论 | 第45-48页 |
| 3.5.1 Act Cap可用性 | 第45-47页 |
| 3.5.2 Act Cap的局限性 | 第47-48页 |
| 3.6 本章小结 | 第48-50页 |
| 第4章 基于倾斜缓和及智能资源调度的Map Reduce优化 | 第50-72页 |
| 4.1 本章概述 | 第50-52页 |
| 4.2 Map Reduce倾斜输入数据性能低下的原因 | 第52-54页 |
| 4.2.1 Reduce子任务间倾斜 | 第52-53页 |
| 4.2.2 数据传输开销 | 第53-54页 |
| 4.3 系统设计 | 第54-60页 |
| 4.3.1 基于复杂度Key分布 | 第55-58页 |
| 4.3.2 本地感知Reducer选择 | 第58页 |
| 4.3.3 全Mapper执行 | 第58-59页 |
| 4.3.4 Shuffle类型感知调控 | 第59-60页 |
| 4.4 性能测评 | 第60-68页 |
| 4.4.1 实验平台 | 第60页 |
| 4.4.2 测试用例 | 第60页 |
| 4.4.3 实验结果 | 第60-68页 |
| 4.5 本章讨论 | 第68-71页 |
| 4.5.1 Skew--可用性 | 第69-70页 |
| 4.5.2 Skew--的局限性 | 第70-71页 |
| 4.6 本章小结 | 第71-72页 |
| 第5章 众核集群中基于混合存储系统的Map Reduce优化 | 第72-92页 |
| 5.1 本章概述 | 第72-74页 |
| 5.2 Map Reduce在众核集群上的性能瓶颈 | 第74-75页 |
| 5.3 系统设计 | 第75-79页 |
| 5.3.1 空间分配优化 | 第76-78页 |
| 5.3.2 输入数据缓存模型 | 第78-79页 |
| 5.4 性能测评 | 第79-90页 |
| 5.4.1 实验平台 | 第79-81页 |
| 5.4.2 测试用例 | 第81-82页 |
| 5.4.3 实验结果 | 第82-90页 |
| 5.5 本章小结 | 第90-92页 |
| 第6章 总结与展望 | 第92-96页 |
| 6.1 研究工作总结 | 第92-94页 |
| 6.1.1 异构集群中Map Reduce优化 | 第92-93页 |
| 6.1.2 倾斜输入数据Map Reduce优化 | 第93页 |
| 6.1.3 众核集群中的Map Reduce优化 | 第93-94页 |
| 6.2 研究工作展望 | 第94-96页 |
| 参考文献 | 第96-104页 |
| 致谢 | 第104-106页 |
| 个人简历、在学期间发表的学术论文与研究成果 | 第106-107页 |