摘要 | 第3-5页 |
Abstract | 第5-6页 |
第1章 引言 | 第10-21页 |
1.1 研究背景 | 第10-12页 |
1.2 Hadoop Map Reduce及HDFS概述 | 第12-15页 |
1.2.1 Hadoop HDFS文件系统概述 | 第12-13页 |
1.2.2 Hadoop Map Reduce概述 | 第13-15页 |
1.3 本文研究领域与面临的主要挑战 | 第15-18页 |
1.3.1 Map Reduce在异构集群中的适用性 | 第15-16页 |
1.3.2 Map Reduce在倾斜输入数据的适用性 | 第16-17页 |
1.3.3 Map Reduce在众核集群中的扩展性 | 第17-18页 |
1.4 本文的主要贡献 | 第18-19页 |
1.4.1 异构集群中基于计算能力感知的数据分布 | 第19页 |
1.4.2 基于倾斜缓和及智能资源调度的Map Reduce优化 | 第19页 |
1.4.3 众核集群中基于混合存储系统的Map Reduce优化 | 第19页 |
1.5 论文的组织和各章内容简介 | 第19-21页 |
第2章 研究现状与相关工作 | 第21-28页 |
2.1 并行计算框架 | 第21-24页 |
2.1.1 MPI并行计算框架 | 第21-22页 |
2.1.2 类Map Reduce并行计算框架 | 第22页 |
2.1.3 Dryad并行计算框架 | 第22页 |
2.1.4 图计算并行计算框架 | 第22-23页 |
2.1.5 迭代式内存并行计算框架 | 第23页 |
2.1.6 流式并行计算框架 | 第23-24页 |
2.2 异构集群上的Map Reduce优化 | 第24-25页 |
2.2.1 基于数据分布的Map Reduce优化 | 第24页 |
2.2.2 基于任务调度的Map Reduce优化 | 第24-25页 |
2.3 倾斜输入数据Map Reduce优化 | 第25-27页 |
2.3.1 并行系统中的倾斜 | 第25页 |
2.3.2 Map Reduce中的倾斜 | 第25-27页 |
2.4 众核集群上的Map Reduce优化 | 第27-28页 |
2.4.1 众核服务器上的Map Reduce优化 | 第27页 |
2.4.2 基于内存缓存的Map Reduce优化 | 第27页 |
2.4.3 基于SSD缓存的IO优化 | 第27-28页 |
第3章 异构集群中基于计算能力感知的数据分布 | 第28-50页 |
3.1 本章概述 | 第28-29页 |
3.2 异构集群中Map Reduce性能低下的原因 | 第29-30页 |
3.3 系统设计 | 第30-38页 |
3.3.1 计算能力定义 | 第31页 |
3.3.2 计算能力测定 | 第31-35页 |
3.3.3 基于计算能力的数据分布 | 第35-38页 |
3.4 性能测评 | 第38-45页 |
3.4.1 测试平台参数 | 第38页 |
3.4.2 测试用例 | 第38-39页 |
3.4.3 实验结果 | 第39-45页 |
3.5 本章讨论 | 第45-48页 |
3.5.1 Act Cap可用性 | 第45-47页 |
3.5.2 Act Cap的局限性 | 第47-48页 |
3.6 本章小结 | 第48-50页 |
第4章 基于倾斜缓和及智能资源调度的Map Reduce优化 | 第50-72页 |
4.1 本章概述 | 第50-52页 |
4.2 Map Reduce倾斜输入数据性能低下的原因 | 第52-54页 |
4.2.1 Reduce子任务间倾斜 | 第52-53页 |
4.2.2 数据传输开销 | 第53-54页 |
4.3 系统设计 | 第54-60页 |
4.3.1 基于复杂度Key分布 | 第55-58页 |
4.3.2 本地感知Reducer选择 | 第58页 |
4.3.3 全Mapper执行 | 第58-59页 |
4.3.4 Shuffle类型感知调控 | 第59-60页 |
4.4 性能测评 | 第60-68页 |
4.4.1 实验平台 | 第60页 |
4.4.2 测试用例 | 第60页 |
4.4.3 实验结果 | 第60-68页 |
4.5 本章讨论 | 第68-71页 |
4.5.1 Skew--可用性 | 第69-70页 |
4.5.2 Skew--的局限性 | 第70-71页 |
4.6 本章小结 | 第71-72页 |
第5章 众核集群中基于混合存储系统的Map Reduce优化 | 第72-92页 |
5.1 本章概述 | 第72-74页 |
5.2 Map Reduce在众核集群上的性能瓶颈 | 第74-75页 |
5.3 系统设计 | 第75-79页 |
5.3.1 空间分配优化 | 第76-78页 |
5.3.2 输入数据缓存模型 | 第78-79页 |
5.4 性能测评 | 第79-90页 |
5.4.1 实验平台 | 第79-81页 |
5.4.2 测试用例 | 第81-82页 |
5.4.3 实验结果 | 第82-90页 |
5.5 本章小结 | 第90-92页 |
第6章 总结与展望 | 第92-96页 |
6.1 研究工作总结 | 第92-94页 |
6.1.1 异构集群中Map Reduce优化 | 第92-93页 |
6.1.2 倾斜输入数据Map Reduce优化 | 第93页 |
6.1.3 众核集群中的Map Reduce优化 | 第93-94页 |
6.2 研究工作展望 | 第94-96页 |
参考文献 | 第96-104页 |
致谢 | 第104-106页 |
个人简历、在学期间发表的学术论文与研究成果 | 第106-107页 |