摘要 | 第3-4页 |
ABSTRACT | 第4页 |
第一章 绪论 | 第9-14页 |
1.1 研究背景及意义 | 第9-11页 |
1.2 国内外研究现状 | 第11-12页 |
1.3 主要研究内容 | 第12-13页 |
1.4 论文结构 | 第13-14页 |
第二章 本文相关技术介绍 | 第14-31页 |
2.1 MapReduce编程模型 | 第14页 |
2.2 Hadoop分布式文件系统 | 第14-20页 |
2.2.1 数据块 | 第15-16页 |
2.2.2 名字节点和数据节点 | 第16-17页 |
2.2.3 HDFS的数据读写操作 | 第17-20页 |
2.3 Hadoop MapReduce介绍 | 第20-25页 |
2.3.1 Hadoop MapReduce作业的生命周期 | 第22-23页 |
2.3.2 Map和Reduce任务 | 第23-25页 |
2.4 Hadoop RPC框架介绍 | 第25-30页 |
2.4.1 Hadoop RPC基本框架 | 第26-29页 |
2.4.2 基于RPC的MapReduce通信协议介绍 | 第29-30页 |
2.5 本章小结 | 第30-31页 |
第三章 细粒度任务并行策略的设计 | 第31-37页 |
3.1 概要 | 第31页 |
3.2 子数据块的设计 | 第31-33页 |
3.3 MapReduce任务的设计 | 第33-36页 |
3.3.1 概要 | 第33-34页 |
3.3.2 Map子任务的设计 | 第34-35页 |
3.3.3 Reduce子任务的设计 | 第35页 |
3.3.4 备份任务的设计 | 第35-36页 |
3.4 Pre-shuffle的设计 | 第36页 |
3.5 本章小结 | 第36-37页 |
第四章 细粒度任务并行策略的实现 | 第37-61页 |
4.1 子数据块的实现 | 第37-46页 |
4.1.1 概述 | 第37-38页 |
4.1.2 流式接口的实现 | 第38-41页 |
4.1.3 子数据块的读操作实现 | 第41-43页 |
4.1.4 子数据块的写操作实现 | 第43-46页 |
4.2 子任务的实现 | 第46-55页 |
4.2.1 Map子任务的实现 | 第47-53页 |
4.2.2 Reduce子任务的实现 | 第53-55页 |
4.3 Pre-shuffle的实现 | 第55-60页 |
4.4 本章小结 | 第60-61页 |
第五章 细粒度任务并行策略的实验评估 | 第61-71页 |
5.1 实验环境的搭建 | 第61-62页 |
5.2 扩展性的实验评估 | 第62-64页 |
5.3 在不同CPU个数下的性能实验评估 | 第64-66页 |
5.4 资源利用率的实验评估 | 第66-70页 |
5.5 Pre-shuffle的实验评估 | 第70页 |
5.6 本章小结 | 第70-71页 |
参考文献 | 第71-75页 |
致谢 | 第75-76页 |
攻读硕士学位期间已发表或录用的论文 | 第76-78页 |