摘要 | 第5-7页 |
Abstract | 第7-8页 |
第1章 绪论 | 第11-15页 |
1.1 研究背景及意义 | 第11-12页 |
1.2 国内外研究现状 | 第12-13页 |
1.3 论文的主要内容 | 第13页 |
1.4 论文的组织结构 | 第13-15页 |
第2章 Hadoop技术研究 | 第15-24页 |
2.1 Hadoop概述 | 第15页 |
2.2 HDFS详解 | 第15-19页 |
2.2.1 HDFS的设计目标 | 第15-16页 |
2.2.2 HDFS体系结构 | 第16-19页 |
2.3 MapReduce详解 | 第19-23页 |
2.3.1 MapReduce框架结构 | 第20-21页 |
2.3.2 MapReduce作业流程 | 第21-23页 |
2.4 本章小结 | 第23-24页 |
第3章 基于MapReduce的连接算法介绍 | 第24-29页 |
3.1 连接 | 第24-25页 |
3.1.1 连接的定义 | 第24页 |
3.1.2 MapRedcue下的连接 | 第24-25页 |
3.2 map-join算法 | 第25-26页 |
3.2.1 广播算法 | 第26页 |
3.2.2 半连接算法 | 第26页 |
3.3 reduce-join算法 | 第26-28页 |
3.3.1 标准重分区连接算法 | 第27页 |
3.3.2 改进重分区连接算法 | 第27页 |
3.3.3 域分区连接算法 | 第27-28页 |
3.4 本章小结 | 第28-29页 |
第4章 基于MapReduce的数据倾斜连接算法 | 第29-38页 |
4.1 MapReduce框架下的数据倾斜 | 第29页 |
4.2 基于直方图的数据分类 | 第29-33页 |
4.2.1 直方图介绍 | 第30-31页 |
4.2.2 基于直方图的数据分类 | 第31-33页 |
4.3 基于数据分类的连接算法 | 第33-35页 |
4.3.1 数据分发机制 | 第33-34页 |
4.3.2 基于MapReduce的连接算法 | 第34-35页 |
4.4 FC-Join算法分析 | 第35-37页 |
4.5 本章小结 | 第37-38页 |
第5章 实验验证与结果分析 | 第38-43页 |
5.1 实验环境 | 第38-39页 |
5.2 实验结果及分析 | 第39-42页 |
5.2.1 倾斜度对执行时间的影响 | 第39页 |
5.2.2 倾斜度对shuffle阶段网络数据传输量的影响 | 第39-40页 |
5.2.3 数据规模对执行时间的影响 | 第40-41页 |
5.2.4 reduce个数对执行时间的影响 | 第41-42页 |
5.3 本章小结 | 第42-43页 |
总结与展望 | 第43-45页 |
参考文献 | 第45-48页 |
附录:攻读硕士学位期间撰写的学术论文 | 第48-49页 |
致谢 | 第49页 |