摘要 | 第5-6页 |
Abstract | 第6页 |
1. 绪论 | 第12-18页 |
1.1 课题背景及意义 | 第12-13页 |
1.1.1 海量数据的产生 | 第12页 |
1.1.2 研究数据倾斜的意义 | 第12-13页 |
1.2 国内外研究状况 | 第13-15页 |
1.3 本文主要研究的内容 | 第15页 |
1.4 文章组织结构安排 | 第15-18页 |
2. MapReduce相关基础知识及概述 | 第18-38页 |
2.1 Hadoop平台 | 第18-24页 |
2.1.1 产生背景 | 第18页 |
2.1.2 相关组件 | 第18-22页 |
2.1.3 Hadoop的应用 | 第22-23页 |
2.1.4 作用和意义 | 第23-24页 |
2.2 MapReduce介绍 | 第24-30页 |
2.2.1 MapReduce简述 | 第24-27页 |
2.2.2 MapReduce框架 | 第27-30页 |
2.3 理解MapReduce | 第30-32页 |
2.3.1 拓展一个单词计数程序 | 第30-31页 |
2.3.2 相同程序在MapReduce中拓展 | 第31-32页 |
2.4 数据倾斜 | 第32-38页 |
2.4.1 数据倾斜分析 | 第32-35页 |
2.4.2 数据倾斜相关解决方法 | 第35-38页 |
3. 基于Key分区解决数据倾斜问题 | 第38-50页 |
3.1 Hadoop默认分区策略 | 第38-39页 |
3.2 基于key分区策略在Hadoop上的处理流程 | 第39-41页 |
3.3 分区算法 | 第41-46页 |
3.4 Key分区策略在Hadoop上的实现 | 第46-50页 |
4. 实验及结果分析 | 第50-58页 |
4.1 环境配置 | 第50-51页 |
4.1.1 硬软件环境 | 第50页 |
4.1.2 集群的网络环境 | 第50-51页 |
4.2 实验结果分析 | 第51-58页 |
4.2.1 实验评估一 | 第51-55页 |
4.2.2 实验评估二 | 第55-58页 |
5. 总结与展望 | 第58-60页 |
参考文献 | 第60-64页 |
致谢 | 第64-66页 |
作者简介 | 第66页 |