摘要 | 第4-5页 |
Abstract | 第5页 |
第1章 绪论 | 第11-15页 |
1.1 课题背景 | 第11-12页 |
1.2 本文工作 | 第12-13页 |
1.3 论文结构 | 第13-15页 |
第2章 相关技术 | 第15-26页 |
2.1 MapReduce计算模型 | 第15-16页 |
2.2 Hadoop MapReduce | 第16-20页 |
2.2.1 MapReduce v1 | 第18-19页 |
2.2.2 MapReduce v2 | 第19-20页 |
2.3 大数据处理技术 | 第20-23页 |
2.4 ETL技术 | 第23-25页 |
2.5 本章小结 | 第25-26页 |
第3章 系统架构 | 第26-41页 |
3.1 Easy Wrangling系统概述 | 第26-28页 |
3.2 Easy Wrangling脚本执行引擎架构 | 第28-29页 |
3.3 数据模型 | 第29-31页 |
3.4 数据操作 | 第31-39页 |
3.4.1 基础转换操作 | 第32-37页 |
3.4.2 高级转换操作 | 第37-39页 |
3.5 本章小结 | 第39-41页 |
第4章 脚本执行流程 | 第41-48页 |
4.1 执行流程概述 | 第41页 |
4.2 数据转换脚本 | 第41-42页 |
4.3 执行计划树 | 第42-44页 |
4.4 MapReduce作业的生成 | 第44-47页 |
4.4.1 数据操作的MapReduce实现 | 第45-47页 |
4.5 本章小结 | 第47-48页 |
第5章 性能优化 | 第48-62页 |
5.1 单个数据转换脚本的执行优化 | 第48-52页 |
5.1.1 操作下推 | 第48页 |
5.1.2 操作合并 | 第48-51页 |
5.1.3 连接优化 | 第51-52页 |
5.2 多个数据转换脚本的执行优化 | 第52-61页 |
5.2.1 执行计划图构建 | 第53-55页 |
5.2.2 基于输入共享的数据操作合并 | 第55-59页 |
5.2.3 运行时执行计划优化器 | 第59-61页 |
5.3 本章小结 | 第61-62页 |
第6章 实验 | 第62-73页 |
6.1 实验说明 | 第62页 |
6.2 实验环境 | 第62-63页 |
6.3 实验数据 | 第63-64页 |
6.4 综合比较 | 第64-65页 |
6.5 性能优化实验 | 第65-67页 |
6.5.1 单个数据转换脚本执行 | 第66页 |
6.5.2 多个数据转换脚本执行 | 第66-67页 |
6.6 实验结果分析 | 第67-72页 |
6.6.1 单个数据转换脚本执行 | 第67-69页 |
6.6.2 多个数据转换脚本执行 | 第69-72页 |
6.7 本章小结 | 第72-73页 |
第7章 总结与展望 | 第73-75页 |
7.1 总结 | 第73-74页 |
7.2 展望 | 第74-75页 |
参考文献 | 第75-78页 |
攻读硕士学位期间的主要研究成果 | 第78-79页 |
致谢 | 第79页 |