摘要 | 第3-4页 |
Abstract | 第4-5页 |
1 绪论 | 第9-14页 |
1.1 研究背景 | 第9-10页 |
1.2 国内外研究现状 | 第10-12页 |
1.2.1 国外研究现状 | 第10-11页 |
1.2.2 国内研究现状 | 第11-12页 |
1.3 论文的主要工作 | 第12页 |
1.4 论文的结构和安排 | 第12-14页 |
2 海量关系数据处理相关理论与技术 | 第14-23页 |
2.1 海量关系数据特征 | 第14-15页 |
2.2 海量关系数据的预处理 | 第15-18页 |
2.2.1 数据质量的定义 | 第15页 |
2.2.2 数据清洗的定义 | 第15-16页 |
2.2.3 数据清洗的方法与分类 | 第16-18页 |
2.3 海量关系数据的存储与查询 | 第18-20页 |
2.3.1 面向列的关系数据存储 | 第18-19页 |
2.3.2 关系数据的连接查询 | 第19-20页 |
2.4 基于MapReduce的数据处理综述 | 第20-22页 |
2.4.1 主流的大数据计算环境 | 第20-21页 |
2.4.2 基于MapReduce的数据处理 | 第21-22页 |
2.5 本章小结 | 第22-23页 |
3 海量关系数据处理系统设计 | 第23-33页 |
3.1 系统设计思路 | 第23-25页 |
3.2 体系结构 | 第25-26页 |
3.3 关系数据去重处理流程 | 第26-29页 |
3.3.1 关系数据去重简介 | 第26-27页 |
3.3.2 传统关系数据去重技术 | 第27-28页 |
3.3.3 MapReduce关系去重技术 | 第28-29页 |
3.4 关系数据连接查询处理流程 | 第29-32页 |
3.4.1 两表连接查询流程 | 第29-32页 |
3.4.2 多表连接查询流程 | 第32页 |
3.5 本章小结 | 第32-33页 |
4 海量关系数据处理系统优化 | 第33-48页 |
4.1 海量关系数据去重优化 | 第33-38页 |
4.1.1 去重改进思路 | 第33-35页 |
4.1.2 MapReduce的流式处理 | 第35-38页 |
4.2 海量关系数据查询优化 | 第38-47页 |
4.2.1 连接查询的改进思路 | 第38页 |
4.2.2 基于SMapReduce连接查询的优化思路 | 第38-40页 |
4.2.3 连接查询改进后的框架 | 第40-43页 |
4.2.4 两表连接查询处理流程改进 | 第43-44页 |
4.2.5 多表连接查询处理流程改进 | 第44-47页 |
4.3 本章小结 | 第47-48页 |
5 实验及结果分析 | 第48-59页 |
5.1 测试环境和系统 | 第48-50页 |
5.1.1 测试环境 | 第48-50页 |
5.2 去重测试与结果分析 | 第50-53页 |
5.2.1 传统去重与MapReduce去重对比 | 第50-52页 |
5.2.2 改进MapReduce与MapReduce去重对比 | 第52-53页 |
5.3 查询测试与结果分析 | 第53-58页 |
5.3.1 改进MapReduce与MapReduce查询时间对比 | 第53-55页 |
5.3.2 过滤百分比 | 第55-56页 |
5.3.3 改进MapReduce与SMapReduce查询时间对比 | 第56-58页 |
5.4 本章小结 | 第58-59页 |
6 总结与展望 | 第59-61页 |
6.1 工作总结 | 第59页 |
6.2 未来展望 | 第59-61页 |
致谢 | 第61-62页 |
参考文献 | 第62-65页 |
附录1 攻读硕士学位期间参与的项目和发表的论文 | 第65页 |