| 致谢 | 第5-6页 |
| 摘要 | 第6-7页 |
| ABSTRACT | 第7-8页 |
| 1 引言 | 第11-15页 |
| 1.1 研究背景 | 第11-12页 |
| 1.2 研究现状 | 第12-13页 |
| 1.3 论文研究内容 | 第13页 |
| 1.4 论文组织结构 | 第13-15页 |
| 2 Spark SQL连接优化的相关理论与技术 | 第15-23页 |
| 2.1 分布式文件系统HDFS | 第15-16页 |
| 2.2 分布式计算框架Spark | 第16-17页 |
| 2.3 结构化数据处理模块Spark SQL | 第17-18页 |
| 2.4 布隆过滤器Bloom Filter | 第18-19页 |
| 2.5 直方图 | 第19-21页 |
| 2.6 本章小结 | 第21-23页 |
| 3 Spark普通大表连接的优化 | 第23-35页 |
| 3.1 问题描述 | 第23-24页 |
| 3.2 CBF Join算法描述 | 第24-26页 |
| 3.3 CBF Join算法实现 | 第26-29页 |
| 3.3.1 位数组生成 | 第26-28页 |
| 3.3.2 过滤与连接 | 第28-29页 |
| 3.4 CBF Join算法分析 | 第29-33页 |
| 3.4.1 实现代价分析 | 第29-32页 |
| 3.4.2 应用场景分析 | 第32-33页 |
| 3.5 本章小结 | 第33-35页 |
| 4 针对数据量未知的Spark大表连接优化 | 第35-43页 |
| 4.1 问题描述 | 第35页 |
| 4.2 SBF Join算法描述 | 第35-37页 |
| 4.3 SBF Join算法实现 | 第37-39页 |
| 4.3.1 位数组生成 | 第37-39页 |
| 4.3.2 过滤与连接 | 第39页 |
| 4.4 SBF Join算法分析 | 第39-42页 |
| 4.4.1 实现代价分析 | 第39-41页 |
| 4.4.2 应用场景分析 | 第41-42页 |
| 4.5 本章小结 | 第42-43页 |
| 5 针对数据倾斜的Spark大表连接优化 | 第43-53页 |
| 5.1 问题描述 | 第43页 |
| 5.2 Skew Join算法描述 | 第43-46页 |
| 5.3 Skew Join算法实现 | 第46-49页 |
| 5.3.1 倾斜key处理 | 第46-48页 |
| 5.3.2 连接与合并 | 第48-49页 |
| 5.4 Skew Join算法分析 | 第49-52页 |
| 5.4.1 实现代价分析 | 第49-51页 |
| 5.4.2 应用场景分析 | 第51-52页 |
| 5.5 本章小结 | 第52-53页 |
| 6 实验验证 | 第53-67页 |
| 6.1 实验方法与目的 | 第53页 |
| 6.2 实验环境 | 第53-54页 |
| 6.3 实验设计与准备 | 第54-55页 |
| 6.4 实验对比分析与应用 | 第55-66页 |
| 6.4.1 Spark与Hadoop对比实验 | 第55-56页 |
| 6.4.2 Spark普通等值连接优化实验与应用 | 第56-60页 |
| 6.4.3 Spark数据量未知等值连接优化实验与应用 | 第60-63页 |
| 6.4.4 Spark数据倾斜等值连接优化实验与应用 | 第63-66页 |
| 6.5 本章小结 | 第66-67页 |
| 7 总结与展望 | 第67-71页 |
| 7.1 本文小结 | 第67-68页 |
| 7.2 研究展望 | 第68-71页 |
| 参考文献 | 第71-73页 |
| 作者简历及攻读硕士/博士学位期间取得的研究成果 | 第73-77页 |
| 学位论文数据集 | 第77页 |