摘要 | 第5-6页 |
Abstract | 第6页 |
第一章 引言 | 第9-15页 |
1.1 研究背景 | 第9-11页 |
1.2 研究现状 | 第11-13页 |
1.3 本文贡献 | 第13页 |
1.4 论文组织结构 | 第13-14页 |
1.5 本章小结 | 第14-15页 |
第二章 相关技术介绍 | 第15-23页 |
2.1 HDFS介绍 | 第15-18页 |
2.1.1 HDFS系统架构 | 第15-16页 |
2.1.2 HDFS关键问题 | 第16-18页 |
2.2 Spark介绍 | 第18-21页 |
2.2.1 Spark设计思想 | 第18-19页 |
2.2.2 Spark生态系统介绍 | 第19-20页 |
2.2.3 Spark Join实例分析 | 第20-21页 |
2.3 BloomFilter原理 | 第21-22页 |
2.4 本章小结 | 第22-23页 |
第三章 基于BloomFilter的Spark大表关联的优化 | 第23-34页 |
3.1 问题描述 | 第23-24页 |
3.2 算法描述与实现 | 第24-29页 |
3.2.1 算法架构 | 第24-26页 |
3.2.2 位数组生成 | 第26-28页 |
3.2.3 数据表过滤与连接 | 第28-29页 |
3.3 算法分析 | 第29-33页 |
3.3.1 代价分析 | 第29-32页 |
3.3.2 适用场景分析 | 第32-33页 |
3.4 本章小结 | 第33-34页 |
第四章Spark计算框架在网络流量数据分析的应用研究 | 第34-43页 |
4.1 当前流量分析系统的缺陷 | 第34-35页 |
4.2 Spark在NetFlow大数据处理的可行性分析 | 第35-36页 |
4.3 基于Spark的网络流量分析系统架构 | 第36-37页 |
4.4 分布式存储层设计 | 第37-38页 |
4.5 分布式计算层设计 | 第38-42页 |
4.5.1 网络流量分析系统需求 | 第38-39页 |
4.5.2 NetFlow批量数据处理设计 | 第39-41页 |
4.5.3 NetFlow流式数据处理设计 | 第41-42页 |
4.6 本章小结 | 第42-43页 |
第五章 实验与评价 | 第43-50页 |
5.1 实验方法与目的 | 第43页 |
5.2 实验环境 | 第43-45页 |
5.2.1 实验配置 | 第43-44页 |
5.2.2 实验数据 | 第44-45页 |
5.3 实验任务 | 第45页 |
5.4 实验结果与分析 | 第45-49页 |
5.4.1 实验一:Spark大表等值连接优化实验 | 第45-48页 |
5.4.2 实验二:Spark与Mapreduce性能对比实验 | 第48-49页 |
5.5 本章小结 | 第49-50页 |
第六章 总结与展望 | 第50-52页 |
6.1 本文总结 | 第50页 |
6.2 展望 | 第50-52页 |
参考文献 | 第52-54页 |
攻读硕士学位期间取得的研究成果 | 第54-55页 |
致谢 | 第55-56页 |
附件 | 第56页 |