摘要 | 第3-4页 |
abstract | 第4-5页 |
第1章 绪论 | 第8-12页 |
1.1 研究背景与意义 | 第8-9页 |
1.2 研究现状 | 第9-10页 |
1.3 主要工作 | 第10-11页 |
1.4 论文结构 | 第11-12页 |
第2章 相关技术与理论 | 第12-19页 |
2.1 RabbitMQ | 第12-13页 |
2.2 ELK | 第13-15页 |
2.3 Spark | 第15-19页 |
2.3.1 RDD | 第16-17页 |
2.3.2 Spark Streaming | 第17-19页 |
第3章 系统的需求分析与架构设计 | 第19-27页 |
3.1 系统需求分析 | 第19-25页 |
3.1.1 系统概述 | 第19-20页 |
3.1.2 数据采集模块需求 | 第20-21页 |
3.1.3 数据存储模块需求 | 第21-22页 |
3.1.4 数据分析模块需求 | 第22-23页 |
3.1.5 数据展示模块需求 | 第23-24页 |
3.1.6 非功能性需求 | 第24-25页 |
3.2 系统架构设计 | 第25-27页 |
3.2.1 系统功能流程 | 第25页 |
3.2.2 系统物理架构 | 第25-27页 |
第4章 基于随机后缀key计算的Spark性能优化 | 第27-37页 |
4.1 Spark性能优化概述 | 第27-28页 |
4.2 Spark应用程序优化 | 第28-29页 |
4.3 Spark提交参数优化 | 第29-30页 |
4.4 基于随机key后缀的数据倾斜优化 | 第30-37页 |
第5章 模块的设计与实现 | 第37-51页 |
5.1 日志采集模块的设计与实现 | 第38-41页 |
5.2 Spark离线/实时日志分析模块的设计与实现 | 第41-47页 |
5.3 ES日志存储模块的设计与实现 | 第47-48页 |
5.4 Kibana日志展示模块的设计与实现 | 第48-51页 |
第6章 结论与展望 | 第51-53页 |
6.1 结论 | 第51-52页 |
6.2 进一步工作的方向 | 第52-53页 |
致谢 | 第53-54页 |
参考文献 | 第54-56页 |