基于ELK Stack的实时日志分析系统的设计与实现
摘要 | 第5-7页 |
ABSTRACT | 第7-8页 |
第一章 绪论 | 第12-20页 |
1.1 研究背景及意义 | 第12-14页 |
1.2 研究现状 | 第14-16页 |
1.2.1 国内研究现状 | 第14-15页 |
1.2.2 国外研究现状 | 第15-16页 |
1.3 论文主要工作 | 第16-18页 |
1.4 论文组织结构 | 第18页 |
1.5 本章小结 | 第18-20页 |
第二章 相关技术介绍 | 第20-32页 |
2.1 大数据处理技术 | 第20-22页 |
2.1.1 批处理技术概述 | 第20-21页 |
2.1.2 实时流处理技术介绍 | 第21-22页 |
2.2 ELK Stack技术栈 | 第22-24页 |
2.2.1 Elasticsearch介绍 | 第23-24页 |
2.2.2 Logstash介绍 | 第24页 |
2.2.3 Kibana介绍 | 第24页 |
2.3 Storm实时处理技术 | 第24-27页 |
2.3.1 Storm架构设计 | 第25页 |
2.3.2 Storm抽象组件 | 第25-26页 |
2.3.3 Storm数据处理模型 | 第26-27页 |
2.4 Kafka技术 | 第27-28页 |
2.5 Nutz框架 | 第28-29页 |
2.6 Zookeeper介绍 | 第29-30页 |
2.7 本章小结 | 第30-32页 |
第三章 日志分析系统的总体设计 | 第32-44页 |
3.1 日志分析系统的需求分析 | 第32-34页 |
3.1.1 功能性需求分析 | 第32-33页 |
3.1.2 非功能性需求分析 | 第33-34页 |
3.2 日志分析系统的整体设计 | 第34-36页 |
3.2.1 日志分析系统的目标 | 第34页 |
3.2.2 日志分析系统的架构设计 | 第34-35页 |
3.2.3 日志分析系统的业务流程 | 第35-36页 |
3.3 日志分析系统的模块设计 | 第36-40页 |
3.3.1 分布式日志采集模块 | 第36-37页 |
3.3.2 消息发布/订阅模块 | 第37页 |
3.3.3 实时计算模块 | 第37-38页 |
3.3.4 分布式数据存储模块 | 第38-39页 |
3.3.5 数据可视化模块 | 第39-40页 |
3.4 日志分析系统的数据格式设计 | 第40-42页 |
3.4.1 原始日志格式设计 | 第40-41页 |
3.4.2 结果数据格式设计 | 第41-42页 |
3.5 本章小结 | 第42-44页 |
第四章 日志分析系统的详细设计与实现 | 第44-58页 |
4.1 分布式日志采集模块的设计与实现 | 第44-47页 |
4.1.1 分布式日志采集模块的详细设计 | 第44-45页 |
4.1.2 分布式日志采集模块的实现 | 第45-47页 |
4.2 消息发布/订阅模块的设计与实现 | 第47-49页 |
4.2.1 消息发布/订阅模块的详细设计 | 第47-48页 |
4.2.2 消息发布/订阅模块的实现 | 第48-49页 |
4.3 实时计算模块的设计与实现 | 第49-57页 |
4.3.1 实时计算模块的详细设计 | 第49-52页 |
4.3.2 输入源节点的实现 | 第52-53页 |
4.3.3 预处理节点的实现 | 第53-55页 |
4.3.4 日志计算节点的实现 | 第55-56页 |
4.3.5 结果存储节点的实现 | 第56-57页 |
4.4 分布式数据存储模块的设计与实现 | 第57页 |
4.5 本章小结 | 第57-58页 |
第五章 数据可视化与系统测试 | 第58-72页 |
5.1 数据可视化模块的整体设计 | 第58页 |
5.2 原始日志可视化 | 第58-59页 |
5.3 日志分析结果可视化 | 第59-67页 |
5.3.1 结果可视化Web服务的设计 | 第59-62页 |
5.3.2 结果可视化Web服务的实现 | 第62-65页 |
5.3.3 日志分析结果展示 | 第65-67页 |
5.4 系统测试与性能分析 | 第67-70页 |
5.4.1 系统测试环境 | 第67-69页 |
5.4.2 系统测试结果 | 第69页 |
5.4.3 系统性能分析 | 第69-70页 |
5.5 本章小结 | 第70-72页 |
第六章 总结与展望 | 第72-74页 |
6.1 全文总结 | 第72页 |
6.2 工作展望 | 第72-74页 |
参考文献 | 第74-78页 |
致谢 | 第78页 |