摘要 | 第4-5页 |
ABSTRACT | 第5-6页 |
第一章 绪论 | 第9-15页 |
1.1 选题背景与意义 | 第9页 |
1.2 国内外研究现状 | 第9-12页 |
1.2.1 日志分析技术的研究现状 | 第10-11页 |
1.2.2 实时流处理技术的研究现状 | 第11页 |
1.2.3 研究中存在的一些缺陷和不完善之处 | 第11-12页 |
1.3 研究内容与论文工作 | 第12-14页 |
1.4 论文章节安排 | 第14-15页 |
第二章 相关理论技术 | 第15-25页 |
2.1 Kafka消息系统技术 | 第15-17页 |
2.2 Storm实时分析处理技术 | 第17-22页 |
2.2.1 Storm分布式计算框架相关技术 | 第18-20页 |
2.2.2 Storm基于滑动窗口模型的数据流处理模式 | 第20-21页 |
2.2.3 Storm的自适应动态流控制算法 | 第21页 |
2.2.4 Storm计算拓扑任务的提交与执行 | 第21-22页 |
2.3 Spring MVC框架 | 第22页 |
2.4 Zookeeper分布式服务框架 | 第22-24页 |
2.5 本章小结 | 第24-25页 |
第三章 海量日志数据实时分析系统的总体设计 | 第25-33页 |
3.1 系统功能需求分析 | 第25-27页 |
3.2 系统架构设计与模块设计 | 第27-32页 |
3.2.1 总体架构设计 | 第27-28页 |
3.2.2 分布式日志采集模块 | 第28-29页 |
3.2.3 异步通信模块设计 | 第29-30页 |
3.2.4 日志数据实时计算模块 | 第30-31页 |
3.2.5 集群运行监控模块 | 第31页 |
3.2.6 结果存储模块 | 第31-32页 |
3.2.7 结果可视化模块 | 第32页 |
3.3 本章小结 | 第32-33页 |
第四章 海量日志数据实时分析系统的实现 | 第33-46页 |
4.1 系统后端模块数据处理流程 | 第33-34页 |
4.2 海量日志数据数据实时计算模块 | 第34-40页 |
4.2.1 Storm自适应动态流控制算法 | 第35-36页 |
4.2.2 Storm处理日志数据高可靠性的实现 | 第36页 |
4.2.3 Storm Scheduler自定义调度器 | 第36-39页 |
4.2.4 基于复合滑动窗口拓扑的实现 | 第39-40页 |
4.3 数据实时处理结果的可视化模块和结果存储模块的实现 | 第40-43页 |
4.3.1 结果可视化模块与结果存储模块简介 | 第40-41页 |
4.3.2 系统前端模块用户请求处理流程 | 第41-43页 |
4.4 运行监控模块的实现 | 第43-45页 |
4.4.1 系统集群信息监控进程的实现 | 第43-44页 |
4.4.2 系统异常报警进程的实现 | 第44-45页 |
4.5 本章小结 | 第45-46页 |
第五章 海量网络日志数据实时分析测试与评价 | 第46-55页 |
5.1 测试环境 | 第46-47页 |
5.1.1 开发环境 | 第46页 |
5.1.2 运行环境 | 第46-47页 |
5.2 日志实时流处理功能测试 | 第47-50页 |
5.2.1 功能测试方案 | 第47-48页 |
5.2.2 功能测试结果 | 第48-50页 |
5.3 日志实时流处理性能测试 | 第50-54页 |
5.3.1 Storm拓扑中两种处理模式的测试对比 | 第50-52页 |
5.3.2 Kafka消息系统性能优化设计与测试 | 第52-53页 |
5.3.3 Storm自定义任务调度算法与默认调度算法对比 | 第53-54页 |
5.4 本章小结 | 第54-55页 |
第六章 总结与展望 | 第55-57页 |
6.1 工作总结 | 第55-56页 |
6.2 研究展望 | 第56-57页 |
参考文献 | 第57-59页 |
致谢 | 第59-60页 |
攻读学位期间发表的学术论文 | 第60页 |