摘要 | 第8-9页 |
Abstract | 第9页 |
1 绪论 | 第10-15页 |
1.1 研究背景、目的及意义 | 第10-11页 |
1.2 研究现状 | 第11-13页 |
1.3 本文的主要工作及结构 | 第13-15页 |
2 相关技术介绍 | 第15-23页 |
2.1 数据采集系统Flume | 第15-16页 |
2.2 消息系统Kafka | 第16-18页 |
2.3 实时计算平台Storm | 第18-20页 |
2.4 其他 | 第20-22页 |
2.4.1 Redis | 第20页 |
2.4.2 Zookeeper | 第20-21页 |
2.4.3 Superviosr | 第21页 |
2.4.4 Zabbix | 第21-22页 |
2.5 本章小结 | 第22-23页 |
3 分布式实时日志处理系统的设计 | 第23-34页 |
3.1 系统需求与整体架构设计 | 第23-25页 |
3.2 对外服务模块和监控与守护模块 | 第25页 |
3.3 采集模块 | 第25-28页 |
3.4 发布-订阅与存储模块 | 第28-30页 |
3.4.1 Producer | 第28-29页 |
3.4.2 Broker | 第29-30页 |
3.4.3 Consumer | 第30页 |
3.5 实时处理模块 | 第30-32页 |
3.5.1 数据读取模块 | 第30页 |
3.5.2 分布式实时计算模块 | 第30页 |
3.5.3 热切换模块 | 第30-32页 |
3.6 本章小结 | 第32-34页 |
4 基于Storm的流数据KNN分类算法 | 第34-41页 |
4.1 KNN分类算法简介 | 第34-35页 |
4.2 基于Storm的流数据KNN分类算法的分析与设计 | 第35-38页 |
4.3 基于Storm的流数据KNN分类算法的实现 | 第38-40页 |
4.3.1 数据输入模块 | 第38页 |
4.3.2 片集相似度计算模块 | 第38-39页 |
4.3.3 整体相似度计算模块 | 第39-40页 |
4.3.4 统计所属类别及输出模块 | 第40页 |
4.4 本章小结 | 第40-41页 |
5 实验验证与结果分析 | 第41-45页 |
5.1 分布式实时处理系统的验证与分析 | 第41-42页 |
5.2 S-KNN算法的验证与分析 | 第42-44页 |
5.3 本章小结 | 第44-45页 |
6 总结与展望 | 第45-46页 |
6.1 工作总结 | 第45页 |
6.2 工作展望 | 第45-46页 |
7 参考文献 | 第46-50页 |
8 攻读硕士学位期间发表的论文 | 第50-51页 |
致谢 | 第51页 |