摘要 | 第8-9页 |
ABSTRACT | 第9-10页 |
第1章 绪论 | 第11-16页 |
1.1 课题背景 | 第11-12页 |
1.2 国内外研究现状 | 第12-14页 |
1.2.1 国外研究现状 | 第12-13页 |
1.2.2 国内研究现状 | 第13-14页 |
1.3 本文主要工作 | 第14页 |
1.4 本文的组织结构 | 第14-16页 |
第2章 需求分析与系统架构 | 第16-23页 |
2.1 总体需求分析 | 第16-17页 |
2.2 系统架构设计 | 第17-20页 |
2.3 系统数据流 | 第20页 |
2.4 系统的业务需求 | 第20-21页 |
2.5 信息管理系统日志分析的业务特征 | 第21-23页 |
第3章 系统设计 | 第23-38页 |
3.1 总体系统设计 | 第23-25页 |
3.1.1 总体数据流向 | 第24页 |
3.1.2 基于hadoop生态体系实现日志分析系统的利弊 | 第24-25页 |
3.2 日志采集部分系统设计 | 第25-28页 |
3.2.1 日志文件内容设计 | 第25-26页 |
3.2.2 Flume实现日志采集 | 第26-27页 |
3.2.3 日志采集部分不同设计方案比较 | 第27-28页 |
3.3 日志存储部分系统设计 | 第28-29页 |
3.4 日志处理部分系统设计 | 第29-35页 |
3.4.1 MapReduce预处理日志数据 | 第30-32页 |
3.4.2 利用Hive对数据进行逻辑处理 | 第32-33页 |
3.4.3 Hive实现系统的横向扩展 | 第33-34页 |
3.4.4 Hive实现预处理结果存储与传统关系型数据库实现方式的比较 | 第34-35页 |
3.5 日志处理结果存储部分系统设计 | 第35-36页 |
3.6 结果展示部分系统设计 | 第36-38页 |
第4章 系统实现 | 第38-66页 |
4.1 日志采集部分系统实现 | 第38-44页 |
4.1.1 配置tomcat日志格式 | 第38-43页 |
4.1.2 配置Flume组件 | 第43-44页 |
4.2 日志存储部分系统实现 | 第44-45页 |
4.3 日志处理部分系统实现 | 第45-52页 |
4.3.1 MapReduce实现日志的预处理 | 第45-49页 |
4.3.2 Hive实现日志的预处理结果的存储 | 第49-52页 |
4.4 日志处理结果存储部分实现 | 第52-54页 |
4.5 结果展示部分系统实现 | 第54-66页 |
4.5.1 系统访问流量模块业务实现 | 第55-58页 |
4.5.2 系统访问时序模块业务实现 | 第58-61页 |
4.5.3 系统异常种类分析模块业务实现 | 第61-62页 |
4.5.4 系统访问热门模块与系统访问人员构成模块业务实现 | 第62-66页 |
第5章 总结与展望 | 第66-67页 |
参考文献 | 第67-69页 |
致谢 | 第69-70页 |
学位论文评阅及答辩情况表 | 第70页 |