云平台下日志分析系统的设计与实现
摘要 | 第4-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-14页 |
1.1 研究背景 | 第10-12页 |
1.2 研究内容 | 第12页 |
1.3 本文结构 | 第12-14页 |
第二章 相关技术介绍 | 第14-23页 |
2.1 日志分析 | 第14页 |
2.2 云计算 | 第14-15页 |
2.3 分布式计算技术 | 第15-20页 |
2.3.1 Hadoop | 第15-17页 |
2.3.2 Spark | 第17-20页 |
2.4 平台数据仓库 | 第20-22页 |
2.4.1 Hive | 第21页 |
2.4.2 Shark | 第21-22页 |
2.5 本章小结 | 第22-23页 |
第三章 日志分析系统的云平台层设计 | 第23-34页 |
3.1 框架对比分析 | 第23-24页 |
3.2 资源管理层YARN | 第24-27页 |
3.3 云平台设计 | 第27-28页 |
3.4 云平台搭建 | 第28-33页 |
3.5 本章小结 | 第33-34页 |
第四章 日志分析系统的设计与实现 | 第34-52页 |
4.1 需求分析 | 第34-35页 |
4.2 系统架构设计 | 第35-36页 |
4.3 数据处理流程 | 第36-37页 |
4.4 数据模型设计 | 第37-43页 |
4.4.1 原始日志数据类型 | 第37-39页 |
4.4.2 中间数据模型 | 第39页 |
4.4.3 数据仓库模型设计 | 第39-43页 |
4.5 指标设计 | 第43-45页 |
4.6 数据清洗转换 | 第45-49页 |
4.7 并行数据挖掘模块 | 第49-50页 |
4.8 本章小结 | 第50-52页 |
第五章 实验及结果分析 | 第52-61页 |
5.1 云平台性能测试 | 第52-56页 |
5.1.1 Hadoop与Spark测试对比 | 第52-54页 |
5.1.2 Hive与Shark测试对比 | 第54-56页 |
5.2 日志分析系统测试 | 第56-60页 |
5.3 本章小结 | 第60-61页 |
第六章 总结与展望 | 第61-62页 |
参考文献 | 第62-64页 |
致谢 | 第64-66页 |
攻读学位期间发表的学术论文 | 第66页 |