| 摘要 | 第10-11页 |
| ABSTRACT | 第11-12页 |
| 第1章 绪论 | 第13-19页 |
| 1.1 日志大数据分析研究背景 | 第13-14页 |
| 1.2 日志大数据分析研究现状 | 第14-17页 |
| 1.2.1 日志分析研究现状 | 第14-16页 |
| 1.2.2 存在的问题 | 第16-17页 |
| 1.3 论文主要研究内容 | 第17页 |
| 1.4 论文结构 | 第17-19页 |
| 第2章 日志大数据分析平台关键技术 | 第19-31页 |
| 2.1 Hadoop概述 | 第19页 |
| 2.2 Hadoop分布式文件系统 | 第19-22页 |
| 2.2.1 HDFS的架构 | 第19-21页 |
| 2.2.2 HDFS的Java接口 | 第21-22页 |
| 2.3 在Hadoop中开发MapReduce程序 | 第22-24页 |
| 2.3.1 MapReduce程序开发流程 | 第22-23页 |
| 2.3.2 MapReduce开发接口介绍 | 第23-24页 |
| 2.4 Hive核心技术介绍 | 第24-28页 |
| 2.4.1 Hive简介 | 第24-25页 |
| 2.4.2 Hive特性 | 第25页 |
| 2.4.3 常用HiveQL操作 | 第25-28页 |
| 2.5 RPC服务框架Thrift | 第28-30页 |
| 2.5.1 Thrift架构 | 第28-29页 |
| 2.5.2 Thrift工作原理 | 第29-30页 |
| 2.6 本章小结 | 第30-31页 |
| 第3章 日志大数据分析平台需求分析 | 第31-43页 |
| 3.1 总体需求分析 | 第31-32页 |
| 3.2 采集层需求分析 | 第32-36页 |
| 3.2.1 Web日志 | 第32-33页 |
| 3.2.2 采集任务功能 | 第33-34页 |
| 3.2.3 采集任务数据字典 | 第34-35页 |
| 3.2.4 预处理任务功能 | 第35-36页 |
| 3.2.5 预处理任务数据字典 | 第36页 |
| 3.3 存储层需求分析 | 第36-37页 |
| 3.3.1 日志大数据存储 | 第36-37页 |
| 3.3.2 文件操作接口 | 第37页 |
| 3.4 分析层需求分析 | 第37-40页 |
| 3.4.1 用户操作Hive需求 | 第38页 |
| 3.4.2 分析任务功能 | 第38-39页 |
| 3.4.3 分析任务数据字典 | 第39-40页 |
| 3.5 任务调度执行层需求分析 | 第40-42页 |
| 3.5.1 调度执行接口 | 第40-41页 |
| 3.5.2 调度执行策略 | 第41-42页 |
| 3.6 本章小结 | 第42-43页 |
| 第4章 平台设计及关键技术实现 | 第43-57页 |
| 4.1 总体架构 | 第43页 |
| 4.2 采集层设计 | 第43-46页 |
| 4.2.1 日志传输引擎 | 第43-44页 |
| 4.2.2 日志预处理引擎 | 第44-46页 |
| 4.3 存储层设计 | 第46-47页 |
| 4.3.1 文件操作接口 | 第46-47页 |
| 4.4 分析层设计 | 第47-48页 |
| 4.4.1 Hive操作接口 | 第47-48页 |
| 4.4.2 分析任务执行引擎设计 | 第48页 |
| 4.5 任务调度执行框架设计 | 第48-56页 |
| 4.5.1 调度引擎架构 | 第49页 |
| 4.5.2 JobManager设计 | 第49-51页 |
| 4.5.3 JobExecutor设计 | 第51-53页 |
| 4.5.4 任务调度属性 | 第53-54页 |
| 4.5.5 任务调度模型 | 第54-55页 |
| 4.5.6 组件通信 | 第55-56页 |
| 4.6 本章小结 | 第56-57页 |
| 第5章 平台部署与实验分析 | 第57-66页 |
| 5.1 实验环境部署 | 第57-59页 |
| 5.1.1 任务接口模块部署 | 第57-58页 |
| 5.1.2 任务调度执行模块部署 | 第58-59页 |
| 5.1.3 底层存储计算模块部署 | 第59页 |
| 5.2 基于平台的日志分析 | 第59-64页 |
| 5.2.1 新建采集任务 | 第60-61页 |
| 5.2.2 新建预处理任务 | 第61-62页 |
| 5.2.3 Hive建表任务 | 第62-63页 |
| 5.2.4 新建分析任务 | 第63-64页 |
| 5.3 平台效果检验模型 | 第64-65页 |
| 5.4 本章小结 | 第65-66页 |
| 第6章 总结与展望 | 第66-68页 |
| 6.1 论文工作总结 | 第66页 |
| 6.2 展望 | 第66-68页 |
| 参考文献 | 第68-72页 |
| 致谢 | 第72-73页 |
| 附件 | 第73页 |