面向用户访问分析的物流公共服务平台日志处理系统的设计与实现
摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-16页 |
1.1 研究背景及意义 | 第10-11页 |
1.2 研究现状 | 第11-13页 |
1.2.1 物流公共服务平台现状 | 第11页 |
1.2.2 Web日志研究现状 | 第11-12页 |
1.2.3 分布式技术研究现状 | 第12-13页 |
1.3 研究内容 | 第13页 |
1.4 论文组织结构 | 第13-14页 |
1.5 本章小结 | 第14-16页 |
第二章 相关概念和技术 | 第16-22页 |
2.1 访问日志相关概念 | 第16页 |
2.2 Flume相关概念 | 第16-18页 |
2.3 Hadoop相关概念 | 第18-20页 |
2.3.1 基本介绍 | 第18页 |
2.3.2 HDFS | 第18-19页 |
2.3.3 MapReduce编程模型 | 第19页 |
2.3.4 Hive | 第19-20页 |
2.4 本章小结 | 第20-22页 |
第三章 物流公共服务平台日志处理系统需求分析 | 第22-30页 |
3.1 存在的问题分析 | 第22-23页 |
3.2 物流公共服务平台需求分析 | 第23-24页 |
3.2.1 平台的基础统计需求 | 第23-24页 |
3.2.2 平台的深度分析需求 | 第24页 |
3.3 日志分析系统功能需求 | 第24-26页 |
3.4 系统工作流程 | 第26-28页 |
3.4.1 系统启动流程 | 第26-27页 |
3.4.2 日志分析流程 | 第27-28页 |
3.5 本章小结 | 第28-30页 |
第四章 物流公共服务平台日志处理系统设计 | 第30-42页 |
4.1 系统总体架构 | 第30-31页 |
4.2 采集存储模块设计 | 第31-33页 |
4.2.1 日志采集方式 | 第32-33页 |
4.2.2 日志存储方式 | 第33页 |
4.3 清洗过滤模块设计 | 第33-38页 |
4.3.1 数据清洗的作用 | 第33-34页 |
4.3.2 日志格式 | 第34-35页 |
4.3.3 “脏数据”清洗 | 第35-36页 |
4.3.4 用户识别 | 第36-37页 |
4.3.5 会话识别 | 第37-38页 |
4.4 分析挖掘模块设计 | 第38-40页 |
4.4.1 基础统计分析的设计 | 第39页 |
4.4.2 用户来源地识别的设计 | 第39-40页 |
4.4.3 时间序列分析的设计 | 第40页 |
4.5 数据展示模块设计 | 第40-41页 |
4.6 本章小结 | 第41-42页 |
第五章 物流公共服务平台日志处理系统实现和测试 | 第42-60页 |
5.1 采集存储模块实现 | 第42-43页 |
5.2 清洗过滤模块实现 | 第43-45页 |
5.3 分析挖掘模块实现 | 第45-50页 |
5.3.1 基础指标的分析 | 第45-46页 |
5.3.2 用户来源地识别的实现 | 第46-48页 |
5.3.3 时间序列分析的实现 | 第48-50页 |
5.4 数据展示模块实现 | 第50页 |
5.5 系统测试与结果分析 | 第50-59页 |
5.5.1 系统环境 | 第50-51页 |
5.5.2 系统运行及功能测试 | 第51-55页 |
5.5.3 分析结果应用 | 第55-59页 |
5.6 本章小结 | 第59-60页 |
第六章 总结与展望 | 第60-62页 |
6.1 工作总结 | 第60页 |
6.2 工作展望 | 第60-62页 |
参考文献 | 第62-66页 |
致谢 | 第66页 |