互联网用户行为采集与分析系统的设计与实现
| 摘要 | 第5-6页 |
| Abstract | 第6-7页 |
| 第1章 绪论 | 第11-17页 |
| 1.1 研究背景 | 第11-13页 |
| 1.2 研究目的与意义 | 第13-14页 |
| 1.3 研究内容和实现目标 | 第14-15页 |
| 1.4 论文组织结构 | 第15-16页 |
| 1.5 本章小结 | 第16-17页 |
| 第2章 相关理论和技术概况 | 第17-29页 |
| 2.1 数据挖掘 | 第17-18页 |
| 2.1.1 数据挖掘的基本概念 | 第17页 |
| 2.1.2 数据挖掘的主要功能 | 第17-18页 |
| 2.2 Web挖掘 | 第18-20页 |
| 2.2.1 Web挖掘基本概念 | 第18-19页 |
| 2.2.2 Web日志挖掘基本概念 | 第19页 |
| 2.2.3 Web日志挖掘的目的 | 第19-20页 |
| 2.2.4 Web日志挖掘的过程 | 第20页 |
| 2.3 数据预处理 | 第20-22页 |
| 2.3.1 数据预处理的必要性 | 第20-21页 |
| 2.3.2 数据预处理的方法 | 第21页 |
| 2.3.3 Web日志的预处理 | 第21-22页 |
| 2.4 互联网用户行为分析 | 第22-23页 |
| 2.4.1 互联网用户行为分析的基本概念 | 第22页 |
| 2.4.2 互联网用户行为分析的分类 | 第22-23页 |
| 2.5 数据仓库技术 | 第23-26页 |
| 2.5.1 数据仓库的基本概念 | 第23页 |
| 2.5.2 数据仓库的体系结构 | 第23-24页 |
| 2.5.3 数据仓库建模和应用 | 第24-25页 |
| 2.5.4 数据仓库下的ETL | 第25-26页 |
| 2.6 Storm流处理技术 | 第26-28页 |
| 2.6.1 实时计算 | 第26页 |
| 2.6.2 Storm基本概念 | 第26页 |
| 2.6.3 Storm基础对象 | 第26-27页 |
| 2.6.4 Storm数据流模型 | 第27-28页 |
| 2.6.5 Storm特点 | 第28页 |
| 2.7 本章小结 | 第28-29页 |
| 第3章 总体设计 | 第29-37页 |
| 3.1 需求分析 | 第29-31页 |
| 3.1.1 问题分析 | 第30-31页 |
| 3.1.2 系统的设计目标 | 第31页 |
| 3.2 系统总体设计 | 第31-34页 |
| 3.2.1 系统整体架构设计 | 第31-32页 |
| 3.2.2 系统子模块设计 | 第32-34页 |
| 3.3 本章小结 | 第34-37页 |
| 第4章 离线分析子系统设计与实现 | 第37-61页 |
| 4.1 离线分析整体架构 | 第37页 |
| 4.2 埋点日志数据仓库建模 | 第37-47页 |
| 4.2.1 埋点日志数据仓库详细设计 | 第41-44页 |
| 4.2.2 部分表结构设计 | 第44-47页 |
| 4.3 数据仓库的ETL设计 | 第47-51页 |
| 4.3.1 ETL转换设计 | 第47-48页 |
| 4.3.2 ETL数据处理设计 | 第48-49页 |
| 4.3.3 ETL过程设计 | 第49-50页 |
| 4.3.4 任务调度设计 | 第50-51页 |
| 4.4 离线分析子系统实现 | 第51-59页 |
| 4.4.1 数据采集模块的实现 | 第51-53页 |
| 4.4.2 数据处理模块的实现 | 第53-57页 |
| 4.4.3 数据展现模块的实现 | 第57-59页 |
| 4.5 本章小结 | 第59-61页 |
| 第5章 实时分析子系统设计与实现 | 第61-81页 |
| 5.1 实时分析整体架构 | 第61-62页 |
| 5.2 Storm集群搭建 | 第62-63页 |
| 5.3 实时分析详细设计 | 第63-65页 |
| 5.3.1 数据收集模块设计 | 第63页 |
| 5.3.2 数据接入模块设计 | 第63-64页 |
| 5.3.3 数据处理模块设计 | 第64-65页 |
| 5.3.4 数据展现模块设计 | 第65页 |
| 5.4 拓扑设计 | 第65-70页 |
| 5.4.1 实现目标 | 第65页 |
| 5.4.2 算法设计 | 第65-70页 |
| 5.5 实时分析子系统实现 | 第70-79页 |
| 5.5.1 集群架设 | 第70-76页 |
| 5.5.2 实现流程 | 第76-77页 |
| 5.5.3 实时结果展现 | 第77-79页 |
| 5.6 本章小结 | 第79-81页 |
| 第6章 总结和展望 | 第81-83页 |
| 6.1 总结 | 第81页 |
| 6.2 展望 | 第81-83页 |
| 参考文献 | 第83-87页 |
| 致谢 | 第87页 |
