| 摘要 | 第4-5页 |
| Abstract | 第5页 |
| 第1章 绪论 | 第11-16页 |
| 1.1 课题背景和意义 | 第11-12页 |
| 1.2 国内外发展现状 | 第12-14页 |
| 1.2.1 数据处理技术发展现状 | 第12-13页 |
| 1.2.2 数据仓库发展现状 | 第13页 |
| 1.2.3 DMP数据管理平台发展现状 | 第13-14页 |
| 1.3 本文的主要研究内容 | 第14-15页 |
| 1.4 本文组织结构安排 | 第15-16页 |
| 第2章 数据处理相关技术 | 第16-34页 |
| 2.1 Hadoop分布式文件系统 | 第16-18页 |
| 2.1.1 HDFS分布式文件系统简介 | 第16-17页 |
| 2.1.2 HDFS分布式文件系统架构 | 第17-18页 |
| 2.2 Spark分布式计算框架 | 第18-23页 |
| 2.2.1 Spark简述 | 第18-19页 |
| 2.2.2 Spark整体运行架构 | 第19-21页 |
| 2.2.3 Spark上层应用框架 | 第21-22页 |
| 2.2.4 Spark与MapReduce比较 | 第22-23页 |
| 2.3 Hive数据仓库 | 第23-24页 |
| 2.4 HBase列式存储数据库 | 第24-27页 |
| 2.4.1 HBase基本架构 | 第24-25页 |
| 2.4.2 HBase数据模型 | 第25-27页 |
| 2.4.3 HBase的特点 | 第27页 |
| 2.5 用户画像系统简述 | 第27-28页 |
| 2.6 推荐系统简述 | 第28-33页 |
| 2.6.1 推荐系统简介 | 第28-29页 |
| 2.6.2 推荐算法 | 第29-32页 |
| 2.6.2.1 协同过滤 | 第29-31页 |
| 2.6.2.2 混合推荐系统 | 第31-32页 |
| 2.6.3 推荐系统评价指标 | 第32-33页 |
| 2.7 本章小结 | 第33-34页 |
| 第3章 基于Spark的数据管理平台设计 | 第34-60页 |
| 3.1 数据管理平台总体架构图 | 第34-37页 |
| 3.2 数据仓库的设计 | 第37-44页 |
| 3.2.1 原始层数据流程设计 | 第38-41页 |
| 3.2.2 数据集描述 | 第41页 |
| 3.2.3 数据仓库表设计 | 第41-43页 |
| 3.2.4 自动上传文件功能设计 | 第43页 |
| 3.2.5 IP解析服务设计 | 第43-44页 |
| 3.3 用户画像系统 | 第44-56页 |
| 3.3.1 用户画像的详细架构 | 第45-47页 |
| 3.3.2 HBase用户标签数据库的设计 | 第47-50页 |
| 3.3.3 标签算法设计 | 第50-56页 |
| 3.3.3.1 数据集描述 | 第50-51页 |
| 3.3.3.2 apk相似度算法设计 | 第51-54页 |
| 3.3.3.3 用户标签标识实现算法 | 第54-56页 |
| 3.4 推荐系统引擎 | 第56-59页 |
| 3.5 本章小结 | 第59-60页 |
| 第4章 基于Spark的数据管理平台的实现 | 第60-77页 |
| 4.1 数据仓库的实现 | 第60-64页 |
| 4.1.1 自动上传工具的实现 | 第60-61页 |
| 4.1.2 IP解析服务的实现 | 第61-62页 |
| 4.1.2.1 IP解析服务端提供者的实现 | 第61页 |
| 4.1.2.2 IP解析客户端消费者实现 | 第61-62页 |
| 4.1.3 parquet文件表的实现 | 第62-63页 |
| 4.1.4 SparkSQL数据查询 | 第63-64页 |
| 4.1.5 其他语言查询 | 第64页 |
| 4.2 用户画像系统的实现 | 第64-72页 |
| 4.2.1 SparkSQL查询数据仓库 | 第64-66页 |
| 4.2.2 用户标签实现 | 第66-69页 |
| 4.2.2.1 基于编辑距离的APP相似度查找树算法的实现 | 第67-69页 |
| 4.2.2.2 HBase插入用户标签的实现 | 第69页 |
| 4.2.3 用户数据可视化实现 | 第69-71页 |
| 4.2.4 用户画像扩展 | 第71-72页 |
| 4.3 推荐系统引擎的实现 | 第72页 |
| 4.4 DMP数据管理平台操作 | 第72-76页 |
| 4.5 本章小结 | 第76-77页 |
| 第5章 DMP数据管理平台的部署与测试 | 第77-81页 |
| 5.1 实验环境的配置与部署 | 第77-79页 |
| 5.1.1 硬件部署 | 第77页 |
| 5.1.2 软件部署 | 第77-79页 |
| 5.2 系统效果测试 | 第79-81页 |
| 第6章 总结与展望 | 第81-83页 |
| 6.1 工作总结 | 第81页 |
| 6.2 下一步工作 | 第81-83页 |
| 参考文献 | 第83-87页 |
| 致谢 | 第87页 |