基于Hadoop的移动运营大规模数据治理
摘要 | 第4-5页 |
Abstract | 第5页 |
第一章 绪论 | 第8-11页 |
1.1 研究背景及现状 | 第8-9页 |
1.2 论文结构 | 第9-11页 |
第二章 相关技术 | 第11-22页 |
2.1 ETL基础理论 | 第11-13页 |
2.1.1 ETL基本概念 | 第11页 |
2.1.2 ETL的处理架构 | 第11-13页 |
2.1.3 云化ETL | 第13页 |
2.2 元数据相关理论 | 第13-15页 |
2.2.1 元数据的概念 | 第13-14页 |
2.2.2 元数据的作用 | 第14-15页 |
2.3 CWM | 第15-18页 |
2.3.1 规范涉及的业界标准 | 第15-16页 |
2.3.2 CWM结构 | 第16-18页 |
2.4 爬虫技术 | 第18-19页 |
2.5 Hadoop技术 | 第19-20页 |
2.5.1 HDFS分布式文件系统 | 第19-20页 |
2.5.2 MapReduce的并行计算框架 | 第20页 |
2.6 本章小结 | 第20-22页 |
第三章 大数据治理的设计与实现 | 第22-32页 |
3.1 总体设计 | 第22-23页 |
3.2 功能实现 | 第23-30页 |
3.2.1 数据采集层 | 第23-24页 |
3.2.2 数据处理层 | 第24-27页 |
3.2.3 平台需求设计 | 第27-29页 |
3.2.4 数据安全 | 第29-30页 |
3.3 系统接口 | 第30-31页 |
3.4 本章小结 | 第31-32页 |
第四章 甘肃移动大数据平台元模型的设计与实现 | 第32-67页 |
4.1 经营分析系统元模型 | 第32-33页 |
4.1.1 经营分析系统元模型概述 | 第32-33页 |
4.2 经营分析系统元模型与CWM的关系 | 第33-42页 |
4.2.1 基础层元模型 | 第33-36页 |
4.2.2 获取层元模型 | 第36-38页 |
4.2.3 数据层元模型 | 第38-40页 |
4.2.4 访问层元模型 | 第40-42页 |
4.2.5 其他可选元模型 | 第42页 |
4.3 经营分析系统核心元模型 | 第42-65页 |
4.3.1 核心元模型范围 | 第42-44页 |
4.3.2 核心元模型参照表 | 第44-45页 |
4.3.3 关系数据库物理模型元模型 | 第45-50页 |
4.3.4 数据处理过程元模型 | 第50-61页 |
4.3.5 接口单元元模型 | 第61-65页 |
4.4 本章小结 | 第65-67页 |
第五章 总结 | 第67-68页 |
参考文献 | 第68-69页 |
致谢 | 第69页 |