| 摘要 | 第5-6页 |
| Abstract | 第6-7页 |
| 第一章 绪论 | 第11-17页 |
| 1.1 研究背景和意义 | 第11-12页 |
| 1.2 国内外研究现状 | 第12-14页 |
| 1.2.1 数据仓库研究现状 | 第12页 |
| 1.2.2 数据处理平台研究现状 | 第12-13页 |
| 1.2.3 分布式数据仓库研究现状 | 第13-14页 |
| 1.3 论文的主要研究工作内容 | 第14-15页 |
| 1.4 论文组织结构 | 第15-17页 |
| 第二章 相关技术介绍 | 第17-33页 |
| 2.1 数据仓库 | 第17-19页 |
| 2.1.1 数据仓库的定义和特点 | 第17页 |
| 2.1.2 数据仓库和操作型数据库的区别 | 第17-18页 |
| 2.1.3 数据仓库的体系结构 | 第18-19页 |
| 2.1.4 元数据 | 第19页 |
| 2.2 Hadoop | 第19-25页 |
| 2.2.1 HDFS | 第21-22页 |
| 2.2.2 MapReduce | 第22-23页 |
| 2.2.3 Hive | 第23-24页 |
| 2.2.4 Sqoop | 第24-25页 |
| 2.3 Spark | 第25-30页 |
| 2.3.1 Spark简介 | 第25-26页 |
| 2.3.2 Spark生态系统 | 第26-28页 |
| 2.3.3 Spark运行架构 | 第28-29页 |
| 2.3.4 Spark对比MapReduce | 第29-30页 |
| 2.4 ETL | 第30-32页 |
| 2.4.1 数据抽取 | 第31-32页 |
| 2.4.2 数据转换和清洗 | 第32页 |
| 2.4.3 数据加载 | 第32页 |
| 2.5 本章小结 | 第32-33页 |
| 第三章 基于Spark的分布式ETL系统的设计与实现 | 第33-48页 |
| 3.1 传统ETL工具 | 第33-35页 |
| 3.1.1 ETL工具简介 | 第33页 |
| 3.1.2 ETL工具体系结构 | 第33-34页 |
| 3.1.3 ETL工具优缺点 | 第34-35页 |
| 3.2 分布式ETL系统 | 第35-39页 |
| 3.2.1 分布式ETL系统简介 | 第35-36页 |
| 3.2.2 分布式ETL系统体系架构 | 第36-38页 |
| 3.2.3 分布式ETL系统优缺点 | 第38-39页 |
| 3.3 基于Spark的分布式ETL系统 | 第39-42页 |
| 3.3.1 Spark-ETL简介 | 第39页 |
| 3.3.2 Spark-ETL体系架构 | 第39-40页 |
| 3.3.3 Spark-ETL执行流程 | 第40-41页 |
| 3.3.4 Spark-ETL优缺点 | 第41-42页 |
| 3.4 Spark-ETL的实现 | 第42-47页 |
| 3.4.1 数据抽取 | 第42-44页 |
| 3.4.2 数据转换和清洗 | 第44-46页 |
| 3.4.3 数据加载 | 第46-47页 |
| 3.5 本章小结 | 第47-48页 |
| 第四章 基于Spark的物流企业数据仓库的设计与实现 | 第48-61页 |
| 4.1 物流企业数据仓库分析 | 第48页 |
| 4.2 数据仓库建模方法 | 第48-51页 |
| 4.2.1 规范化数据仓库 | 第49页 |
| 4.2.2 维度建模数据仓库 | 第49-50页 |
| 4.2.3 独立数据集市 | 第50-51页 |
| 4.2.4 物流企业数据仓库建模方法选择 | 第51页 |
| 4.3 物流企业数据仓库模型设计 | 第51-56页 |
| 4.3.1 分析主题 | 第51-52页 |
| 4.3.2 维度表和事实表 | 第52-55页 |
| 4.3.3 数据仓库维度模型 | 第55-56页 |
| 4.4 基于Spark的物流企业数据仓库 | 第56-60页 |
| 4.4.1 数据仓库架构 | 第56-58页 |
| 4.4.2 数据仓库的构建过程 | 第58页 |
| 4.4.3 数据仓库的实现 | 第58-60页 |
| 4.5 本章小结 | 第60-61页 |
| 第五章 实验与分析 | 第61-68页 |
| 5.1 实验平台搭建 | 第61-62页 |
| 5.2 实验与结果分析 | 第62-67页 |
| 5.2.1 数据抽取效率对比 | 第63-64页 |
| 5.2.2 数据转换效率对比 | 第64-65页 |
| 5.2.3 数据查询效率对比 | 第65-67页 |
| 5.3 本章小结 | 第67-68页 |
| 总结与展望 | 第68-70页 |
| 研究工作总结 | 第68页 |
| 今后研究工作展望 | 第68-70页 |
| 参考文献 | 第70-74页 |
| 硕士学位期间取得的研究成果 | 第74-75页 |
| 致谢 | 第75-76页 |
| 答辩委员会对论文的评定意见 | 第76页 |