致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
1 引言 | 第13-17页 |
1.1 项目背景 | 第13页 |
1.2 现状分析 | 第13-14页 |
1.3 项目意义和目的 | 第14-15页 |
1.4 本人在项目中的工作 | 第15-16页 |
1.5 论文组织结构 | 第16-17页 |
2 相关理论与技术介绍 | 第17-23页 |
2.1 Kimball维度建模理论 | 第17-20页 |
2.1.1 Kimball维度建模概述 | 第17-18页 |
2.1.2 星型模型与OLAP多维模型 | 第18页 |
2.1.3 事实表概述 | 第18-19页 |
2.1.4 维度表概述 | 第19-20页 |
2.2 数据仓库ETL过程 | 第20页 |
2.3 Hive数据仓库 | 第20-22页 |
2.3.1 Hive的读写特点 | 第21页 |
2.3.2 Hive SQL的执行特点 | 第21-22页 |
2.4 其他关键技术及理论 | 第22页 |
2.4.1 Spark SQL | 第22页 |
2.4.2 基于角色的权限控制 | 第22页 |
2.5 本章小结 | 第22-23页 |
3 需求分析 | 第23-37页 |
3.1 需求背景 | 第23页 |
3.2 系统建设目标 | 第23-25页 |
3.2.1 系统需要解决的问题 | 第24页 |
3.2.2 系统总体目标 | 第24-25页 |
3.3 BI平台总体需求分析 | 第25-28页 |
3.3.1 BI平台的总体规划 | 第26页 |
3.3.2 BI平台的用户角色分析 | 第26-28页 |
3.4 数据仓库需求分析 | 第28-29页 |
3.4.1 数据仓库ETL过程功能性需求分析 | 第28-29页 |
3.4.2 非功能性需求分析 | 第29页 |
3.5 元数据管理系统需求分析 | 第29-32页 |
3.5.1 功能性需求分析 | 第30-32页 |
3.5.2 非功能性需求分析 | 第32页 |
3.6 报表平台需求分析 | 第32-35页 |
3.6.1 功能性需求分析 | 第33-34页 |
3.6.2 非功能性需求分析 | 第34-35页 |
3.7 本章小结 | 第35-37页 |
4 概要设计 | 第37-51页 |
4.1 解决方案综述 | 第37-39页 |
4.1.1 BI平台总体功能设计 | 第37-38页 |
4.1.2 BI平台总体技术架构 | 第38-39页 |
4.2 系统架构设计 | 第39-43页 |
4.2.1 大数据平台层设计 | 第39-40页 |
4.2.2 数据仓库层设计 | 第40页 |
4.2.3 ETL层设计 | 第40-42页 |
4.2.4 元数据管理系统技术架构 | 第42-43页 |
4.3 系统功能设计 | 第43-45页 |
4.3.1 数据仓库ETL层功能设计 | 第43-44页 |
4.3.2 元数据管理系统功能设计 | 第44-45页 |
4.4 系统数据库设计 | 第45-49页 |
4.4.1 数据库概念模型设计 | 第45-46页 |
4.4.2 数据库逻辑模型设计 | 第46页 |
4.4.3 各表详细说明 | 第46-49页 |
4.5 本章小结 | 第49-51页 |
5 系统详细设计与实现 | 第51-83页 |
5.1 数据仓库维度建模 | 第51-59页 |
5.1.1 数据仓库开发流程 | 第51页 |
5.1.2 确定业务过程 | 第51-53页 |
5.1.3 确定事实表及粒度 | 第53页 |
5.1.4 确定事实表的维度键和度量 | 第53-56页 |
5.1.5 确定维度表的字段 | 第56-58页 |
5.1.6 在事实表中补充常用的维度属性 | 第58-59页 |
5.2 数据仓库ETL层设计与实现 | 第59-68页 |
5.2.1 Mongo Loader组件的详细设计与实现 | 第59-62页 |
5.2.2 增量获取组件的详细设计与实现 | 第62-63页 |
5.2.3 埋点数据的ETL处理方法 | 第63-66页 |
5.2.4 Hive ETL中拉链表的实现方法 | 第66-68页 |
5.3 元数据管理系统设计与实现 | 第68-78页 |
5.3.1 数据更新流程的设计及实现 | 第68-70页 |
5.3.2 数据字典的设计与实现 | 第70-71页 |
5.3.3 数据指标管理的设计与实现 | 第71-73页 |
5.3.4 字段数据血缘的实现 | 第73-74页 |
5.3.5 基于Shiro的权限控制的实现 | 第74-76页 |
5.3.6 数据源结构变化的发现 | 第76-78页 |
5.4 报表平台集成G2可视化框架 | 第78-82页 |
5.4.1 Superset视图实现分析 | 第78-80页 |
5.4.2 实现饼图 | 第80-81页 |
5.4.3 创建前端视图 | 第81页 |
5.4.4 注册组件 | 第81-82页 |
5.5 本章小结 | 第82-83页 |
6 测试 | 第83-89页 |
6.1 测试综述 | 第83页 |
6.2 单元测试 | 第83-85页 |
6.3 报表指标测试用例设计 | 第85-88页 |
6.4 本章小结 | 第88-89页 |
7 结论 | 第89-91页 |
7.1 总结 | 第89页 |
7.2 展望 | 第89-90页 |
7.3 本章小结 | 第90-91页 |
参考文献 | 第91-93页 |
作者简历及攻读硕士/博士学位期间取得的研究成果 | 第93-97页 |
学位论文数据集 | 第97页 |