云产品数据多维分析系统的设计与实现
致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
1 引言 | 第12-16页 |
1.1 项目背景及意义 | 第12-13页 |
1.2 国内外发展现状 | 第13-14页 |
1.3 论文主要工作 | 第14-15页 |
1.4 论文篇章结构 | 第15页 |
1.5 本章小结 | 第15-16页 |
2 项目关键技术 | 第16-20页 |
2.1 Apache Kylin技术 | 第16-17页 |
2.2 Spark分布式计算框架 | 第17-18页 |
2.2.1 Spark上层应用框架 | 第17-18页 |
2.2.2 Spark与MapReduce比较 | 第18页 |
2.3 Hive | 第18-19页 |
2.4 Sqoop | 第19页 |
2.5 本章小结 | 第19-20页 |
3 系统需求分析 | 第20-28页 |
3.1 系统功能性需求分析 | 第20-24页 |
3.1.1 多维分析子系统需求分析 | 第20-22页 |
3.1.2 Trainer子系统需求分析 | 第22-23页 |
3.1.3 日志转ORC子系统需求分析 | 第23-24页 |
3.2 系统数据需求分析 | 第24-25页 |
3.3 系统非功能性需求 | 第25-26页 |
3.4 本章小结 | 第26-28页 |
4 系统总体设计 | 第28-44页 |
4.1 系统软件架构设计 | 第28-30页 |
4.2 系统功能模块划分 | 第30-31页 |
4.3 数据模型设计 | 第31-40页 |
4.4 Hive相关表设计 | 第40-42页 |
4.5 系统性能保障设计 | 第42-43页 |
4.6 本章小结 | 第43-44页 |
5 系统详细设计与实现 | 第44-74页 |
5.1 多维分析子系统 | 第44-55页 |
5.1.1 配置管理模块 | 第45-48页 |
5.1.2 动态SQL构建设计 | 第48-50页 |
5.1.3 查询导出模块 | 第50-52页 |
5.1.4 占比计算逻辑设计 | 第52-54页 |
5.1.5 QueryCenter模块 | 第54-55页 |
5.2 Trainer子系统 | 第55-66页 |
5.2.1 Trainer子系统数据一致性设计 | 第55-57页 |
5.2.2 Trainer子系统类设计 | 第57-58页 |
5.2.3 任务管理模块 | 第58-61页 |
5.2.4 Mysql同步模块 | 第61-63页 |
5.2.5 Cube管理模块 | 第63-66页 |
5.3 日志转ORC子系统 | 第66-72页 |
5.3.1 整体流程设计 | 第67-69页 |
5.3.2 整体类设计 | 第69-71页 |
5.3.3 行日志转化设计 | 第71-72页 |
5.3.4 质量监控设计 | 第72页 |
5.4 本章小结 | 第72-74页 |
6 测试及运行效果 | 第74-80页 |
6.1 系统功能性测试 | 第74-76页 |
6.1.1 多维分析子系统功能性测试 | 第74-75页 |
6.1.2 Trainer子系统功能性测试 | 第75-76页 |
6.1.3 日志转ORC子系统功能性测试 | 第76页 |
6.2 系统非功能性测试 | 第76-77页 |
6.3 系统运行效果 | 第77-79页 |
6.4 本章小结 | 第79-80页 |
7 结论 | 第80-82页 |
参考文献 | 第82-84页 |
作者简历及攻读硕士学位期间取得的研究成果 | 第84-88页 |
学位论文数据集 | 第88页 |