大数据量下的实时数据报表系统的设计与实现
| 致谢 | 第5-6页 |
| 摘要 | 第6-7页 |
| ABSTRACT | 第7-8页 |
| 1 引言 | 第12-18页 |
| 1.1 项目背景 | 第12-13页 |
| 1.2 项目意义 | 第13页 |
| 1.3 国内外发展状况 | 第13-16页 |
| 1.3.1 国外报表系统发展状况 | 第14-15页 |
| 1.3.2 国内报表系统发展现状 | 第15-16页 |
| 1.4 论文主要工作 | 第16页 |
| 1.5 论文组织结构 | 第16-17页 |
| 1.6 本章小结 | 第17-18页 |
| 2 实时报表系统关键技术 | 第18-22页 |
| 2.1 SOLR | 第18页 |
| 2.2 HDFS | 第18-19页 |
| 2.3 HIVE | 第19页 |
| 2.4 JAVA | 第19-20页 |
| 2.5 MESSAGE QUEUE | 第20页 |
| 2.6 CANAL | 第20页 |
| 2.7 SPRINGMVC | 第20-21页 |
| 2.8 本章小结 | 第21-22页 |
| 3 系统的架构设计 | 第22-29页 |
| 3.1 原有报表系统的架构设计 | 第22-23页 |
| 3.2 报表系统架构的改进 | 第23-25页 |
| 3.2.1 原有报表系统架构存在的问题 | 第23页 |
| 3.2.2 报表系统架构改进方案 | 第23-25页 |
| 3.3 报表系统的模块划分 | 第25-28页 |
| 3.3.1 报表服务模块的设计 | 第26-27页 |
| 3.3.2 数据同步模块的设计 | 第27-28页 |
| 3.4 本章小结 | 第28-29页 |
| 4 报表服务模块 | 第29-40页 |
| 4.1 报表系统需求分析 | 第29-31页 |
| 4.1.1 系统的功能性需求 | 第29-31页 |
| 4.1.2 非功能性需求 | 第31页 |
| 4.2 报表系统整体架构 | 第31-32页 |
| 4.3 分布式服务架构 | 第32-33页 |
| 4.4 系统MVC分层设计 | 第33-35页 |
| 4.4.1 MVC模式 | 第33-34页 |
| 4.4.2 Model层 | 第34-35页 |
| 4.4.3 Controller层 | 第35页 |
| 4.5 业务宽表的设计 | 第35-39页 |
| 4.5.1 关系型数据库中的表结构 | 第35-38页 |
| 4.5.2 分布式索引中的宽表结构 | 第38-39页 |
| 4.6 本章小结 | 第39-40页 |
| 5 全量数据同步模块 | 第40-53页 |
| 5.1 全量数据同步模块需求 | 第40-41页 |
| 5.2 子表导入HDFS模块 | 第41-46页 |
| 5.2.1 关系型数据库现状分析 | 第41-43页 |
| 5.2.2 数据导入方法分析 | 第43页 |
| 5.2.3 子表导入HDFS模块的设计与实现 | 第43-46页 |
| 5.3 HIVE绑定模块 | 第46-47页 |
| 5.3.1 数据绑定的介绍 | 第46页 |
| 5.3.2 Hive绑定模块的设计与实现 | 第46-47页 |
| 5.4 HIVE宽表合成模块 | 第47-49页 |
| 5.5 索引文件生成模块 | 第49-52页 |
| 5.4.1 索引文件生成过程的分析 | 第50页 |
| 5.4.2 索引文件生成模块的设计与实现 | 第50-52页 |
| 5.6 本章小结 | 第52-53页 |
| 6 增量数据同步模块 | 第53-60页 |
| 6.1 增量数据同步模块需求 | 第53页 |
| 6.2 增量数据同步原理分析 | 第53-56页 |
| 6.2.1 目标数据库增量数据抓取 | 第53-54页 |
| 6.2.2 增量数据的转发 | 第54-55页 |
| 6.2.3 增量数据同步流程 | 第55-56页 |
| 6.3 增量消息发布者子模块 | 第56页 |
| 6.4 增量消息消费者子模块 | 第56-59页 |
| 6.5 本章小结 | 第59-60页 |
| 7 系统的测试 | 第60-65页 |
| 7.1 单元测试 | 第60-64页 |
| 7.2 集成测试和系统测试 | 第64页 |
| 7.3 本章小结 | 第64-65页 |
| 8 总结和展望 | 第65-68页 |
| 8.1 成果展示 | 第65-66页 |
| 8.2 论文总结 | 第66-67页 |
| 8.3 展望 | 第67-68页 |
| 参考文献 | 第68-70页 |
| 作者简历 | 第70-72页 |
| 学位论文数据集 | 第72页 |
