| 致谢 | 第5-6页 |
| 摘要 | 第6-7页 |
| ABSTRACT | 第7页 |
| 1 绪论 | 第11-16页 |
| 1.1 论文研究背景及意义 | 第11页 |
| 1.2 国内外相关研究现状 | 第11-13页 |
| 1.3 问题发现与解决思路 | 第13-14页 |
| 1.4 论文主要工作 | 第14页 |
| 1.5 论文结构 | 第14-15页 |
| 1.6 本章小结 | 第15-16页 |
| 2 相关理论与技术 | 第16-24页 |
| 2.1 开源大数据框架 | 第16-19页 |
| 2.1.1 分布式处理框架-Hadoop | 第16页 |
| 2.1.2 大数据处理计算引擎-Spark | 第16-17页 |
| 2.1.3 分布式存储系统-Hbase | 第17-19页 |
| 2.1.4 分布式全文搜索引擎-ElasticSearch | 第19页 |
| 2.1.5 分布式发布订阅消息系统-Kafka | 第19页 |
| 2.2 数据仓库 | 第19-21页 |
| 2.2.1 数据仓库技术-ETL | 第19-20页 |
| 2.2.2 物化视图 | 第20页 |
| 2.2.3 二级索引 | 第20-21页 |
| 2.3 数据序列化的系统-Apache Avro | 第21-22页 |
| 2.4 Web开发框架-JFinal | 第22页 |
| 2.5 状态机 | 第22-23页 |
| 2.6 本章小结 | 第23-24页 |
| 3 系统需求分析 | 第24-31页 |
| 3.1 系统业务范围及业务需求分析 | 第24-26页 |
| 3.2 系统功能性需求分析 | 第26-29页 |
| 3.2.1 数据管理模块需求分析 | 第26-27页 |
| 3.2.2 规则转化模块需求分析 | 第27-29页 |
| 3.2.3 数据处理模块需求分析 | 第29页 |
| 3.2.4 任务调度模块需求分析 | 第29页 |
| 3.3 系统非功能性需求分析 | 第29-30页 |
| 3.4 本章小结 | 第30-31页 |
| 4 系统概要设计 | 第31-40页 |
| 4.1 架构设计 | 第31-32页 |
| 4.2 功能模块概要设计 | 第32-35页 |
| 4.2.1 数据管理模块概要设计 | 第32-33页 |
| 4.2.2 数据处理模块概要设计 | 第33-34页 |
| 4.2.3 规则转化模块概要设计 | 第34页 |
| 4.2.4 任务调度模块概要设计 | 第34-35页 |
| 4.3 数据库的设计 | 第35-39页 |
| 4.3.1 数据库概念模型设计 | 第35-36页 |
| 4.3.2 数据库逻辑模型设计 | 第36页 |
| 4.3.3 数据库物理模型设计 | 第36-39页 |
| 4.4 本章小结 | 第39-40页 |
| 5 系统详细设计与实现 | 第40-59页 |
| 5.1 数据管理模块的详细设计与实现 | 第40-42页 |
| 5.2 数据处理模块的详细设计与实现 | 第42-47页 |
| 5.3 规则转化模块的详细设计与实现 | 第47-50页 |
| 5.4 任务调度模块的详细设计与实现 | 第50-53页 |
| 5.5 重点难点部分设计 | 第53-58页 |
| 5.5.1 TypeExtract | 第53-55页 |
| 5.5.2 DataNormalize | 第55-56页 |
| 5.5.3 InternalIndex | 第56-57页 |
| 5.5.4 Enrichment | 第57页 |
| 5.5.5 过载保护 | 第57-58页 |
| 5.6 本章小结 | 第58-59页 |
| 6 系统测试与实现效果 | 第59-67页 |
| 6.1 系统环境测试 | 第59-60页 |
| 6.2 系统功能测试 | 第60-63页 |
| 6.2.1 数据处理模块测试 | 第60-61页 |
| 6.2.2 规则转化模块测试 | 第61-62页 |
| 6.2.3 任务调度模块测试 | 第62-63页 |
| 6.3 非功能性测试 | 第63-64页 |
| 6.4 实现效果展示 | 第64-66页 |
| 6.5 本章小结 | 第66-67页 |
| 7 总结与展望 | 第67-69页 |
| 7.1 工作总结 | 第67-68页 |
| 7.2 工作展望 | 第68-69页 |
| 参考文献 | 第69-71页 |
| 作者简历及攻读硕士学位期间取得的研究成果 | 第71-73页 |
| 学位论文数据集 | 第73页 |