摘要 | 第6-8页 |
abstract | 第8-9页 |
第一章 绪论 | 第15-25页 |
1.1 研究背景 | 第15-16页 |
1.2 现有相关工作及其不足 | 第16-20页 |
1.2.1 流计算系统 | 第17-18页 |
1.2.2 数据库系统 | 第18-19页 |
1.2.3 现有系统针对数据回放应用的不足 | 第19-20页 |
1.3 本文的研究内容 | 第20-21页 |
1.4 相关系统简介 | 第21-23页 |
1.4.1 Hadoop HDFS简介 | 第21-22页 |
1.4.2 Alluxio简介 | 第22页 |
1.4.3 Apache HBase简介 | 第22-23页 |
1.4.4 Apache Phoenix简介 | 第23页 |
1.4.5 Apache Hive简介 | 第23页 |
1.5 本文的组织结构 | 第23-25页 |
第二章 数据回放模型与编程框架 | 第25-37页 |
2.1 回放作业数据流模型 | 第25-26页 |
2.2 回放操作符 | 第26-30页 |
2.2.1 加载操作符 | 第27-28页 |
2.2.2 合并操作符 | 第28-29页 |
2.2.3 流操作符 | 第29-30页 |
2.3 数据回放编程模型及编程接口 | 第30-32页 |
2.3.1 回放作业DAG表示 | 第30-31页 |
2.3.2 回放编程接口 | 第31-32页 |
2.4 数据回放作业示例 | 第32-35页 |
2.4.1 日志文件回放作业示例 | 第32-34页 |
2.4.2 HBase表格回放作业示例 | 第34-35页 |
2.5 本章小结 | 第35-37页 |
第三章 分布式数据回放系统设计与实现 | 第37-51页 |
3.1 系统架构与模块 | 第37-39页 |
3.2 回放作业执行机制 | 第39-46页 |
3.2.1 回放作业执行流程 | 第39-41页 |
3.2.2 底层源数据加载 | 第41-42页 |
3.2.3 输入数据区间切分 | 第42-43页 |
3.2.4 多数据流的分布式级联合并 | 第43-45页 |
3.2.5 多线程滑动窗口合并 | 第45-46页 |
3.3 回放速率控制与QoS保证 | 第46-47页 |
3.4 容错处理 | 第47-48页 |
3.5 回放系统底层优化技术 | 第48-49页 |
3.5.1 源数据缓存优化 | 第48页 |
3.5.2 单数据流并行化生成技术 | 第48-49页 |
3.6 本章小结 | 第49-51页 |
第四章 性能评估与分析 | 第51-61页 |
4.1 实验环境配置 | 第51-52页 |
4.2 回放性能测试方法及指标 | 第52-53页 |
4.3 与Apache Phoenix及Apache Hive对比 | 第53-56页 |
4.3.1 查询性能对比 | 第53-55页 |
4.3.2 回放速率稳定性对比 | 第55-56页 |
4.4 多数据流的分布式级联合并性能实验 | 第56-57页 |
4.5 底层优化技术实验 | 第57-59页 |
4.5.1 源数据缓存优化实验 | 第57-58页 |
4.5.2 单数据流并行化生成实验 | 第58-59页 |
4.6 可扩展性实验 | 第59页 |
4.7 本章小结 | 第59-61页 |
第五章 华泰证券统一证券数据回放应用 | 第61-69页 |
5.1 应用背景 | 第61-62页 |
5.2 统一证券数据回放应用平台的设计实现 | 第62-65页 |
5.2.1 系统架构 | 第62-63页 |
5.2.2 HBase源数据分布 | 第63-64页 |
5.2.3 证券数据回放逻辑与回放作业模型 | 第64-65页 |
5.3 性能评估 | 第65-68页 |
5.3.1 实验环境配置 | 第65-66页 |
5.3.2 整体回放性能评估 | 第66页 |
5.3.3 源数据缓存对回放性能的影响 | 第66-67页 |
5.3.4 统一回放应用平台节点可扩展性 | 第67-68页 |
5.4 本章小结 | 第68-69页 |
第六章 总结与展望 | 第69-71页 |
6.1 工作总结 | 第69-70页 |
6.2 进一步工作 | 第70-71页 |
参考文献 | 第71-73页 |
致谢 | 第73-75页 |
附录 | 第75-77页 |