摘要 | 第4-6页 |
Abstract | 第6-7页 |
第1章 绪论 | 第11-19页 |
1.1 研究背景 | 第11-14页 |
1.1.1 大数据发展背景 | 第11-12页 |
1.1.2 数据流概念及特征 | 第12-13页 |
1.1.3 流处理平台概述 | 第13-14页 |
1.2 数据流连接相关概念及技术 | 第14-16页 |
1.2.1 连接 | 第14-15页 |
1.2.2 滑动窗口 | 第15-16页 |
1.2.3 时间戳 | 第16页 |
1.2.4 发展过程 | 第16页 |
1.3 本文主要贡献 | 第16-17页 |
1.4 本文组织结构 | 第17页 |
1.5 本章小结 | 第17-19页 |
第2章 相关工作 | 第19-31页 |
2.1 数据流连接算法 | 第19-23页 |
2.1.1 传统数据库连接算法 | 第19-20页 |
2.1.2 扩展连接算法 | 第20-21页 |
2.1.3 分布式连接算法 | 第21-23页 |
2.2 多数据流连接实现机制 | 第23-25页 |
2.2.1 多连接算子 | 第23页 |
2.2.2 连接树 | 第23-24页 |
2.2.3 相互比较 | 第24-25页 |
2.3 Kafka分布式消息发布订阅系统 | 第25-28页 |
2.3.1 Kafka平台概述 | 第25-26页 |
2.3.2 Kafka与Spark Streaming平台交互 | 第26-28页 |
2.4 Spark Streaming流处理系统 | 第28-30页 |
2.4.1 Spark平台概述 | 第28-30页 |
2.4.2 Spark Streaming平台概述 | 第30页 |
2.5 本章小结 | 第30-31页 |
第3章 基于启发式搜索的多数据流连接策略 | 第31-47页 |
3.1 问题描述 | 第31-33页 |
3.1.1 DAG作业划分规则 | 第31-32页 |
3.1.2 Spark Streaming下join算子与多连接操作 | 第32-33页 |
3.2 问题分析 | 第33-35页 |
3.2.1 多连接下的顺序选择 | 第33-34页 |
3.2.2 启发式搜索算法选取 | 第34-35页 |
3.3 模型设计 | 第35-38页 |
3.3.1 无向赋权图模型设计 | 第35-36页 |
3.3.2 图模型存储结构 | 第36-37页 |
3.3.3 代价分析 | 第37-38页 |
3.4 策略实现 | 第38-45页 |
3.4.1 无向赋权图构建 | 第39-40页 |
3.4.2 连接顺序选取 | 第40-43页 |
3.4.3 动态重建树 | 第43-45页 |
3.5 本章小结 | 第45-47页 |
第4章 基于时间戳的中间结果缓存策略 | 第47-55页 |
4.1 问题描述 | 第47-49页 |
4.1.1 连接树模式缓存优势 | 第47-48页 |
4.1.2 传统环境下的缓存实现 | 第48-49页 |
4.2 基本思路 | 第49-51页 |
4.2.1 引入时间戳标记 | 第49-50页 |
4.2.2 缓存回收 | 第50-51页 |
4.3 策略实现 | 第51-54页 |
4.4 本章小结 | 第54-55页 |
第5章 实验分析 | 第55-61页 |
5.1 实验环境搭建及配置 | 第55-56页 |
5.2 实验数据及思路 | 第56-57页 |
5.2.1 Kafka数据生成规则 | 第56页 |
5.2.2 模拟数据生成思路 | 第56-57页 |
5.3 实验结果分析 | 第57-59页 |
5.4 本章小结 | 第59-61页 |
结论 | 第61-63页 |
参考文献 | 第63-67页 |
攻读硕士学位期间所发表的学术论文 | 第67-69页 |
致谢 | 第69页 |