摘要 | 第10-12页 |
ABSTRACT | 第12-14页 |
第一章 绪论 | 第15-26页 |
1.1 数据流处理技术概述 | 第15-18页 |
1.1.1 数据流处理的应用 | 第15-16页 |
1.1.2 数据流处理的需求 | 第16页 |
1.1.3 数据流处理平台发展 | 第16-18页 |
1.2 窗口技术概述 | 第18-21页 |
1.2.1 窗口属性 | 第18-19页 |
1.2.2 窗口分类 | 第19-20页 |
1.2.3 窗口更新行为 | 第20-21页 |
1.3 数据流处理中的窗口技术 | 第21-24页 |
1.3.1 窗口技术在数据流处理中的重要作用 | 第21-22页 |
1.3.2 窗口技术在数据流处理平台中的发展 | 第22页 |
1.3.3 窗口分布处理面临的技术挑战 | 第22-24页 |
1.4 本文工作 | 第24-25页 |
1.5 论文结构 | 第25-26页 |
第二章 相关研究 | 第26-36页 |
2.1 窗口分布处理技术 | 第26-30页 |
2.1.1 时间窗口的分布处理技术 | 第26-27页 |
2.1.2 数量窗口分布处理技术 | 第27-30页 |
2.2 数据流上的负载均衡技术 | 第30-32页 |
2.2.1 面向数据分布不均的负载均衡算法 | 第30-31页 |
2.2.2 面向数据分布变化的负载均衡算法 | 第31-32页 |
2.3 弹性扩展技术 | 第32-35页 |
2.3.1 基于阈值规则的弹性扩展技术 | 第32-33页 |
2.3.2 基于增强学习的弹性扩展技术 | 第33页 |
2.3.3 基于排队理论的弹性扩展技术 | 第33-34页 |
2.3.4 基于控制理论的弹性扩展技术 | 第34页 |
2.3.5 基于时间序列分析的弹性扩展技术 | 第34-35页 |
2.4 本章小结 | 第35-36页 |
第三章 通用可扩展的窗口分布处理技术 | 第36-53页 |
3.1 引言 | 第36-38页 |
3.2 基本思想 | 第38-39页 |
3.2.1 处理模型 | 第38页 |
3.2.2 操作分类 | 第38-39页 |
3.3 面向数据无关的通用窗口分布处理技术 | 第39-41页 |
3.3.1 等分窗口技术 | 第39-40页 |
3.3.2 算法描述 | 第40-41页 |
3.4 面向数据相关的通用窗口分布处理技术 | 第41-48页 |
3.4.1 占位符技术 | 第41-43页 |
3.4.2 滑动窗口索引技术 | 第43-46页 |
3.4.3 输入触发技术 | 第46-48页 |
3.5 实验结果与分析 | 第48-52页 |
3.5.1 实验设置 | 第48-49页 |
3.5.2 高速数据流下的系统处理延迟和吞吐量 | 第49-50页 |
3.5.3 大窗口下的系统处理延迟和吞吐量 | 第50-52页 |
3.6 本章小结 | 第52-53页 |
第四章 基于缓存使用量的动态负载均衡算法 | 第53-64页 |
4.1 引言 | 第53-54页 |
4.2 基本思想 | 第54-56页 |
4.2.1 负载均衡定义 | 第54页 |
4.2.2 缓存使用量与系统吞吐量和处理延迟的关系 | 第54-55页 |
4.2.3 算法流程 | 第55-56页 |
4.3 算法描述 | 第56-60页 |
4.3.1 负载均衡检测 | 第56-57页 |
4.3.2 节点计算能力估算 | 第57-58页 |
4.3.3 数据流分割函数 | 第58-60页 |
4.4 实验结果与分析 | 第60-63页 |
4.4.1 实验设置 | 第60-61页 |
4.4.2 负载均衡 | 第61-62页 |
4.4.3 吞吐量和处理延迟 | 第62-63页 |
4.5 本章小结 | 第63-64页 |
第五章 窗口分布处理弹性扩展技术 | 第64-78页 |
5.1 引言 | 第64-65页 |
5.2 基本思想 | 第65页 |
5.3 算法描述 | 第65-75页 |
5.3.1 并行度计算 | 第66-67页 |
5.3.2 等分窗口弹性扩展技术 | 第67-69页 |
5.3.3 滑动窗口索引弹性扩展技术 | 第69-73页 |
5.3.4 输入触发弹性扩展技术 | 第73-75页 |
5.4 实验结果与分析 | 第75-77页 |
5.4.1 实验设置 | 第75页 |
5.4.2 弹性扩展 | 第75-76页 |
5.4.3 资源利用率 | 第76-77页 |
5.5 本章小结 | 第77-78页 |
第六章 系统实现 | 第78-88页 |
6.1 分布式数据流处理平台Storm | 第78-80页 |
6.2 系统框架 | 第80-81页 |
6.3 通用可扩展窗口分布处理框架实现 | 第81-83页 |
6.4 动态负载均衡模块实现 | 第83-84页 |
6.5 窗口弹性扩展模块实现 | 第84-85页 |
6.6 实验结果与分析 | 第85-87页 |
6.6.1 实验设置 | 第85页 |
6.6.2 弹性扩展以及负载均衡 | 第85-86页 |
6.6.3 资源利用率 | 第86-87页 |
6.7 本章小结 | 第87-88页 |
第七章 结束语 | 第88-91页 |
7.1 研究工作总结 | 第88-89页 |
7.2 未来研究工作展望 | 第89-91页 |
致谢 | 第91-92页 |
参考文献 | 第92-97页 |
作者在学期间取得的学术成果 | 第97-98页 |
作者在学期间参加的主要科研工作 | 第98页 |