支持动态任务拓扑与负载分流的流式处理系统D-Stream的研究与实现
摘要 | 第3-4页 |
Abstract | 第4页 |
第1章 绪论 | 第10-14页 |
1.1 课题背景与意义 | 第10-11页 |
1.2 本文工作内容 | 第11-12页 |
1.3 相关研发工作 | 第12-13页 |
1.4 本文组织 | 第13页 |
1.5 本章小结 | 第13-14页 |
第2章 流式处理研发现状 | 第14-23页 |
2.1 流式处理提出 | 第14-17页 |
2.2 流式处理系统开源实现 | 第17-18页 |
2.2.1 Borealis | 第17页 |
2.2.2 Yahoo! S4 | 第17-18页 |
2.2.3 Twitter Storm | 第18页 |
2.3 D-Stream流式系统概述 | 第18-22页 |
2.3.1 D-Ocean系统架构概述 | 第18-20页 |
2.3.2 D-Stream系统定位与目标 | 第20-22页 |
2.4 本章小结 | 第22-23页 |
第3章 D-Stream系统设计 | 第23-43页 |
3.1 D-Stream总体架构设计 | 第23-24页 |
3.2 D-Stream任务模型设计 | 第24-29页 |
3.2.1 插件定义 | 第25-26页 |
3.2.2 任务定义 | 第26-28页 |
3.2.3 任务定义状态 | 第28-29页 |
3.3 D-Stream流式处理引擎设计 | 第29-37页 |
3.3.1 处理引擎架构设计 | 第30-33页 |
3.3.2 逻辑节点 | 第33-34页 |
3.3.3 可靠性设计 | 第34-36页 |
3.3.4 任务一致性 | 第36-37页 |
3.4 D-Stream调度框架设计 | 第37-41页 |
3.4.1 对称式调度框架 | 第38-39页 |
3.4.2 动态负载分流机制 | 第39-41页 |
3.4.3 单点问题 | 第41页 |
3.5 本章小结 | 第41-43页 |
第4章 D-Stream任务模型与处理引擎实现 | 第43-56页 |
4.1 D-Stream任务模型实现 | 第44-48页 |
4.1.1 实现概述 | 第44-45页 |
4.1.2 任务定义同步 | 第45-47页 |
4.1.3 任务状态机 | 第47-48页 |
4.2 D-Stream流式处理引擎实现 | 第48-55页 |
4.2.1 任务触发器 | 第48-50页 |
4.2.2 任务分发器 | 第50-54页 |
4.2.3 任务分发策略 | 第54-55页 |
4.2.3.1 随机路由 | 第54页 |
4.2.3.2 直接路由 | 第54-55页 |
4.2.3.3 全局路由 | 第55页 |
4.3 本章小结 | 第55-56页 |
第5章 基于内容的图像检索应用案例 | 第56-63页 |
5.1 概述 | 第56-57页 |
5.2 任务拓扑与集群环境 | 第57-59页 |
5.3 D-Stream流式任务效果展示 | 第59-62页 |
5.4 数据统计与结论 | 第62页 |
5.5 本章小结 | 第62-63页 |
第6章 总结与展望 | 第63-66页 |
6.1 工作总结 | 第63-64页 |
6.2 未来工作展望 | 第64-66页 |
6.2.1 多语言 | 第64页 |
6.2.2 多进程 | 第64-65页 |
6.2.3 存储解耦 | 第65-66页 |
参考文献 | 第66-68页 |
攻读硕士学位期间主要的研究成果 | 第68-69页 |
致谢 | 第69页 |