具有自适应性的Storm任务部署与配置平台的研究
摘要 | 第4-5页 |
Abstract | 第5-6页 |
1 绪论 | 第9-14页 |
1.1 课题研究背景及其意义 | 第9-10页 |
1.2 课题研究现状 | 第10-11页 |
1.2.1 海量流数据实时计算框架 | 第10-11页 |
1.2.2 Storm调度优化研究 | 第11页 |
1.3 主要工作 | 第11-13页 |
1.4 论文组织结构 | 第13-14页 |
2 相关技术分析 | 第14-25页 |
2.1 Storm计算框架 | 第14-19页 |
2.1.1 Storm数据模型和执行架构 | 第14页 |
2.1.2 Storm集群架构 | 第14-15页 |
2.1.3 Storm的消息分组方式 | 第15-16页 |
2.1.4 Storm消息可靠性保障 | 第16-17页 |
2.1.5 Storm任务调度 | 第17-18页 |
2.1.6 Storm高级抽象Trident | 第18-19页 |
2.2 Zookeeper协调服务 | 第19-21页 |
2.2.1 Zookeeper原理及系统模型 | 第19-20页 |
2.2.2 Zookeeper数据模型 | 第20-21页 |
2.2.3 Zookeeper观察机制 | 第21页 |
2.3 NTP网络时间协议 | 第21-24页 |
2.3.1 NTP工作模式 | 第21-24页 |
2.4 本章小结 | 第24-25页 |
3 系统整体架构设计 | 第25-31页 |
3.1 系统概述 | 第25页 |
3.2 系统需求分析 | 第25-27页 |
3.2.1 功能需求分析 | 第25-26页 |
3.2.2 非功能性需求分析 | 第26-27页 |
3.3 系统架构设计 | 第27-30页 |
3.3.1 平台整体部署架构 | 第27页 |
3.3.2 平台功能模块 | 第27-29页 |
3.3.3 平台整体工作流程 | 第29-30页 |
3.4 本章小结 | 第30-31页 |
4 核心模块及关键技术设计与实现 | 第31-47页 |
4.1 感知模块设计与实现 | 第31-38页 |
4.1.1 分配追踪模块设计与实现 | 第31-32页 |
4.1.2 任务监控模块设计与实现 | 第32-36页 |
4.1.3 资源监控模块设计与实现 | 第36-37页 |
4.1.4 进程监控模块设计与实现 | 第37-38页 |
4.2 配置调节模块设计与实现 | 第38-39页 |
4.3 Storm调度优化算法实现 | 第39-44页 |
4.3.1 调度问题抽象 | 第39-40页 |
4.3.2 ITO算法描述 | 第40-41页 |
4.3.3 ITO算法实现 | 第41-44页 |
4.4 数据库访问技术与结构设计 | 第44-46页 |
4.5 本章小结 | 第46-47页 |
5 实验测试与分析 | 第47-52页 |
5.1 测试环境部署搭建 | 第47-48页 |
5.2 运行进程数配置问题验证测试与分析 | 第48-49页 |
5.3 平台调度算法性能测试 | 第49-51页 |
5.4 本章小结 | 第51-52页 |
结论 | 第52-54页 |
参考文献 | 第54-57页 |
攻读硕士学位期间发表学术论文情况 | 第57-58页 |
致谢 | 第58-59页 |