摘要 | 第5-7页 |
abstract | 第7-8页 |
第1章 绪论 | 第12-21页 |
1.1 研究背景及研究意义 | 第12-13页 |
1.2 国内外研究现状 | 第13-19页 |
1.2.1 国外研究现状 | 第13-15页 |
1.2.2 国内研究现状 | 第15-19页 |
1.3 主要问题及本文内容 | 第19-20页 |
1.4 本章小结 | 第20-21页 |
第2章 基于DAG的数据流处理与分析引擎的关键技术 | 第21-26页 |
2.1 概述 | 第21页 |
2.2 关键技术 | 第21-25页 |
2.2.1 Spark | 第21-23页 |
2.2.2 Spark Streaming | 第23-24页 |
2.2.3 Hive | 第24-25页 |
2.2.4 HDFS | 第25页 |
2.3 本章小结 | 第25-26页 |
第3章 DAG-P&A算法设计 | 第26-40页 |
3.1 设计思想 | 第26页 |
3.2 任务调度算法设计 | 第26-33页 |
3.2.1 算法概述 | 第26-27页 |
3.2.2 DAG的生成 | 第27-28页 |
3.2.3 DAG的验证 | 第28-31页 |
3.2.4 DAG的调度 | 第31-33页 |
3.3 异步通信机制的实现 | 第33-39页 |
3.3.1 概述 | 第33页 |
3.3.2 异步通信机制的实现 | 第33-39页 |
3.4 本章小结 | 第39-40页 |
第4章 DAG-P&A的总体设计 | 第40-51页 |
4.1 设计思想 | 第40页 |
4.2 功能解析 | 第40-43页 |
4.3 数据库设计 | 第43-47页 |
4.4 总体设计 | 第47-48页 |
4.5 总体功能设计 | 第48-50页 |
4.5.1 控制功能 | 第48-49页 |
4.5.2 调度功能 | 第49-50页 |
4.5.3 执行功能 | 第50页 |
4.6 本章小结 | 第50-51页 |
第5章 DAG-P&A的详细设计与实现 | 第51-67页 |
5.1 概述 | 第51-52页 |
5.2 控制功能的实现 | 第52-58页 |
5.2.1 过程管理功能的实现 | 第52-57页 |
5.2.3 用户管理功能的实现 | 第57-58页 |
5.3 调度功能的实现 | 第58-63页 |
5.4 执行功能的实现 | 第63-66页 |
5.5 本章小结 | 第66-67页 |
第6章 DAG-P&A的算子模型设计 | 第67-78页 |
6.1 概述 | 第67页 |
6.2 算子模型的设计 | 第67-75页 |
6.2.1 算子概述 | 第67-71页 |
6.2.2 适配算子的设计 | 第71-73页 |
6.2.3 Map算子设计 | 第73-74页 |
6.2.4 Reduce算子设计 | 第74-75页 |
6.2.5 复杂算子设计 | 第75页 |
6.3 算子模型的实现 | 第75-77页 |
6.4 本章小结 | 第77-78页 |
第7章 DAG-P&A的测试 | 第78-94页 |
7.1 测试概述 | 第78页 |
7.2 功能测试 | 第78-88页 |
7.2.1 控制功能的测试 | 第78-86页 |
7.2.2 调度功能的测试 | 第86-87页 |
7.2.3 执行功能的测试 | 第87-88页 |
7.3 验证算法 | 第88-92页 |
7.4 本章小结 | 第92-94页 |
结论 | 第94-95页 |
参考文献 | 第95-99页 |
致谢 | 第99页 |