基于补偿函数的Spark容错机制优化
摘要 | 第4-5页 |
ABSTRACT | 第5-6页 |
第1章 绪论 | 第9-17页 |
1.1 课题背景 | 第9-11页 |
1.1.1 课题来源 | 第9页 |
1.1.2 课题目的与意义 | 第9-11页 |
1.2 国内外研究现状 | 第11-14页 |
1.3 主要研究内容 | 第14-15页 |
1.4 本文结构 | 第15-17页 |
第2章 面向迭代计算的容错机制 | 第17-32页 |
2.1 相关技术研究 | 第17-20页 |
2.1.1 迭代计算在大数据中的运用 | 第17页 |
2.1.2 面向迭代计算的大数据处理技术 | 第17-20页 |
2.2 迭代计算及其收敛性 | 第20-21页 |
2.3 基于补偿函数的乐观容错机制 | 第21-23页 |
2.3.1 基于补偿函数的数据恢复策略 | 第21-23页 |
2.3.2 乐观容错机制 | 第23页 |
2.4 基于补偿函数的乐观容错机制的运用 | 第23-30页 |
2.4.1 PageRank算法容错 | 第24-28页 |
2.4.2 连通分支算法容错 | 第28-30页 |
2.5 本章小结 | 第30-32页 |
第3章 Spark容错机制优化 | 第32-43页 |
3.1 Spark容错机制研究 | 第32-36页 |
3.1.1 内存数据集 | 第32-33页 |
3.1.2 基于Lineage的容错机制 | 第33-35页 |
3.1.3 基于检查点的容错机制 | 第35-36页 |
3.2 Spark容错机制优化设计 | 第36-38页 |
3.2.1 基于补偿函数的容错策略 | 第36-37页 |
3.2.2 补偿函数任务执行过程 | 第37-38页 |
3.3 Spark容错机制优化实现 | 第38-42页 |
3.3.1 Spark运行机制 | 第38-40页 |
3.3.2 全量迭代模型 | 第40-41页 |
3.3.3 增量迭代模型 | 第41-42页 |
3.4 本章小结 | 第42-43页 |
第4章 实验与结果分析 | 第43-55页 |
4.1 实验环境及数据集 | 第43-44页 |
4.2 正确性评估 | 第44-47页 |
4.3 恢复性能评估 | 第47-51页 |
4.4 容错机制时间开销 | 第51-53页 |
4.5 资源利用率 | 第53-54页 |
4.6 本章小结 | 第54-55页 |
结论 | 第55-57页 |
主要参考文献 | 第57-64页 |
攻读硕士学位期间发表的论文及其它成果 | 第64-66页 |
致谢 | 第66-67页 |
个人简历 | 第67页 |