摘要 | 第3-5页 |
ABSTRACT | 第5-6页 |
目录 | 第7-10页 |
插图索引 | 第10-11页 |
表格索引 | 第11-12页 |
第一章 绪论 | 第12-18页 |
1.1 研究背景与意义 | 第13-14页 |
1.1.1 并行计算框架 | 第13-14页 |
1.1.2 分布式数据抓取框架 | 第14页 |
1.2 国内外研究现状 | 第14-16页 |
1.2.1 现有并行计算框架 | 第14-15页 |
1.2.2 数据抓取 | 第15-16页 |
1.3 研究内容 | 第16-17页 |
1.4 论文组织结构 | 第17页 |
1.5 本章小结 | 第17-18页 |
第二章 相关技术研究 | 第18-28页 |
2.1 MapReduce | 第18-19页 |
2.2 Pregel | 第19-21页 |
2.2.1 简介 | 第19页 |
2.2.2 计算模型 | 第19-21页 |
2.2.3 优缺点 | 第21页 |
2.3 GraphLab 和 PowerGraph | 第21-26页 |
2.3.1 GraphLab | 第21-23页 |
2.3.2 PowerGraph | 第23-26页 |
2.4 本章小结 | 第26-28页 |
第三章 基于超图的并行计算框架 HGPC | 第28-52页 |
3.1 什么是超图 | 第28-30页 |
3.2 为什么需要超图 | 第30-32页 |
3.3 数据模型 | 第32页 |
3.4 超图模型面临的挑战 | 第32-33页 |
3.4.1 编程模型 | 第33页 |
3.4.2 超图特征 | 第33页 |
3.5 数据表示 | 第33-34页 |
3.6 编程模型 | 第34-36页 |
3.7 超图计算的同步和异步执行 | 第36-38页 |
3.7.1 整体同步执行 | 第37页 |
3.7.2 异步执行 | 第37-38页 |
3.7.3 串行性 | 第38页 |
3.8 超图分区 | 第38-50页 |
3.8.1 超图分区是简单图分区的泛化证明 | 第39-42页 |
3.8.2 随机贪心分区策略 | 第42-44页 |
3.8.3 并行超图分区算法 | 第44-50页 |
3.9 HGPC 框架的架构与实现 | 第50-51页 |
3.10 本章小结 | 第51-52页 |
第四章 实验验证与应用 | 第52-60页 |
4.1 应用相关定义 | 第52-53页 |
4.2 数据准备 | 第53-54页 |
4.3 应用实验设计 | 第54-56页 |
4.4 实验结果 | 第56-58页 |
4.5 本章小结 | 第58-60页 |
第五章 分布式抓取框架 COLA | 第60-72页 |
5.1 系统架构 | 第60-65页 |
5.1.1 Master-slave 架构 | 第61页 |
5.1.2 分区 | 第61-63页 |
5.1.3 去重 | 第63-64页 |
5.1.4 JavaScript 以及 AJAX 的处理 | 第64页 |
5.1.5 容错 | 第64-65页 |
5.2 编程模型 | 第65-68页 |
5.2.1 用户自定义程序 | 第65-66页 |
5.2.2 执行顺序 | 第66-68页 |
5.3 实验 | 第68-70页 |
5.4 本章小结 | 第70-72页 |
第六章 总结与展望 | 第72-74页 |
参考文献 | 第74-78页 |
致谢 | 第78-80页 |
攻读学位期间发表的学术论文目录 | 第80-82页 |