基于BSP模型的大图处理系统数据划分模块的设计与实现
| 摘要 | 第1-6页 |
| Abstract | 第6-11页 |
| 第1章 绪论 | 第11-15页 |
| ·研究背景 | 第11-12页 |
| ·研究现状 | 第12-13页 |
| ·本文主要工作 | 第13-14页 |
| ·本文组织结构 | 第14-15页 |
| 第2章 相关技术概述 | 第15-29页 |
| ·Hadoop平台简介 | 第15-18页 |
| ·分布式文件系统HDFS | 第15-16页 |
| ·分布式数据库HBase | 第16-17页 |
| ·MapReduce编程模型 | 第17页 |
| ·Zookeeper简介 | 第17-18页 |
| ·现有图处理系统中图划分技术简介 | 第18-22页 |
| ·Pregel及Hama中图划分策略介绍 | 第18-19页 |
| ·Giraph及GPS中图划分策略介绍 | 第19-20页 |
| ·经典的图划分算法介绍 | 第20-22页 |
| ·BSP模型、RPC及哈希技术概述 | 第22-28页 |
| ·BSP模型介绍 | 第22-24页 |
| ·RPC远程过程调用协议介绍 | 第24-25页 |
| ·哈希技术简介 | 第25-28页 |
| ·本章小结 | 第28-29页 |
| 第3章 数据划分模块的设计 | 第29-41页 |
| ·系统概述 | 第29-32页 |
| ·数据划分模块需求概述 | 第29-30页 |
| ·模块功能概述 | 第30-31页 |
| ·性能需求 | 第31-32页 |
| ·数据划分模块总体设计 | 第32-33页 |
| ·支持多存储系统输入模块的设计 | 第33-35页 |
| ·分布式存储中数据格式 | 第33-34页 |
| ·支持多系统输入模块的详细设计 | 第34-35页 |
| ·数据划分子模块的设计 | 第35-39页 |
| ·数据划分框架接口设计 | 第36-37页 |
| ·基于RPC的多线程数据发送的设计 | 第37-38页 |
| ·全局同步及全局优化器的设计 | 第38-39页 |
| ·本章小结 | 第39-41页 |
| 第4章 数据划分模块的实现 | 第41-55页 |
| ·开发环境介绍 | 第41-42页 |
| ·支持多存储系统输入模块的实现 | 第42-45页 |
| ·数据输入建立的基本流程 | 第42-43页 |
| ·关键函数实现简介 | 第43-45页 |
| ·数据划分子模块的实现 | 第45-54页 |
| ·数据划分框架的实现 | 第46-47页 |
| ·基于RPC的多线程数据发送的实现 | 第47-53页 |
| ·全局同步及全局优化器的实现 | 第53-54页 |
| ·本章小结 | 第54-55页 |
| 第5章 图顶点编号及划分算法的实现 | 第55-67页 |
| ·图顶点编号算法的实现 | 第55-58页 |
| ·基于MD5 Hash的划分算法 | 第58-59页 |
| ·针对取模Hash的基于虚拟分区的平衡优化算法 | 第59-64页 |
| ·Range划分算法 | 第64-65页 |
| ·本章小结 | 第65-67页 |
| 第6章 实验与分析 | 第67-73页 |
| ·PageRank算法说明 | 第67页 |
| ·实验环境和测试数据说明 | 第67-68页 |
| ·负载均衡测试 | 第68-69页 |
| ·通信测试 | 第69-70页 |
| ·时间测试 | 第70-72页 |
| ·本章小结 | 第72-73页 |
| 第7章 总结与展望 | 第73-75页 |
| ·本文工作总结 | 第73-74页 |
| ·未来工作展望 | 第74-75页 |
| 参考文献 | 第75-79页 |
| 致谢 | 第79-81页 |
| 攻硕期间发表的论文和参加的项目 | 第81页 |
