摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-14页 |
1.1 研究背景 | 第10-11页 |
1.2 研究意义 | 第11页 |
1.3 国内外研究现状 | 第11-12页 |
1.4 本文主要研究内容 | 第12-13页 |
1.5 本章小结 | 第13-14页 |
第二章 相关技术介绍 | 第14-30页 |
2.1 Hadoop介绍 | 第14-17页 |
2.1.1 分布式文件系统HDFS | 第14-16页 |
2.1.2 分布式计算框架Map Reduce | 第16-17页 |
2.2 Spark介绍 | 第17-25页 |
2.2.1 弹性分布式数据集RDD | 第18-20页 |
2.2.2 Spark架构介绍 | 第20-21页 |
2.2.3 Spark运行机制 | 第21-22页 |
2.2.4 Spark Streaming原理介绍 | 第22-24页 |
2.2.5 Spark与Map Reduce比较 | 第24-25页 |
2.3 分布式训练 | 第25-26页 |
2.3.1 数据并行 | 第25页 |
2.3.2 模型并行 | 第25-26页 |
2.4 数据收集 | 第26-28页 |
2.4.1 日志收集Flume | 第26-27页 |
2.4.2 分布式消息队列Kafka | 第27-28页 |
2.5 本章小结 | 第28-30页 |
第三章 基于云计算的装备故障分析架构研究 | 第30-46页 |
3.1 架构需求分析 | 第30-31页 |
3.1.1 需求分析 | 第30-31页 |
3.2 架构总体设计 | 第31-44页 |
3.2.1 数据源设计 | 第32-33页 |
3.2.2 数据接入设计 | 第33-36页 |
3.2.3 数据存储设计 | 第36-39页 |
3.2.4 Yarn资源管理设计 | 第39-41页 |
3.2.5 数据分析模块设计 | 第41-42页 |
3.2.6 分布式训练模块设计 | 第42-44页 |
3.3 本章小结 | 第44-46页 |
第四章 系统实现与测试 | 第46-60页 |
4.1 分布式计算框架实现 | 第46-53页 |
4.1.1 软件环境 | 第46页 |
4.1.2 Hadoop集群搭建 | 第46-48页 |
4.1.3 Spark集群搭建 | 第48-51页 |
4.1.4 SSH免密码登录 | 第51-53页 |
4.2 数据接入与存储测试 | 第53-55页 |
4.3 流数据分析模块实现 | 第55-56页 |
4.4 分布式训练系统实现与测试 | 第56-58页 |
4.4.1 分布式模块实现 | 第57-58页 |
4.5 本章小结 | 第58-60页 |
第五章 总结与展望 | 第60-62页 |
5.1 本文工作总结 | 第60页 |
5.2 进一步展望 | 第60-62页 |
参考文献 | 第62-65页 |
致谢 | 第65页 |