基于Spark的工业大数据能效分析平台的设计与实现
摘要 | 第2-3页 |
Abstract | 第3-4页 |
1 绪论 | 第7-14页 |
1.1 课题研究背景 | 第7-8页 |
1.2 相关研究现状 | 第8-11页 |
1.3 研究目的与内容 | 第11-12页 |
1.3.1 课题研究目的 | 第11-12页 |
1.3.2 课题研究内容 | 第12页 |
1.4 论文组织与结构安排 | 第12-14页 |
2 大数据平台选型及部署 | 第14-26页 |
2.1 数据分析流程 | 第14-15页 |
2.2 计算层框架 | 第15-20页 |
2.2.1 计算框架选型 | 第15-16页 |
2.2.2 Spark框架介绍 | 第16-17页 |
2.2.3 RDD | 第17-20页 |
2.3 数据存储层 | 第20-22页 |
2.3.1 HDFS | 第20-21页 |
2.3.2 Hive | 第21-22页 |
2.3.3 HBase | 第22页 |
2.4 算法库 | 第22-24页 |
2.4.1 SparkMLlib | 第22-23页 |
2.4.2 HadoopMahout | 第23-24页 |
2.4.3 SparkNet | 第24页 |
2.5 平台资源管理 | 第24-25页 |
2.6 本章小结 | 第25-26页 |
3 基于Spark的工业大数据平台设计 | 第26-34页 |
3.1 平台总体设计 | 第26页 |
3.2 平台体系架构 | 第26-31页 |
3.2.1 数据集成 | 第26-27页 |
3.2.2 数据存储 | 第27-30页 |
3.2.3 数据分析处理 | 第30-31页 |
3.2.4 可视化分析 | 第31页 |
3.3 平台运行流程 | 第31-33页 |
3.4 本章小结 | 第33-34页 |
4 平台关键实现与模块化 | 第34-51页 |
4.1 平台关键算法 | 第34-38页 |
4.1.1 Kmeans算法及其并行化实现 | 第34-37页 |
4.1.2 数据包络分析 | 第37-38页 |
4.2 平台模块设计 | 第38-40页 |
4.3 参数监测模块 | 第40-41页 |
4.4 能效分析模块 | 第41-48页 |
4.4.1 乙烯生产工艺流程分析 | 第41-43页 |
4.4.2 确定能效边界 | 第43页 |
4.4.3 工况划分 | 第43-45页 |
4.4.4 基于工况划分的能效评估 | 第45-48页 |
4.5 用户及任务管理模块 | 第48-49页 |
4.6 平台性能实现 | 第49-50页 |
4.6.1 主节点高可用 | 第49-50页 |
4.6.2 平台稳定性 | 第50页 |
4.7 本章小结 | 第50-51页 |
5 平台测试 | 第51-60页 |
5.1 平台开发环境 | 第51-53页 |
5.2 平台实现 | 第53-57页 |
5.2.1 数据存储 | 第53-55页 |
5.2.2 Spark离线批处理 | 第55-57页 |
5.3 可视化分析 | 第57-59页 |
5.4 本章小结 | 第59-60页 |
6 总结与展望 | 第60-62页 |
6.1 总结 | 第60页 |
6.2 展望 | 第60-62页 |
参考文献 | 第62-65页 |
攻读硕士学位期间发表学术论文情况 | 第65-66页 |
致谢 | 第66-68页 |