致谢 | 第5-6页 |
摘要 | 第6-8页 |
ABSTRACT | 第8-9页 |
1. 引言 | 第13-18页 |
1.1 研究背景与意义 | 第13-15页 |
1.1.1 项目研究背景 | 第13-14页 |
1.1.2 项目研究意义 | 第14-15页 |
1.2 研究现状分析 | 第15-16页 |
1.3 论文内容及结构概述 | 第16-18页 |
2. 相关理论基础 | 第18-33页 |
2.1 Spark大数据计算框架 | 第18-23页 |
2.1.1 RDD概念 | 第18-19页 |
2.1.2 Spark编程模型 | 第19-21页 |
2.1.3 Spark架构 | 第21-22页 |
2.1.4 Driver程序在Spark架构中的运行流程 | 第22-23页 |
2.2 Spark Streaming流式数据处理框架 | 第23-25页 |
2.2.1 Spark Streaming与Storm的比较 | 第24-25页 |
2.3 Kafka分布式消息队列 | 第25-27页 |
2.3.1 Kafka的整体架构 | 第25-26页 |
2.3.2 Kafka的使用场景 | 第26-27页 |
2.4 分布式存储系统HBASE | 第27-29页 |
2.4.1 HBase的概念 | 第27-28页 |
2.4.2 HBase存储机制 | 第28页 |
2.4.3 HBase与RDBMS的比较 | 第28-29页 |
2.5 内存数据库REDIS | 第29页 |
2.6 分布式协调服务Zookeeper | 第29-31页 |
2.6.1 Zookeeper的作用和特点 | 第29-30页 |
2.6.2 Zookeeper的角色及其作用 | 第30页 |
2.6.3 Zookeeper工作原理 | 第30-31页 |
2.7 分布式计算工具集AKKA | 第31-33页 |
2.7.1 Actor与消息传递 | 第31-32页 |
2.7.2 Akka对Actor模型的发展 | 第32-33页 |
3. 模型训练模块的设计 | 第33-44页 |
3.1 数据清洗规则的设计 | 第33-39页 |
3.1.1 初步取数 | 第34-35页 |
3.1.2 过滤小波动数据 | 第35-36页 |
3.1.3 数据时间错位处理 | 第36-37页 |
3.1.4 去除目标位号不存在时间的数据 | 第37-38页 |
3.1.5 获取数据量丰富的自变量数据 | 第38页 |
3.1.6 保证记录的逻辑有效性 | 第38-39页 |
3.1.7 行转列规则 | 第39页 |
3.2 相关性分析的实现 | 第39-41页 |
3.2.1 斯皮尔曼等级相关 | 第40页 |
3.2.2 相关性定量分析 | 第40-41页 |
3.3 模型训练过程 | 第41-42页 |
3.4 本章工作小结 | 第42-44页 |
4. 实时预测模块的设计 | 第44-51页 |
4.1 设计思路分析 | 第44-49页 |
4.1.1 kafka的应用 | 第44-45页 |
4.1.2 Spark Streaming流式数据处理框架 | 第45-46页 |
4.1.3 Redis的应用 | 第46-47页 |
4.1.4 Akka的应用 | 第47-48页 |
4.1.5 预测值的得出和处理 | 第48-49页 |
4.2 本章工作小结 | 第49-51页 |
5. 算法的比较与调整 | 第51-61页 |
5.1 神经网络算法的尝试 | 第51-55页 |
5.2 随机森林算法的尝试 | 第55-57页 |
5.3 其他方法的尝试 | 第57-60页 |
5.3.1 梯度树提升算法的尝试 | 第57-58页 |
5.3.2 改变模型时差的尝试 | 第58-59页 |
5.3.3 自相关位号的确定 | 第59-60页 |
5.4 本章工作小结 | 第60-61页 |
6. 数据展示分析模块的设计 | 第61-73页 |
6.1 模块功能说明 | 第61页 |
6.2 系统功能 | 第61-67页 |
6.2.1 单位字典 | 第61-62页 |
6.2.2 规则列表 | 第62-63页 |
6.2.3 流程列表 | 第63-64页 |
6.2.4 模型列表 | 第64-65页 |
6.2.5 位号列表 | 第65-66页 |
6.2.6 设备列表 | 第66页 |
6.2.7 装置列表 | 第66-67页 |
6.2.8 其他数据展示界面 | 第67页 |
6.3 数据操作功能 | 第67-71页 |
6.3.1 流程指定功能 | 第67-68页 |
6.3.2 位号预测功能 | 第68页 |
6.3.3 仪表失征检测 | 第68-69页 |
6.3.4 短信发送设置 | 第69页 |
6.3.5 系统日志记录 | 第69-70页 |
6.3.6 装置平稳度预测 | 第70-71页 |
6.3.7 模型准确率统计 | 第71页 |
6.4 系统整体架构 | 第71-72页 |
6.5 本章工作小结 | 第72-73页 |
参考文献 | 第73-76页 |
作者简历及攻读硕士学位期间取得的研究成果 | 第76-78页 |
学位论文数据集 | 第78页 |