基于Spark MLlib统一数据挖掘服务平台的研究与实现
| 中文摘要 | 第3-4页 |
| Abstract | 第4-5页 |
| 第一章 绪论 | 第8-14页 |
| 1.1 课题研究的背景与意义 | 第8-9页 |
| 1.2 课题研究现状 | 第9-12页 |
| 1.3 本文主要工作 | 第12-13页 |
| 1.4 本文的组织结构 | 第13-14页 |
| 第二章 数据处理相关理论概念 | 第14-21页 |
| 2.1 数据挖掘 | 第14-16页 |
| 2.1.1 数据挖掘基本流程 | 第14页 |
| 2.1.2 CRISP-DM模型 | 第14-16页 |
| 2.2 并行数据处理框架 | 第16-19页 |
| 2.2.1 Hadoop并行框架 | 第16-18页 |
| 2.2.2 Spark并行框架 | 第18-19页 |
| 2.3 Spark MLlib介绍 | 第19-20页 |
| 2.4 本章小结 | 第20-21页 |
| 第三章 平台架构及各层设计 | 第21-34页 |
| 3.1 通信层 | 第21-23页 |
| 3.2 云基础层 | 第23-25页 |
| 3.3 分析挖掘层 | 第25-32页 |
| 3.3.1 工作流管理模块 | 第25-27页 |
| 3.3.2 数据预处理 | 第27页 |
| 3.3.3 批量数据挖掘 | 第27-29页 |
| 3.3.4 实时数据挖掘 | 第29-30页 |
| 3.3.5 统一接口设计 | 第30-32页 |
| 3.4 可视化层 | 第32页 |
| 3.5 本章小结 | 第32-34页 |
| 第四章 各模块实现的算法 | 第34-50页 |
| 4.1 预处理算法 | 第34-36页 |
| 4.1.1 特征选择 | 第34-36页 |
| 4.1.2 归一化 | 第36页 |
| 4.2 分类算法 | 第36-42页 |
| 4.2.1 方法概览 | 第36-37页 |
| 4.2.2 决策树分类 | 第37-38页 |
| 4.2.3 逻辑回归分类 | 第38-40页 |
| 4.2.4 随机森林分类 | 第40-41页 |
| 4.2.5 支持向量机SVM分类 | 第41-42页 |
| 4.3 聚类算法 | 第42-45页 |
| 4.3.1 方法概览 | 第43页 |
| 4.3.2 GaussianMixture聚类 | 第43-44页 |
| 4.3.3 k-means聚类 | 第44页 |
| 4.3.4 LDA聚类 | 第44-45页 |
| 4.4 回归算法 | 第45-49页 |
| 4.4.1 方法概览 | 第45页 |
| 4.4.2 决策树回归 | 第45-47页 |
| 4.4.3 随机森林回归 | 第47-49页 |
| 4.5 本章小结 | 第49-50页 |
| 第五章 实例研究 | 第50-75页 |
| 5.1 电力负荷预测介绍 | 第50页 |
| 5.2 负荷聚类 | 第50-58页 |
| 5.2.1 实验数据集 | 第50-51页 |
| 5.2.2 总体预测流程 | 第51页 |
| 5.2.3 页面设计流程 | 第51-53页 |
| 5.2.4 预处理 | 第53-55页 |
| 5.2.5 数据后处理 | 第55-56页 |
| 5.2.6 聚类实验结果分析 | 第56-58页 |
| 5.3 负荷预测 | 第58-73页 |
| 5.3.1 总体预测流程 | 第59-60页 |
| 5.3.2 界面设计流程 | 第60-61页 |
| 5.3.3 数据预处理 | 第61-68页 |
| 5.3.3.1 原始数据说明 | 第61-63页 |
| 5.3.3.2 原始数据整合 | 第63-66页 |
| 5.3.3.3 数据采样 | 第66页 |
| 5.3.3.4 数据过滤 | 第66-67页 |
| 5.3.3.5 缺失负荷填充 | 第67-68页 |
| 5.3.4 随机森林算法 | 第68页 |
| 5.3.5 输出结果格式 | 第68-69页 |
| 5.3.6 实验结果分析 | 第69-73页 |
| 5.7 本章小结 | 第73-75页 |
| 总结与展望 | 第75-76页 |
| 参考文献 | 第76-78页 |
| 致谢 | 第78-79页 |
| 个人简历 | 第79-80页 |
| 在校期间的研究成果 | 第80页 |
