| 摘要 | 第8-9页 |
| ABSTRACT | 第9-10页 |
| 第1章 绪论 | 第11-17页 |
| 1.1 研究背景与意义 | 第11-12页 |
| 1.1.1 研究背景 | 第11-12页 |
| 1.1.2 研究意义 | 第12页 |
| 1.2 研究现状 | 第12-13页 |
| 1.3 研究内容及主要工作 | 第13-14页 |
| 1.4 论文结构安排 | 第14页 |
| 1.5 本文创新点 | 第14-17页 |
| 第2章 大数据框架理论研究 | 第17-37页 |
| 2.1 Hadoop相关原理研究 | 第17-22页 |
| 2.1.1 HDFS的概念特性及工作机制 | 第17-19页 |
| 2.1.2 MapReduce原理剖析 | 第19-20页 |
| 2.1.3 YARN的工作机制 | 第20-22页 |
| 2.2 Spark相关原理研究 | 第22-28页 |
| 2.2.1 Spark生态系统 | 第23页 |
| 2.2.2 Spark RDD | 第23-24页 |
| 2.2.3 Spark SQL | 第24页 |
| 2.2.4 Spark Streaming | 第24-25页 |
| 2.2.5 Spark MLlib | 第25-26页 |
| 2.2.6 GraphX | 第26页 |
| 2.2.7 Spark中的术语介绍 | 第26-28页 |
| 2.3 Spark平台的优化 | 第28-36页 |
| 2.3.1 Spark性能调优 | 第28-30页 |
| 2.3.2 JVM调优 | 第30-31页 |
| 2.3.3 Shuffle调优 | 第31-33页 |
| 2.3.4 算子调优 | 第33-34页 |
| 2.3.5 troubleshooting | 第34-36页 |
| 2.4 本章小结 | 第36-37页 |
| 第3章 K近邻分类算法的改进研究 | 第37-45页 |
| 3.1 数据挖掘及机器学习概述 | 第37-38页 |
| 3.1.1 数据挖掘概述 | 第37页 |
| 3.1.2 机器学习概述 | 第37-38页 |
| 3.1.3 数据挖掘与机器学习的关系 | 第38页 |
| 3.2 传统K近邻算法 | 第38页 |
| 3.3 改进K近邻算法 | 第38-40页 |
| 3.4 实验结果与分析 | 第40-43页 |
| 3.5 本章小结 | 第43-45页 |
| 第4章 基于Spark平台改进的K近邻算法应用 | 第45-55页 |
| 4.1 Spark任务调度流程分析 | 第45-46页 |
| 4.2 算法并行化设计思想 | 第46-49页 |
| 4.3 实验结果与分析 | 第49-54页 |
| 4.3.1 Spark大数据平台的搭建步骤 | 第49-51页 |
| 4.3.2 实验数据 | 第51-52页 |
| 4.3.3 结果分析 | 第52-54页 |
| 4.4 本章小结 | 第54-55页 |
| 第5章 针对数据倾斜问题对K近邻算法进行改进的研究 | 第55-67页 |
| 5.1 数据倾斜问题描述 | 第55页 |
| 5.2 数据倾斜解决方案 | 第55-59页 |
| 5.3 实验结果与分析 | 第59-65页 |
| 5.4 本章小结 | 第65-67页 |
| 第6章 总结与展望 | 第67-69页 |
| 参考文献 | 第69-73页 |
| 致谢 | 第73-75页 |
| 在学期间主要研究成果 | 第75-78页 |
| 一、发表学术论文 | 第75页 |
| 二、其他科研成果 | 第75-78页 |