致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7页 |
目录 | 第9-12页 |
1 引言 | 第12-19页 |
1.1 课题研究背景及意义 | 第12-15页 |
1.1.1 研究背景 | 第12-15页 |
1.1.2 研究意义 | 第15页 |
1.2 国内外研究现状 | 第15-17页 |
1.2.1 基于Hadoop的数据挖掘研究 | 第15-16页 |
1.2.2 对Apriori算法并行改进的研究 | 第16-17页 |
1.3 本文所做工作 | 第17页 |
1.4 本文组织结构 | 第17-19页 |
2 Hadoop核心架构研究 | 第19-31页 |
2.1 Hadoop 概述 | 第19页 |
2.2 Hadoop MapReduce编程模型研究 | 第19-24页 |
2.2.1 MapReduce编程模型概述 | 第19-20页 |
2.2.2 MapReduce编程模型 | 第20-21页 |
2.2.3 MapReduce的执行流程 | 第21-24页 |
2.2.4 MapReduce的容错机制 | 第24页 |
2.3 Hadoop分布式文件系统HDFS研究 | 第24-30页 |
2.3.1 HDFS概述 | 第25页 |
2.3.2 HDFS架构 | 第25-27页 |
2.3.3 文件创建过程 | 第27页 |
2.3.4 数据存储的可靠性 | 第27-28页 |
2.3.5 数据块再平衡 | 第28-29页 |
2.3.6 数据完整性 | 第29页 |
2.3.7 同步元数据更新 | 第29页 |
2.3.8 HDFS的用户、文件和目录权限 | 第29-30页 |
2.3.9 HDFS的局限性 | 第30页 |
2.4 本章小结 | 第30-31页 |
3 基于Hadoop的数据挖掘算法分析 | 第31-40页 |
3.1 数据挖掘概述 | 第31-34页 |
3.1.1 数据挖掘技术发展过程 | 第31-32页 |
3.1.2 数据挖掘技术的任务 | 第32-33页 |
3.1.3 数据挖掘步骤 | 第33-34页 |
3.2 针对典型的数据挖掘系统分析 | 第34-35页 |
3.3 基于Hadoop的数据挖掘系统的分析与设计 | 第35-39页 |
3.3.1 需求分析 | 第36页 |
3.3.2 设计思想 | 第36-37页 |
3.3.3 系统结构 | 第37-38页 |
3.3.4 功能模块 | 第38-39页 |
3.4 本章小结 | 第39-40页 |
4 Apriori算法的并行化改进与实现 | 第40-60页 |
4.1 Apriori算法介绍 | 第40-41页 |
4.2 Apriori算法分析 | 第41-47页 |
4.2.1 频繁项集的产生 | 第41-42页 |
4.2.2 产生关联规则 | 第42-43页 |
4.2.3 Apriori算法举例 | 第43-46页 |
4.2.4 Apriori算法性能分析 | 第46-47页 |
4.3 Apriori算法的并行改进 | 第47-54页 |
4.3.1 Apriori算法与MapReduce计算模型结合的方法 | 第47-50页 |
4.3.2 算法实例分析 | 第50-54页 |
4.4 Hadoop下Apriori算法的实现 | 第54-59页 |
4.4.1 频繁项集的生成 | 第54-58页 |
4.4.2 关联规则生成过程 | 第58-59页 |
4.4.3 算法分析 | 第59页 |
4.5 本章小结 | 第59-60页 |
5 实验及结果分析 | 第60-71页 |
5.1 实验环境与实验数据 | 第60-61页 |
5.2 Hadoop平台的搭建 | 第61-62页 |
5.3 动车组故障数据的挖掘结果分析 | 第62-67页 |
5.3.1 数据准备 | 第62-64页 |
5.3.2 实验过程 | 第64页 |
5.3.3 结果分析 | 第64-67页 |
5.4 单机处理的比较实验 | 第67-68页 |
5.5 集群加速比性能实验 | 第68-70页 |
5.6 本章小结 | 第70-71页 |
6 结论与展望 | 第71-73页 |
参考文献 | 第73-75页 |
作者简历 | 第75-77页 |
学位论文数据集 | 第77页 |