摘要 | 第5-6页 |
ABSTRACT | 第6页 |
第1章 绪论 | 第9-17页 |
1.1 研究背景及意义 | 第9-10页 |
1.2 国内外研究现状 | 第10-13页 |
1.3 本文研究内容 | 第13-15页 |
1.4 本文的组织结构图 | 第15-17页 |
第2章 相关理论与技术 | 第17-33页 |
2.1 关联规则算法 | 第17-20页 |
2.1.1 基本概念 | 第17-18页 |
2.1.2 常用算法 | 第18-20页 |
2.2 Spark基础 | 第20-27页 |
2.2.1 Spark RDD | 第22-25页 |
2.2.2 Spark MLlib | 第25-26页 |
2.2.3 Spark程序运行模式 | 第26-27页 |
2.3 Spark分布式集群搭建 | 第27-32页 |
2.3.1 硬件及软件环境 | 第27-28页 |
2.3.2 配置Hadoop集群 | 第28-30页 |
2.3.3 配置Spark集群 | 第30-32页 |
2.4 本章小结 | 第32-33页 |
第3章 基于Spark的并行化FP-Growth算法 | 第33-56页 |
3.1 FP-Growth算法原理 | 第33-38页 |
3.2 基于Spark的FP-Growth算法的并行化设计思想 | 第38-40页 |
3.3 基于Spark的并行化FP-Growth算法的关键方法 | 第40-48页 |
3.3.1 并行计算项的支持度 | 第40-41页 |
3.3.2 事务集分组 | 第41-44页 |
3.3.3 并行频繁模式挖掘 | 第44-45页 |
3.3.4 频繁项集合并 | 第45-46页 |
3.3.5 生成强关联规则 | 第46-48页 |
3.4 算法比较分析 | 第48-55页 |
3.4.1 基于Spark的并行化Apriori算法 | 第48-52页 |
3.4.2 算法比较实验 | 第52-55页 |
3.5 本章小结 | 第55-56页 |
第4章 基于Spark的并行化FP Growth算法的优化 | 第56-76页 |
4.1 SpaFP算法问题分析 | 第56-57页 |
4.2 SpaFP算法的优化 | 第57-67页 |
4.2.1 均衡分组优化 | 第57-60页 |
4.2.2 项头表结构优化 | 第60-63页 |
4.2.3 优化的SpaFP算法的步骤 | 第63-67页 |
4.3 算法比较分析 | 第67-75页 |
4.3.1 实验数据和实验环境 | 第67-69页 |
4.3.2 数据规模对挖掘效率的影响 | 第69-70页 |
4.3.3 支持度对挖掘效率的影响 | 第70-72页 |
4.3.4 节点数量对挖掘效率的影响 | 第72-73页 |
4.3.5 算法的加速度比较 | 第73-75页 |
4.4 本章小结 | 第75-76页 |
第5章 基于Spark的并行化FP_Growth算法的应用研究 | 第76-93页 |
5.1 文本主题挖掘现状分析 | 第76-78页 |
5.2 基于EHSpaFP的文本主题深度挖掘 | 第78-79页 |
5.3 在新闻报刊中的应用分析 | 第79-92页 |
5.3.1 文本语义降维 | 第81-83页 |
5.3.2 文本主题关联规则挖掘 | 第83-89页 |
5.3.3 结果分析 | 第89-92页 |
5.4 本章小结 | 第92-93页 |
第6章 总结与展望 | 第93-96页 |
6.1 总结 | 第93-94页 |
6.2 展望 | 第94-96页 |
参考文献 | 第96-100页 |
致谢 | 第100页 |