基于Spark的近邻传播聚类及其增量算法的研究与应用
摘要 | 第4-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第11-16页 |
1.1 研究背景和选题意义 | 第11-12页 |
1.2 国内外研究现状 | 第12-14页 |
1.2.1 聚类算法的研究现状 | 第12页 |
1.2.2 分布式并行聚类相关技术 | 第12-13页 |
1.2.3 手机病毒挖掘的研究现状 | 第13-14页 |
1.3 主要研究内容 | 第14页 |
1.4 论文组织结构 | 第14-16页 |
第二章 聚类挖掘和分布式计算框架相关理论 | 第16-27页 |
2.1 聚类基本概念 | 第16-21页 |
2.1.1 聚类分析概述 | 第16-18页 |
2.1.2 聚类的相似性度量 | 第18-19页 |
2.1.3 常用的聚类算法 | 第19-21页 |
2.2 Spark分布式平台 | 第21-26页 |
2.2.1 Spark概述 | 第21页 |
2.2.2 弹性分布式数据集 | 第21-23页 |
2.2.3 Spark工作原理 | 第23-24页 |
2.2.4 Spark GraphX | 第24-26页 |
2.2.5 Spark MLlib | 第26页 |
2.3 本章小结 | 第26-27页 |
第三章 基于Spark的近邻传播聚类算法研究 | 第27-34页 |
3.1 近邻传播聚类算法 | 第27-30页 |
3.1.1 算法原理 | 第27-29页 |
3.1.2 近邻传播聚类算法的实现 | 第29页 |
3.1.3 近邻传播聚类算法分析 | 第29-30页 |
3.2 基于Spark的分布式近邻传播聚类算法 | 第30-33页 |
3.2.1 分布式图设计 | 第30-31页 |
3.2.2 基于Spark的近邻传播聚类算法实现 | 第31-33页 |
3.3 本章小结 | 第33-34页 |
第四章 基于Spark的增量近邻传播聚类算法研究 | 第34-41页 |
4.1 增量近邻传播聚类算法 | 第34-37页 |
4.1.1 算法描述 | 第34-36页 |
4.1.2 增量算法流程 | 第36-37页 |
4.2 增量近邻传播聚类算法的并行化实现 | 第37-40页 |
4.2.1 并行化设计 | 第37-38页 |
4.2.2 并行化实现 | 第38-40页 |
4.3 本章小结 | 第40-41页 |
第五章 分布式手机病毒聚类挖掘子系统 | 第41-52页 |
5.1 分布式手机病毒检测系统概述 | 第41-42页 |
5.2 聚类子系统设计 | 第42-44页 |
5.2.1 聚类挖掘子系统的总体功能设计 | 第42-43页 |
5.2.2 聚类子系统功能流程设计 | 第43-44页 |
5.3 系统模块设计及实现 | 第44-51页 |
5.3.1 数据库的设计 | 第44-45页 |
5.3.2 手机病毒数据预处理 | 第45-47页 |
5.3.3 文件上传模块 | 第47页 |
5.3.4 建模模块 | 第47-49页 |
5.3.5 增量建模模块 | 第49-50页 |
5.3.6 聚类结果展示模块 | 第50-51页 |
5.4 本章小结 | 第51-52页 |
第六章 算法性能分析与系统测试 | 第52-65页 |
6.1 系统开发平台 | 第52页 |
6.2 聚类算法的评价标准 | 第52-55页 |
6.2.1 纯净度(Purity) | 第53页 |
6.2.2 RandIndex值(RI) | 第53-54页 |
6.2.3 NMI | 第54页 |
6.2.4 精准度Precision | 第54页 |
6.2.5 召回率Recall | 第54-55页 |
6.2.6 F-Measure | 第55页 |
6.3 测试结果评价 | 第55-64页 |
6.3.1 聚类算法性能的对比 | 第55-56页 |
6.3.2 分布式性能测试 | 第56-57页 |
6.3.3 阻尼因子对比 | 第57-58页 |
6.3.4 建模结果 | 第58-61页 |
6.3.5 增量建模结果 | 第61-63页 |
6.3.6 建模结果分析 | 第63-64页 |
6.4 本章小结 | 第64-65页 |
第七章 总结与展望 | 第65-67页 |
7.1 本文总结 | 第65-66页 |
7.2 未来展望 | 第66-67页 |
参考文献 | 第67-70页 |
致谢 | 第70-71页 |
攻读研究生期间发表的学术论文 | 第71页 |