摘 要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第1章 绪论 | 第14-20页 |
1.1 研究背景及意义 | 第14-16页 |
1.1.1 大规模数据流处理 | 第14页 |
1.1.2 数据流场景下频繁模式挖掘 | 第14-16页 |
1.2 当前研究现状 | 第16-18页 |
1.3 本文研究内容 | 第18-19页 |
1.4 论文的组织结构 | 第19-20页 |
第2章 相关技术 | 第20-36页 |
2.1 分布式架构下频繁模式挖掘 | 第20-28页 |
2.1.1 基于Apriori的并行频繁模式挖掘算法 | 第21-24页 |
2.1.2 基于FP-Growth的并行频繁模式挖掘算法 | 第24-28页 |
2.2 Spark轻量级集群计算平台 | 第28-33页 |
2.2.1 RDD:弹性分布式数据集 | 第28-29页 |
2.2.2 Spark分布式计算架构 | 第29-31页 |
2.2.3 Spark Streaming分布式流处理框架 | 第31-33页 |
2.3 Kafka分布式消息系统 | 第33-34页 |
2.3.1 Kafka架构与设计原则 | 第33-34页 |
2.3.2 分布式协调机制 | 第34页 |
2.3.3 消息传递保证 | 第34页 |
2.4 本章小结 | 第34-36页 |
第3章 大规模数据流的频繁模式挖掘 | 第36-56页 |
3.1 大规模数据流场景下频繁模式挖掘 | 第36-37页 |
3.2 相关知识 | 第37-40页 |
3.2.1 数据流的介绍 | 第37页 |
3.2.2 前缀树结构 | 第37-39页 |
3.2.3 FP-Growth算法 | 第39-40页 |
3.3 针对大规模数据流的频繁模式挖掘算法:BPFPMS | 第40-42页 |
3.4 状态管理:DPTS-Tree | 第42-51页 |
3.4.1 DPTS-Tree模型与构成 | 第42-45页 |
3.4.2 DPTS-Tree状态管理 | 第45-47页 |
3.4.3 DPTS-Tree状态改变 | 第47-49页 |
3.4.4 DPTS-Tree特点的总结 | 第49-51页 |
3.5 分布式架构下的动态负载均衡 | 第51-53页 |
3.5.1 基于路径深度的负载预估方法 | 第51-52页 |
3.5.2 动态的负载均衡分组策略 | 第52-53页 |
3.6 并行的FP-Growth算法 | 第53页 |
3.7 BPFPMS的特点 | 第53-54页 |
3.8 本章小结 | 第54-56页 |
第4章 实验的设计与实现 | 第56-68页 |
4.1 流数据处理平台框架 | 第56-58页 |
4.2 评价标准 | 第58-59页 |
4.2.1 吞吐量 | 第58页 |
4.2.2 加速比 | 第58页 |
4.2.3 时延 | 第58页 |
4.2.4 负载均衡影响率 | 第58页 |
4.2.5 状态压缩效率 | 第58-59页 |
4.3 实验设计 | 第59-60页 |
4.3.1 对比实验的设计 | 第59页 |
4.3.2 相关参数的设置 | 第59-60页 |
4.4 实验结果分析与总结 | 第60-66页 |
4.4.1 吞吐量结果与分析 | 第61-63页 |
4.4.2 加速比结果与分析一 | 第63页 |
4.4.3 单位时间完成任务量的结果与分析 | 第63-64页 |
4.4.4 负载均衡影响效率结果与分析 | 第64-65页 |
4.4.5 状态压缩效率结果与分析 | 第65-66页 |
4.4.6 实验总结 | 第66页 |
4.5 本章小结 | 第66-68页 |
第5章 总结与展望 | 第68-70页 |
5.1 论文工作总结 | 第68页 |
5.2 未来研究展望 | 第68-70页 |
参考文献 | 第70-74页 |
致谢 | 第74-76页 |
在读期间发表的学术论文与取得的研究成果 | 第76页 |