摘要 | 第4-5页 |
abstract | 第5-6页 |
第一章 绪论 | 第9-15页 |
1.1 研究背景与意义 | 第9-10页 |
1.2 国内外研究历史与现状 | 第10-13页 |
1.3 论文的研究内容和主要工作 | 第13页 |
1.4 论文的组织结构 | 第13-15页 |
第二章 相关理论与技术基础 | 第15-31页 |
2.1 Spark相关技术 | 第15-21页 |
2.1.1 核心引擎(SparkCore) | 第16-18页 |
2.1.2 结构化数据(SparkSQL) | 第18-19页 |
2.1.3 实时流计算(SparkStreaming) | 第19-20页 |
2.1.4 机器学习(MLlib) | 第20页 |
2.1.5 图计算(GraphX) | 第20-21页 |
2.2 文本处理相关技术 | 第21-27页 |
2.2.1 中文自动分词 | 第21-22页 |
2.2.2 去除停用词 | 第22-23页 |
2.2.3 文本表示模型 | 第23-27页 |
2.2.4 文本相似度计算 | 第27页 |
2.3 Word2vec词向量模型 | 第27-30页 |
2.4 网络爬虫技术 | 第30页 |
2.5 本章小结 | 第30-31页 |
第三章 基于单遍聚类算法的并行化话题检测 | 第31-41页 |
3.1 传统话题检测的特点分析 | 第31-32页 |
3.2 并行化话题检测的流程设计 | 第32-33页 |
3.3 并行化的文本表示 | 第33-36页 |
3.3.1 文本预处理 | 第33-34页 |
3.3.2 文本特征提取 | 第34-35页 |
3.3.3 文本并行向量化 | 第35-36页 |
3.4 并行化的文本聚类 | 第36-38页 |
3.4.1 文本相似度计算 | 第36-37页 |
3.4.2 并行化的单遍聚类算法 | 第37-38页 |
3.5 基于Spark的并行化话题检测实现 | 第38-40页 |
3.6 本章小结 | 第40-41页 |
第四章 基于频繁词集的并行化话题跟踪 | 第41-51页 |
4.1 传统话题跟踪的特点分析 | 第41-42页 |
4.2 并行化话题跟踪的流程设计 | 第42-43页 |
4.3 基于频繁模式增长算法的频繁词集话题表示 | 第43-45页 |
4.3.1 频繁词集挖掘 | 第43-44页 |
4.3.2 基于频繁模式增长算法的频繁词集挖掘算法 | 第44-45页 |
4.4 频繁词集相似度计算 | 第45-48页 |
4.4.1 基于Word2vec词向量模型的频繁词向量集 | 第46页 |
4.4.2 基于EMD的相似度计算 | 第46-48页 |
4.5 基于Spark的并行化话题跟踪实现 | 第48-50页 |
4.6 本章小结 | 第50-51页 |
第五章 网络信息采集与实验测评 | 第51-68页 |
5.1 网络信息采集 | 第51-54页 |
5.1.1 分布式网络爬虫工作原理 | 第51-53页 |
5.1.2 分布式网络爬虫系统的实现 | 第53-54页 |
5.2 实验设计 | 第54-59页 |
5.2.1 实验环境 | 第54-55页 |
5.2.2 实验数据 | 第55-56页 |
5.2.3 实验评价指标 | 第56-59页 |
5.3 基于单遍聚类的并行化话题检测实验结果分析 | 第59-63页 |
5.3.1 话题检测准确性分析 | 第59-61页 |
5.3.2 话题检测并行化性能分析 | 第61-63页 |
5.4 基于频繁词集的并行化话题跟踪实验结果分析 | 第63-67页 |
5.4.1 话题跟踪准确性分析 | 第63-65页 |
5.4.2 话题跟踪并行化性能分析 | 第65-67页 |
5.5 本章小结 | 第67-68页 |
第六章 总结与展望 | 第68-70页 |
6.1 全文总结 | 第68页 |
6.2 未来工作展望 | 第68-70页 |
致谢 | 第70-71页 |
参考文献 | 第71-74页 |