基于Storm的微博聚类算法的研究与实现
致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
1 引言 | 第11-17页 |
1.1 研究背景及意义 | 第11-12页 |
1.2 国内外研究现状 | 第12-15页 |
1.2.1 微博研究现状 | 第12-13页 |
1.2.2 短文本聚类研究现状 | 第13-15页 |
1.3 论文主要研究内容和工作 | 第15页 |
1.4 论文组织结构和安排 | 第15-17页 |
2 微博聚类和大数据相关技术 | 第17-31页 |
2.1 微博文本的特点 | 第17页 |
2.2 文本相似性度量 | 第17-20页 |
2.3 主题模型 | 第20-23页 |
2.3.1 LSA与PLSA | 第20-21页 |
2.3.2 LDA主题模型 | 第21-23页 |
2.4 经典的微博聚类算法 | 第23-28页 |
2.4.1 聚类算法的概述 | 第23-24页 |
2.4.2 聚类算法的分类 | 第24-25页 |
2.4.3 聚类算法的相似性度量方法 | 第25-26页 |
2.4.4 聚类准则函数 | 第26-27页 |
2.4.5 聚类的评价指标 | 第27-28页 |
2.5 Storm系统介绍 | 第28-30页 |
2.5.1 Storm整体架构 | 第28-29页 |
2.5.2 Storm中的术语描述 | 第29-30页 |
2.6 本章小结 | 第30-31页 |
3 LDA主题建模及K-means算法的优化改进 | 第31-55页 |
3.1 微博数据获取及预处理方法 | 第31-33页 |
3.2 传统的K-means聚类算法 | 第33-35页 |
3.3 LDA结合K-means算法 | 第35-40页 |
3.3.1 向量空间模型的不足 | 第35-36页 |
3.3.2 引入LDA的K-means算法 | 第36-40页 |
3.4 K-means算法的优化改进 | 第40-46页 |
3.4.1 K-means算法存在的不足 | 第40-41页 |
3.4.2 基于数据分布选取初始聚类中心的优化 | 第41-43页 |
3.4.3 基于信息熵的加权欧氏距离的优化 | 第43-46页 |
3.5 实验结果及分析 | 第46-54页 |
3.6 本章小结 | 第54-55页 |
4 算法的并行化设计与实现 | 第55-65页 |
4.1 Kafka消息队列系统的研究 | 第55-57页 |
4.2 K-means改进算法的并行化设计与实现 | 第57-60页 |
4.3 实验结果及分析 | 第60-63页 |
4.4 本章小结 | 第63-65页 |
5 总结与展望 | 第65-67页 |
5.1 论文总结 | 第65页 |
5.2 研究展望 | 第65-67页 |
参考文献 | 第67-71页 |
作者简历及攻读硕士学位期间取得的研究成果 | 第71-73页 |
学位论文数据集 | 第73页 |