基于Spark并行LDA主题模型的研究
中文摘要 | 第3-4页 |
英文摘要 | 第4页 |
1 绪论 | 第8-14页 |
1.1 研究背景、目的及意义 | 第8-9页 |
1.2 国内外研究现状 | 第9-12页 |
1.2.1 主题模型发展情况 | 第9-11页 |
1.2.2 并行化LDA的研究现状 | 第11-12页 |
1.3 论文的主要研究内容及创新之处 | 第12页 |
1.3.1 论文的主要研究内容 | 第12页 |
1.4 论文的组织结构 | 第12-14页 |
2 相关理论知识 | 第14-27页 |
2.1 LDA相关知识 | 第14-22页 |
2.1.1 贝叶斯估计 | 第14页 |
2.1.2 共轭分布 | 第14-16页 |
2.1.3 Gibbs采样 | 第16-22页 |
2.2 Spark简介 | 第22-26页 |
2.2.1 Spark框架 | 第22页 |
2.2.2 RDD | 第22-24页 |
2.2.3 Spark任务调度 | 第24-26页 |
2.2.4 Spark的容错性 | 第26页 |
2.3 本章小结 | 第26-27页 |
3 基于Spark的主题模型 | 第27-53页 |
3.1 传统主题模型 | 第27-30页 |
3.2 基本LDA模型 | 第30-39页 |
3.2.1 LDA主题模型 | 第30-33页 |
3.2.2 Gibbs采样方法求解LDA模型 | 第33-37页 |
3.2.3 LDA模型的训练和推断 | 第37-39页 |
3.3 并行化LDA算法 | 第39-43页 |
3.3.1 AD-LDA算法 | 第39-41页 |
3.3.2 基于AD-LDA的算法改进 | 第41-43页 |
3.4 AD-LDA改进算法实现 | 第43-47页 |
3.5 基于Spark实现改进算法 | 第47-52页 |
3.6 本章小结 | 第52-53页 |
4 实验分析 | 第53-62页 |
4.1 实验环境 | 第53-55页 |
4.1.1 硬件环境 | 第53页 |
4.1.2 软件环境 | 第53-54页 |
4.1.3 数据来源 | 第54-55页 |
4.2 模型评价指标 | 第55-56页 |
4.3 实验参数 | 第56页 |
4.4 实验过程及结果分析 | 第56-60页 |
4.4.1 收敛速度 | 第56-58页 |
4.4.2 困惑度 | 第58-59页 |
4.4.3 加速比 | 第59-60页 |
4.5 本章小结 | 第60-62页 |
5 总结与展望 | 第62-64页 |
5.1 论文工作总结 | 第62页 |
5.2 下一步工作展望 | 第62-64页 |
致谢 | 第64-65页 |
参考文献 | 第65-68页 |