基于词向量的短文本主题建模研究
摘要 | 第4-5页 |
Abstract | 第5页 |
1 绪论 | 第8-12页 |
1.1 研究背景 | 第8页 |
1.2 国内外研究现状与发展趋势 | 第8-9页 |
1.3 研究目标及意义 | 第9-11页 |
1.4 文章结构 | 第11-12页 |
2 相关工作 | 第12-16页 |
2.1 常规文档上的主题模型 | 第12页 |
2.2 适用于短文本的主题模型 | 第12-14页 |
2.3 结合词向量的短文本主题模型 | 第14-16页 |
3 相关研究技术与理论基础 | 第16-32页 |
3.1 文本预处理 | 第16-17页 |
3.1.1 收集数据 | 第16页 |
3.1.2 预处理 | 第16-17页 |
3.2 Lucene信息检索包 | 第17-21页 |
3.2.1 创建索引 | 第19-20页 |
3.2.2 搜索过程 | 第20-21页 |
3.3 LDA主题模型 | 第21-24页 |
3.3.1 核心方法介绍 | 第21-23页 |
3.3.2 参数估计 | 第23-24页 |
3.4 BTM基于二元组的主题建模技术 | 第24-27页 |
3.4.1 二元组抽取 | 第25页 |
3.4.2 BTM模型算法介绍 | 第25-26页 |
3.4.3 BTM模型的特点 | 第26-27页 |
3.5 词嵌入技术 | 第27-32页 |
3.5.1 神经网络语言模型 | 第27-28页 |
3.5.2 词嵌入 | 第28-29页 |
3.5.3 word2vec工具 | 第29-32页 |
4 狄利克雷多项式模型扩展 | 第32-42页 |
4.1 狄利克雷多项式模型 | 第32-33页 |
4.2 基于词嵌入的辅助知识 | 第33-34页 |
4.3 利用GPU模型引入词嵌入 | 第34-42页 |
4.3.1 一般化波利亚罐子模型 | 第34-36页 |
4.3.2 单词过滤 | 第36-37页 |
4.3.3 模型推导 | 第37-39页 |
4.3.4 模型复杂度 | 第39-42页 |
5 实验 | 第42-54页 |
5.1 数据集 | 第42-43页 |
5.1.1 百度知道标题 | 第42页 |
5.1.2 搜索引擎摘要 | 第42-43页 |
5.2 实验设置 | 第43-45页 |
5.2.1 词嵌入设置 | 第43-44页 |
5.2.2 模型以及参数设置 | 第44-45页 |
5.3 主题一致性实验 | 第45-46页 |
5.4 短文本分类实验 | 第46-51页 |
5.4.1 文档主题分布推导 | 第47-49页 |
5.4.2 文档分类准确率 | 第49-50页 |
5.4.3 波利亚罐子模型促进量¨的影响 | 第50-51页 |
5.5 模型效率 | 第51-54页 |
6 总结与未来工作 | 第54-56页 |
6.1 工作总结 | 第54页 |
6.2 未来工作 | 第54-56页 |
参考文献 | 第56-60页 |
攻读硕士学位期间学术成果 | 第60-61页 |
致谢 | 第61-62页 |