基于Simhash的文本相似性检测研究与改进
摘要 | 第5-6页 |
abstract | 第6页 |
主要英文缩写与中英文对照表 | 第7-13页 |
第一章 引言 | 第13-19页 |
1.1 研究背景意义 | 第13-14页 |
1.2 国内外研究现状 | 第14-16页 |
1.2.1 国外研究现状 | 第14-15页 |
1.2.2 国内研究现状 | 第15-16页 |
1.3 研究内容及创新点 | 第16页 |
1.4 论文结构 | 第16-17页 |
1.5 本章小结 | 第17-19页 |
第二章 文本重复检测算法研究 | 第19-29页 |
2.1 文本相似度算法概述 | 第19-23页 |
2.1.1 布尔模型 | 第19-20页 |
2.1.2 向量空间模型 | 第20-22页 |
2.1.3 概率模型 | 第22-23页 |
2.1.4 基于本体论模型 | 第23页 |
2.2 Simhash算法的提出 | 第23-27页 |
2.2.1 Simhash算法原理 | 第24-25页 |
2.2.2 Simhash流程图 | 第25-26页 |
2.2.3 Simhash相似度计算方法 | 第26-27页 |
2.3 本章小结 | 第27-29页 |
第三章 基于Simhash文本重复检测算法分析 | 第29-37页 |
3.1 文本分词处理 | 第29-31页 |
3.1.1 中文分词 | 第29-30页 |
3.1.2 停用词过滤 | 第30-31页 |
3.2 Simhash指纹 | 第31-34页 |
3.2.1 获取目标文档特征 | 第31页 |
3.2.2 计算特征词权重 | 第31-33页 |
3.2.3 Simhash指纹储存 | 第33-34页 |
3.3 Simhash快速检索方法 | 第34-36页 |
3.4 本章小结 | 第36-37页 |
第四章 局部短文本重复检测改进 | 第37-47页 |
4.1 局部短文本介绍 | 第37-38页 |
4.1.1 短文本概念 | 第37-38页 |
4.1.2 局部短文本定义 | 第38页 |
4.2 相似局部短文本识别 | 第38-46页 |
4.2.1 局部短文本匹配 | 第38-41页 |
4.2.2 文本编辑距离计算 | 第41-44页 |
4.2.3 基于语义词典的相似计算方法 | 第44-46页 |
4.3 本章小结 | 第46-47页 |
第五章 实验设计与实现 | 第47-61页 |
5.1 实验设计思想和结构 | 第47-50页 |
5.1.1 实验设置和数据 | 第47-48页 |
5.1.2 实验流程 | 第48-50页 |
5.2 Simhash快速检索实验 | 第50-54页 |
5.2.1 指纹库建立时间 | 第51-52页 |
5.2.2 检索时间分析 | 第52-53页 |
5.2.3 检索召回率和正确率 | 第53-54页 |
5.3 局部相似文本识别测试 | 第54-56页 |
5.3.1 局部相似召回率和正确率分析 | 第55-56页 |
5.4 系统介绍 | 第56-59页 |
5.4.1 系统构架 | 第56-57页 |
5.4.2 系统实现 | 第57-59页 |
5.5 结果分析 | 第59-60页 |
5.6 本章小结 | 第60-61页 |
第六章 结论与展望 | 第61-63页 |
6.1 结论 | 第61页 |
6.2 进一步研究方向 | 第61-63页 |
总结与体会 | 第63-64页 |
致谢 | 第64-65页 |
参考文献 | 第65-69页 |
附录A 攻读硕士学位期间主要成果 | 第69-71页 |
附录B | 第71-89页 |