面向海量短文本去重技术的研究与实现
| 摘要 | 第1-11页 |
| ABSTRACT | 第11-13页 |
| 第一章 绪论 | 第13-17页 |
| ·问题的提出 | 第13-14页 |
| ·相关的概念 | 第14页 |
| ·国内外研究现状 | 第14-15页 |
| ·本文的工作 | 第15-17页 |
| ·研究目标与内容 | 第15-16页 |
| ·研究成果 | 第16页 |
| ·文章组织结构 | 第16-17页 |
| 第二章 相关技术研究 | 第17-23页 |
| ·中文处理 | 第17-18页 |
| ·文本表示 | 第17-18页 |
| ·特征值权重 | 第18页 |
| ·文本特征矩阵 | 第18页 |
| ·域匹配技术 | 第18-19页 |
| ·基于字符串的相似矩阵 | 第18-19页 |
| ·基于令牌相似矩阵 | 第19页 |
| ·基于语音相似的矩阵 | 第19页 |
| ·基于数字相似矩阵 | 第19页 |
| ·发现重复记录 | 第19-22页 |
| ·文本自动分类 | 第20页 |
| ·文本自动聚类 | 第20-21页 |
| ·基于规则的方法 | 第21-22页 |
| ·基于距离的方法 | 第22页 |
| ·本章小结 | 第22-23页 |
| 第三章 海量短文本完全去重 | 第23-39页 |
| ·基本概念 | 第23-27页 |
| ·短文本的组成结构 | 第23-24页 |
| ·相关定义 | 第24页 |
| ·相关算法研究 | 第24-27页 |
| ·符号表 | 第27页 |
| ·ARFA算法描述 | 第27-32页 |
| ·关联规则 | 第28-30页 |
| ·特征码 | 第30页 |
| ·ARFA算法 | 第30-32页 |
| ·ARFA实现过程 | 第32-35页 |
| ·利用分层树实现ARFA | 第32-34页 |
| ·ARFA伪代码 | 第34-35页 |
| ·ARFA算法实验分析 | 第35-38页 |
| ·运行时间与压缩比实验分析 | 第35-36页 |
| ·取特征码实验分析 | 第36-38页 |
| ·本章小结 | 第38-39页 |
| 第四章 海量短文本相似度去重 | 第39-51页 |
| ·基本概念 | 第39-41页 |
| ·相关定义 | 第39-40页 |
| ·相关算法研究 | 第40-41页 |
| ·符号表 | 第41页 |
| ·ARFA-SA算法描述 | 第41-45页 |
| ·文本的布尔表示 | 第42页 |
| ·相似度计算 | 第42-43页 |
| ·相似度假设 | 第43-44页 |
| ·ARFA-SA算法 | 第44-45页 |
| ·ARFA-SA实现过程 | 第45-47页 |
| ·RB-树 | 第45页 |
| ·相似度计算过程 | 第45-47页 |
| ·ARFA-SA算法伪代码 | 第47页 |
| ·ARFA-SA算法实验分析 | 第47-50页 |
| ·文本的相似度 | 第47-48页 |
| ·频繁度对ARFA-SA运行时间的影响 | 第48-49页 |
| ·ARFA-SA算法运行时间及压缩比分析 | 第49-50页 |
| ·本章小结 | 第50-51页 |
| 第五章 自动去重在文本挖掘系统中的应用 | 第51-60页 |
| ·海量短文本挖掘体系结构 | 第51-52页 |
| ·自动去重与其它系统模块之间的关系 | 第52-53页 |
| ·自动去重模块体系结构设计 | 第53-54页 |
| ·自动发现重复 | 第54-57页 |
| ·群发用户报告 | 第54-55页 |
| ·集中接收方报告 | 第55-56页 |
| ·发现相关源ID | 第56-57页 |
| ·数据存储优化 | 第57-59页 |
| ·删除重复记录 | 第57-58页 |
| ·合并重复记录 | 第58-59页 |
| ·本章小结 | 第59-60页 |
| 第六章 总结与展望 | 第60-62页 |
| ·论文总结工作 | 第60页 |
| ·前景与展望 | 第60-62页 |
| 致谢 | 第62-64页 |
| 参考文献 | 第64-70页 |
| 作者在学期间参加的科研项目 | 第70-71页 |
| 作者在学期间取得的学术成果 | 第71页 |
