| 摘要 | 第5-7页 |
| ABSTRACT | 第7-8页 |
| 第1章 绪论 | 第12-19页 |
| 1.1 课题研究背景和意义 | 第12-13页 |
| 1.2 研究现状 | 第13-16页 |
| 1.2.1 基于网页URL的去重方法研究现状 | 第14页 |
| 1.2.2 基于网页正文结构特征的去重方法研究现状 | 第14-15页 |
| 1.2.3 基于网页正文内容的去重方法研究现状 | 第15-16页 |
| 1.3 研究的主要内容与创新点 | 第16-17页 |
| 1.3.1 研究内容 | 第16-17页 |
| 1.3.2 创新点 | 第17页 |
| 1.4 论文的章节安排 | 第17-19页 |
| 第2章 相关技术及研究 | 第19-29页 |
| 2.1 网络爬虫 | 第19-21页 |
| 2.2 主流近似镜像网页去重算法 | 第21-24页 |
| 2.2.1 DSC和DSC-SS算法 | 第21-22页 |
| 2.2.2 I-Match算法 | 第22-23页 |
| 2.2.3 SpotSigs算法 | 第23-24页 |
| 2.2.4 随机映射算法 | 第24页 |
| 2.3 网页去重相似度计算方法 | 第24-26页 |
| 2.3.1 Jaccard系数 | 第24-25页 |
| 2.3.2 余弦相似度 | 第25页 |
| 2.3.3 位运算和海明距离 | 第25-26页 |
| 2.4 网页去重算法的评判指标 | 第26-27页 |
| 2.4.1 准确率 | 第27页 |
| 2.4.2 召回率 | 第27页 |
| 2.4.3 F1值 | 第27页 |
| 2.5 本章小结 | 第27-29页 |
| 第3章 基于Simhash的长句提取近似镜像网页去重算法 | 第29-42页 |
| 3.1 近似镜像网页 | 第29-31页 |
| 3.1.1 近似镜像网页定义 | 第29页 |
| 3.1.2 近似镜像网页特征 | 第29-31页 |
| 3.2 Simhash算法 | 第31-36页 |
| 3.2.1 传统Hash算法与LSH算法 | 第31-32页 |
| 3.2.2 Simhash算法中Hash的应用 | 第32页 |
| 3.2.3 Simhash算法原理 | 第32-33页 |
| 3.2.4 Simhash算法描述 | 第33-36页 |
| 3.3 基于Simhash的长句提取近似镜像网页去重算法 | 第36-39页 |
| 3.3.1 问题描述 | 第36-37页 |
| 3.3.2 算法思想 | 第37-38页 |
| 3.3.3 算法描述 | 第38-39页 |
| 3.4 实验及结果分析 | 第39-41页 |
| 3.4.1 实验数据 | 第39-40页 |
| 3.4.2 实验分析 | 第40-41页 |
| 3.5 本章小结 | 第41-42页 |
| 第4章 基于Simhash的特殊权重比近似镜像网页去重算法 | 第42-50页 |
| 4.1 问题的描述 | 第42-44页 |
| 4.2 算法思想 | 第44-45页 |
| 4.3 算法描述 | 第45-46页 |
| 4.4 实验及结果分析 | 第46-48页 |
| 4.3.1 实验数据 | 第46-47页 |
| 4.3.2 实验分析 | 第47-48页 |
| 4.5 本章小结 | 第48-50页 |
| 第5章 自贸区企业动态信息系统应用实例 | 第50-65页 |
| 5.1 基于去重算法的自贸区企业动态信息监控系统设计与实现 | 第50-54页 |
| 5.1.1 系统应用场景分析 | 第50页 |
| 5.1.2 系统设计 | 第50-54页 |
| 5.2 系统开发环境介绍与实现 | 第54-60页 |
| 5.2.1 系统开发环境 | 第54-55页 |
| 5.2.2 WebCollector框架简介 | 第55页 |
| 5.2.3 ThinkPHP框架简介 | 第55-56页 |
| 5.2.4 系统实现 | 第56-60页 |
| 5.3 去重算法结果分析与自贸区企业动态信息系统展示 | 第60-64页 |
| 5.3.1 基于Simhash的长句提取网页去重算法的实验结果与分析 | 第60-61页 |
| 5.3.2 基于Simhash的特殊权重比网页去重算法的实验结果与分析 | 第61页 |
| 5.3.3 基于去重算法的自贸区企业动态信息监控系统 | 第61-64页 |
| 5.4 本章小结 | 第64-65页 |
| 第6章 总结与展望 | 第65-67页 |
| 6.1 论文总结 | 第65页 |
| 6.2 展望 | 第65-67页 |
| 参考文献 | 第67-71页 |
| 攻读硕士学位期间发表的学术论文 | 第71-72页 |
| 致谢 | 第72页 |
