| 摘要 | 第4-5页 |
| Abstract | 第5-6页 |
| 目录 | 第7-9页 |
| 1 绪论 | 第9-15页 |
| 1.1 课题研究背景 | 第9-10页 |
| 1.2 网页清洗的概念及意义 | 第10-13页 |
| 1.2.1 重复网页的清洗 | 第10-11页 |
| 1.2.2 噪声的清洗 | 第11-13页 |
| 1.3 研究的主要内容 | 第13-14页 |
| 1.4 论文的组织结构 | 第14-15页 |
| 2 网页清洗相关支撑技术研究 | 第15-24页 |
| 2.1 分词 | 第15-16页 |
| 2.2 去停用词 | 第16-17页 |
| 2.3 相似度的计算 | 第17-18页 |
| 2.3.1 余弦距离 | 第17-18页 |
| 2.3.2 欧氏距离 | 第18页 |
| 2.3.3 汉明距离(Hamming Distance) | 第18页 |
| 2.3.4 杰卡德系数(Jacard Coefficient) | 第18页 |
| 2.4 特征关键词的选取 | 第18-20页 |
| 2.5 网页去重算法 | 第20-23页 |
| 2.5.1 DSC以及DSC改进算法 | 第20-21页 |
| 2.5.2 simHash相似网页识别算法 | 第21-22页 |
| 2.5.3 SCAM算法 | 第22页 |
| 2.5.4 国内网页检测算法 | 第22-23页 |
| 2.5.5 对现有算法的评价 | 第23页 |
| 2.6 本章小结 | 第23-24页 |
| 3 网页噪声清洗 | 第24-39页 |
| 3.1 现有噪声清洗(正文提取)方法分析 | 第24-26页 |
| 3.2 基于DOM结构树及其特征信息的正文提取 | 第26-35页 |
| 3.2.1 网页DOM树的表示 | 第26-29页 |
| 3.2.2 节点集的预处理 | 第29-31页 |
| 3.2.3 DOM节点词叶率的计算 | 第31-32页 |
| 3.2.4 网页正文块的确定 | 第32-35页 |
| 3.3 实验结果分析 | 第35-38页 |
| 3.3.1 评价标准 | 第35-36页 |
| 3.3.2 实验数据集 | 第36页 |
| 3.3.3 实验数据分析 | 第36-38页 |
| 3.4 本章小结 | 第38-39页 |
| 4 网页去重技术研究 | 第39-60页 |
| 4.1 网页文本分割 | 第39-45页 |
| 4.1.1 网页分割的概念及分析 | 第39-40页 |
| 4.1.2 DTSF主题分割算法 | 第40-45页 |
| 4.1.3 DTSF算法实验数据分析 | 第45页 |
| 4.2 关键句的提取 | 第45-47页 |
| 4.3 关键句的指纹表示 | 第47-49页 |
| 4.4 网页库的过滤 | 第49-50页 |
| 4.5 指纹的检索比对 | 第50-54页 |
| 4.6 实验数据分析 | 第54-59页 |
| 4.6.1 算法评价标准 | 第54-55页 |
| 4.6.2 实验环境 | 第55页 |
| 4.6.3 实验数据集 | 第55-56页 |
| 4.6.4 实验结果分析 | 第56-59页 |
| 4.7 本章小结 | 第59-60页 |
| 5 总结与展望 | 第60-63页 |
| 5.1 研究工作总结 | 第60-62页 |
| 5.2 研究工作展望 | 第62-63页 |
| 参考文献 | 第63-69页 |
| 攻读学位期间主要的研究成果 | 第69-70页 |
| 致谢 | 第70页 |