摘要 | 第1-4页 |
Abstract | 第4-8页 |
1 绪论 | 第8-13页 |
·研究背景 | 第8-9页 |
·研究意义 | 第9-10页 |
·本文研究内容 | 第10-11页 |
·本文组织结构 | 第11-13页 |
2 近似网页检测算法综述 | 第13-24页 |
·近似网页的定义 | 第13-14页 |
·近似网页检测研究现状 | 第14-15页 |
·近似网页检测算法通用模型 | 第15-21页 |
·特征提取算法 | 第16-18页 |
·特征指纹生成算法 | 第18-20页 |
·文本距离计算方法 | 第20-21页 |
·近似网页检测算法评价指标 | 第21页 |
·现有近似网页检测算法分析 | 第21-23页 |
·本章小结 | 第23-24页 |
3 基于加权DOM树的网页正文提取算法 | 第24-40页 |
·网页噪声概述 | 第24-25页 |
·网页正文提取算法分析 | 第25-26页 |
·基于加权DOM树的网页正文提取算法 | 第26-32页 |
·基本概念 | 第26-27页 |
·算法思想 | 第27-28页 |
·算法描述 | 第28-31页 |
·算法对比与分析 | 第31-32页 |
·实验数据与分析 | 第32-38页 |
·实验环境和实验所用技术 | 第32-33页 |
·单个网页的实验结果 | 第33-36页 |
·多个网页的实验结果 | 第36-37页 |
·实验数据分析 | 第37-38页 |
·本章小结 | 第38-40页 |
4 基于段落指纹的近似网页检测算法 | 第40-62页 |
·算法的提出 | 第40-41页 |
·算法的描述 | 第41-44页 |
·算法总体流程的形式化描述 | 第41-43页 |
·算法核心问题分析 | 第43-44页 |
·基于加权长句的段落特征提取算法 | 第44-46页 |
·段落长句提取 | 第44页 |
·段落长句权重计算 | 第44-46页 |
·基于SimHash的段落指纹生成算法 | 第46-49页 |
·SimHash算法思想 | 第47页 |
·段落指纹生成算法描述 | 第47-49页 |
·网页相似度计算 | 第49-50页 |
·算法的分析与优化 | 第50-52页 |
·实验数据与分析 | 第52-61页 |
·实验环境 | 第52-53页 |
·实验内容和实验数据集 | 第53页 |
·本文算法实验数据与分析 | 第53-57页 |
·本文算法与已有算法的对比分析 | 第57-61页 |
·本章小结 | 第61-62页 |
5 基于MapReduce的近似网页检测算法并行化设计 | 第62-81页 |
·MapReduce计算模型 | 第62-65页 |
·MapReduce概述 | 第62-63页 |
·MapReduce执行流程 | 第63-64页 |
·Hadoop的开源MapReduce框架 | 第64-65页 |
·近似网页检测算法的并行化设计 | 第65-73页 |
·总体框架 | 第65-66页 |
·段落指纹索引的建立 | 第66-68页 |
·近似网页的检测 | 第68-72页 |
·段落指纹索引的更新 | 第72-73页 |
·实验数据与分析 | 第73-80页 |
·实验环境 | 第73-74页 |
·实验内容和实验数据集 | 第74-75页 |
·算法MapReduce化的实现 | 第75-77页 |
·实验数据分析 | 第77-80页 |
·本章小结 | 第80-81页 |
6 总结与展望 | 第81-83页 |
·工作总结 | 第81-82页 |
·工作展望 | 第82-83页 |
致谢 | 第83-84页 |
参考文献 | 第84-88页 |