| 摘要 | 第4-5页 |
| abstract | 第5页 |
| 缩略词 | 第11-12页 |
| 第一章 绪论 | 第12-27页 |
| 1.1 研究背景和意义 | 第12-13页 |
| 1.2 国内外发展现状 | 第13-25页 |
| 1.2.1 网页正文提取 | 第13-18页 |
| 1.2.2 网页去重 | 第18-22页 |
| 1.2.3 Hadoop分布式系统 | 第22-25页 |
| 1.3 本文贡献 | 第25-27页 |
| 第二章 基于FW-DTSS的新闻网页正文内容提取新方法 | 第27-44页 |
| 2.1 引言 | 第27页 |
| 2.2 基于FW-DTSS的算法 | 第27-37页 |
| 2.2.1 源码预处理 | 第29-32页 |
| 2.2.2 虚词特征提取 | 第32-34页 |
| 2.2.3 正文样本抽取 | 第34-35页 |
| 2.2.4 DOM树结构特征提取 | 第35-36页 |
| 2.2.5 全文正文段抽取 | 第36-37页 |
| 2.2.6 评价标准 | 第37页 |
| 2.3 FW-DTSS的实验与分析 | 第37-43页 |
| 2.3.1 FW-DTSS的交叉实验 | 第37-42页 |
| 2.3.2 FW-DTSS实验的时间复杂度 | 第42-43页 |
| 2.3.3 FW-DTSS的整体表现 | 第43页 |
| 2.4 本章小结 | 第43-44页 |
| 第三章 基于FW-BF的网页去重新方法 | 第44-63页 |
| 3.1 引言 | 第44-46页 |
| 3.2 基于FW-BF的算法 | 第46-55页 |
| 3.2.1 网页特征提取 | 第46-47页 |
| 3.2.2 正文样本特征提取 | 第47-48页 |
| 3.2.3 基于虚词抽取正文样本 | 第48-50页 |
| 3.2.4 特征码提取 | 第50-51页 |
| 3.2.5 生成MD5值 | 第51-52页 |
| 3.2.6 生成BloomFilter | 第52-54页 |
| 3.2.7 相似度定义 | 第54页 |
| 3.2.8 评价标准 | 第54-55页 |
| 3.3 FW-BF实验与分析 | 第55-62页 |
| 3.3.1 FW-BF的交叉实验 | 第56-61页 |
| 3.3.2 FW-BF实验的时间复杂度 | 第61-62页 |
| 3.3.3 FW-BF的整体表现 | 第62页 |
| 3.4 本章小结 | 第62-63页 |
| 第四章 基于Hadoop的阅读系统的设计与实现 | 第63-74页 |
| 4.1 基于Hadoop的阅读系统设计 | 第63-69页 |
| 4.1.1 Hadoop平台搭建 | 第63-64页 |
| 4.1.2 URL过滤 | 第64页 |
| 4.1.3 系统功能主题部分设计 | 第64-68页 |
| 4.1.4 MapReduce中新闻提取算法 | 第68-69页 |
| 4.1.5 新闻存储 | 第69页 |
| 4.2 阅读系统的实现 | 第69-73页 |
| 4.2.1 系统概要 | 第69-70页 |
| 4.2.2 功能介绍 | 第70-73页 |
| 4.3 本章小结 | 第73-74页 |
| 第五章 总结和展望 | 第74-76页 |
| 5.1 总结 | 第74-75页 |
| 5.2 展望 | 第75-76页 |
| 参考文献 | 第76-80页 |
| 致谢 | 第80-81页 |
| 在学期间的研究成果及发表的学术论文 | 第81页 |