主题搜索引擎中的爬取技术研究
| 摘要 | 第1-10页 |
| ABSTRACT | 第10-11页 |
| 第一章 绪论 | 第11-17页 |
| ·论文背景 | 第11-12页 |
| ·国内外研究现状 | 第12-14页 |
| ·CORA 系统 | 第12页 |
| ·IBM Focused Crawler 系统 | 第12-13页 |
| ·北大天网主题搜索 | 第13页 |
| ·南京大学的IDGS | 第13-14页 |
| ·论文主要工作 | 第14-15页 |
| ·论文组织结构 | 第15-17页 |
| 第二章 相关理论 | 第17-26页 |
| ·Web 页面的分布特征 | 第17-19页 |
| ·H/A 特征 | 第17-18页 |
| ·主题关联特征 | 第18-19页 |
| ·爬虫结构分析 | 第19-22页 |
| ·普通爬虫的工作流程 | 第19-21页 |
| ·主题爬虫的工作流程 | 第21-22页 |
| ·普通爬虫的爬行算法 | 第22-25页 |
| ·深度优先爬行算法 | 第22-23页 |
| ·广度优先爬行算法 | 第23-24页 |
| ·链接优先级排序 | 第24-25页 |
| ·本章小结 | 第25-26页 |
| 第三章 基于标签属性的网页去噪方法 | 第26-35页 |
| ·基本概念 | 第26-28页 |
| ·HTML 结构 | 第26-27页 |
| ·TFIDF 权重 | 第27-28页 |
| ·文本信息模型 | 第28页 |
| ·去噪算法思想 | 第28-32页 |
| ·算法依据 | 第28-29页 |
| ·相似性计算 | 第29-30页 |
| ·极大相容类 | 第30-31页 |
| ·算法描述 | 第31-32页 |
| ·实验分析 | 第32-33页 |
| ·实验数据和分类器选择 | 第32页 |
| ·评测标准 | 第32-33页 |
| ·实验结果及分析 | 第33页 |
| ·本章小结 | 第33-35页 |
| 第四章 基于动态隧道技术的爬行算法 | 第35-46页 |
| ·主题爬行算法 | 第35-37页 |
| ·基于内容分析的爬行算法 | 第35-36页 |
| ·基于链接分析的爬行算法 | 第36-37页 |
| ·两类爬行算法的比较 | 第37页 |
| ·主题漂移问题的解决 | 第37-39页 |
| ·BFS 算法的改进 | 第37-38页 |
| ·新算法中的链接分析 | 第38-39页 |
| ·主题孤岛问题分析 | 第39-45页 |
| ·主题孤岛问题 | 第39-40页 |
| ·现有爬行算法的缺陷 | 第40-42页 |
| ·解决主题孤岛的思想 | 第42-45页 |
| ·本章小结 | 第45-46页 |
| 第五章 主题爬虫设计与实现 | 第46-60页 |
| ·Nutch 简要分析 | 第46-48页 |
| ·Nutch 结构 | 第46-47页 |
| ·Nutch 工作流程 | 第47-48页 |
| ·主题搜索引擎设计与实现 | 第48-53页 |
| ·系统总体框架 | 第48页 |
| ·系统主要模块的设计 | 第48-50页 |
| ·系统实现方案 | 第50-53页 |
| ·实验平台与运行环境 | 第53-54页 |
| ·系统部署 | 第53页 |
| ·运行环境 | 第53-54页 |
| ·系统测试与分析 | 第54-59页 |
| ·测试方案 | 第54-55页 |
| ·测试结果及分析 | 第55-59页 |
| ·本章小结 | 第59-60页 |
| 第六章 总结与展望 | 第60-62页 |
| ·主要工作及创新点 | 第60页 |
| ·未来工作展望 | 第60-62页 |
| 致谢 | 第62-63页 |
| 参考文献 | 第63-67页 |
| 作者在学期间取得的学术成果 | 第67页 |