主题爬虫的实现及其关键技术研究
| 摘要 | 第1-5页 |
| Abstract | 第5-10页 |
| 第1章 绪论 | 第10-14页 |
| ·概述 | 第10-11页 |
| ·国内外研究现状 | 第11-13页 |
| ·本文的内容与组织结构 | 第13-14页 |
| 第2章 爬虫的体系结构 | 第14-22页 |
| ·搜索引擎简介 | 第14-16页 |
| ·搜索引擎的基本原理 | 第14-15页 |
| ·搜索引擎的分类 | 第15-16页 |
| ·通用爬虫的体系结构 | 第16-19页 |
| ·主题爬虫的体系结构 | 第19-21页 |
| ·本章小结 | 第21-22页 |
| 第3章 主题爬虫系统设计与分析 | 第22-38页 |
| ·系统总体设计 | 第22-24页 |
| ·系统模块设计 | 第22-23页 |
| ·系统流程设计 | 第23-24页 |
| ·网页的获取 | 第24-28页 |
| ·HTTP协议 | 第25-27页 |
| ·请求消息的格式 | 第25-26页 |
| ·响应消息的格式 | 第26-27页 |
| ·Socket通信 | 第27-28页 |
| ·网页内容的分析 | 第28-33页 |
| ·网页的类型 | 第28-29页 |
| ·网页的表示 | 第29-31页 |
| ·标签树的建立 | 第31-33页 |
| ·正文和超链的提取 | 第33页 |
| ·中文分词 | 第33-36页 |
| ·中文分词算法 | 第34-35页 |
| ·分词中的难题 | 第35-36页 |
| ·中科院分词系统 | 第36页 |
| ·本章小结 | 第36-38页 |
| 第4章 主题爬虫关键算法的研究与改进 | 第38-53页 |
| ·搜索策略的改进 | 第38-47页 |
| ·宏观上的搜索策略 | 第39页 |
| ·微观上的搜索策略 | 第39-45页 |
| ·简单实用的两种搜索策略 | 第40-42页 |
| ·基于内容的搜索策略 | 第42页 |
| ·基于链接的搜索策略 | 第42-44页 |
| ·各种策略的比较 | 第44-45页 |
| ·隧道现象 | 第45页 |
| ·常规解决方法 | 第45-46页 |
| ·常规方法的改进 | 第46-47页 |
| ·相关度算法的改进 | 第47-49页 |
| ·相关度计算的理论模型 | 第47-48页 |
| ·相关度计算的改进模型 | 第48-49页 |
| ·大规模网页的存储 | 第49-50页 |
| ·大规模URL的消重 | 第50-52页 |
| ·本章小结 | 第52-53页 |
| 第5章 系统实现和实验数据分析 | 第53-59页 |
| ·系统的实现 | 第53-56页 |
| ·系统平台 | 第53页 |
| ·数据库的实现 | 第53-54页 |
| ·系统的界面 | 第54-56页 |
| ·实验数据分析 | 第56-58页 |
| ·改进的搜索策略的实验结果分析 | 第56-57页 |
| ·改进的相关度计算的实验结果分析 | 第57页 |
| ·系统的整体运行效果 | 第57-58页 |
| ·本章小结 | 第58-59页 |
| 第6章 总结与展望 | 第59-60页 |
| 参考文献 | 第60-63页 |
| 致谢 | 第63-64页 |
| 攻读硕士学位期间发表的论文 | 第64页 |
