主题爬虫的研究与实现
摘要 | 第1-6页 |
Abstract | 第6-9页 |
第1章 绪论 | 第9-13页 |
·研究背景及意义 | 第9-10页 |
·研究现状 | 第10-11页 |
·研究内容及组织结构 | 第11-13页 |
第2章 主题爬虫研究 | 第13-23页 |
·爬虫工作原理 | 第13-17页 |
·抓取策略 | 第14页 |
·抓取权限 | 第14-15页 |
·信息提取 | 第15-16页 |
·动态网页的抓取 | 第16页 |
·网页的更新 | 第16-17页 |
·主题采集策略 | 第17-23页 |
·基于网页内容的方法 | 第17-19页 |
·基于Web链接分析的方法 | 第19-23页 |
第3章 主题爬虫的设计 | 第23-33页 |
·系统结构 | 第23-25页 |
·数据结构 | 第25-28页 |
·存储文件 | 第28-29页 |
·文本文件 | 第28页 |
·Url信息库 | 第28-29页 |
·网页信息库 | 第29页 |
·主题采集策略 | 第29-33页 |
第4章 主题爬虫的实现 | 第33-53页 |
·种子注入 | 第33-34页 |
·抓取 | 第34-41页 |
·HTTP文件抓取 | 第35-38页 |
·FTP文件抓取 | 第38-41页 |
·FILE文件抓取 | 第41页 |
·解析 | 第41-46页 |
·XML类文档解析 | 第41-44页 |
·Microsoft DOC类文档解析 | 第44-45页 |
·PDF文档解析 | 第45-46页 |
·文本训练及页面的主题判定 | 第46-49页 |
·Url更新及主题预测 | 第49-53页 |
第5章 测试与分析 | 第53-63页 |
·运行 | 第53-56页 |
·测试 | 第56-63页 |
·页面主题判定单元测试 | 第56-58页 |
·Url主题预测单元测试 | 第58-60页 |
·总体性能 | 第60-63页 |
第6章 结束语 | 第63-65页 |
·工作总结 | 第63页 |
·进一步工作 | 第63-65页 |
参考文献 | 第65-67页 |
致谢 | 第67-69页 |
硕士期间发表的论文 | 第69页 |