摘要 | 第1-5页 |
ABSTRACT | 第5-9页 |
第一章 引言 | 第9-15页 |
·研究背景 | 第9-10页 |
·国内外研究现状 | 第10-13页 |
·网络爬虫 | 第10-11页 |
·聚焦网络爬虫 | 第11页 |
·Deep Web 网络爬虫 | 第11-12页 |
·基于模板化的网络爬虫技术 | 第12-13页 |
·本文研究内容 | 第13-15页 |
第二章 与网络爬虫技术相关的研究工作 | 第15-35页 |
·搜索引擎 | 第15-16页 |
·原理 | 第15页 |
·种类 | 第15-16页 |
·传统爬虫技术 | 第16-19页 |
·基本框架 | 第16-17页 |
·工作原理 | 第17页 |
·搜索策略 | 第17-19页 |
·正则表达式 | 第19-20页 |
·页面分析 | 第20-21页 |
·模板 | 第21-34页 |
·使用模板的优点 | 第22页 |
·模板的组织形式及使用 | 第22-30页 |
·配置文件 | 第23-24页 |
·模板库 | 第24-27页 |
·其他数据库表 | 第27-29页 |
·网站分析 | 第29-30页 |
·模板的设计与实现 | 第30-33页 |
·模板还存在的问题 | 第33-34页 |
·小结 | 第34-35页 |
第三章 系统结构与运行原理 | 第35-51页 |
·系统的组织结构 | 第35-37页 |
·模板匹配模块及其原理 | 第37-40页 |
·网络爬行及 URL 队列管理模块及其原理 | 第40-42页 |
·网页抓取模块 | 第42-43页 |
·网页解析模块 | 第43-44页 |
·数据库管理模块 | 第44-47页 |
·HBASE 写入模块 | 第47-48页 |
·异常模块 | 第48-49页 |
·系统的工作流程 | 第49-50页 |
·本章小结 | 第50-51页 |
第四章 系统测试与结果分析 | 第51-60页 |
·基于模板化网络爬虫技术的 Web 网页信息抽取系统测试 | 第51-54页 |
·测试结果分析 | 第54-59页 |
·结论 | 第59页 |
·本章小结 | 第59-60页 |
第五章 结束语 | 第60-62页 |
致谢 | 第62-63页 |
参考文献 | 第63-65页 |
附录 | 第65-74页 |