支持AJAX的定址网络爬虫系统的研究与实现
摘要 | 第1-6页 |
ABSTRACT | 第6-10页 |
第一章 绪论 | 第10-15页 |
·研究背景及意义 | 第10-12页 |
·研究现状 | 第12-13页 |
·论文研究工作 | 第13-14页 |
·论文架构 | 第14-15页 |
第二章 相关背景知识 | 第15-25页 |
·Web2.0 | 第15-17页 |
·JavaScript | 第17-18页 |
·AJAX | 第18-21页 |
·AJAX简介 | 第18-19页 |
·AJAX的运作方式 | 第19-20页 |
·AJAX与传统网页的比较 | 第20-21页 |
·HTML DOM | 第21-23页 |
·DOM的树状结构 | 第22-23页 |
·DOM常用的方法 | 第23页 |
·XPath | 第23-24页 |
·本章小结 | 第24-25页 |
第三章 网络爬虫系统的研究 | 第25-32页 |
·网络爬虫 | 第25-27页 |
·基本原理 | 第25-26页 |
·爬行策略 | 第26-27页 |
·AJAX爬虫的技术难点 | 第27-31页 |
·JavaScript的解析 | 第27-28页 |
·识别页面状态 | 第28-29页 |
·DOM操作 | 第29页 |
·事件触发 | 第29-30页 |
·其他问题 | 第30-31页 |
·本章小结 | 第31-32页 |
第四章 网络爬虫系统的设计 | 第32-42页 |
·AJAX应用实例 | 第32-34页 |
·相关概念 | 第34-35页 |
·页面状态与状态切换 | 第35页 |
·clickable元素 | 第35页 |
·AJAX建模 | 第35-37页 |
·事件模型 | 第35页 |
·AJAX页面模型 | 第35-36页 |
·AJAX网站模型 | 第36-37页 |
·系统架构 | 第37-39页 |
·系统流程 | 第39-41页 |
·本章小结 | 第41-42页 |
第五章 爬虫系统的实现 | 第42-62页 |
·WebKit渲染引擎 | 第42-47页 |
·渲染引擎分析 | 第42-44页 |
·选择Webkit的理由 | 第44-45页 |
·WebKit框架结构 | 第45页 |
·WebKit解析流程 | 第45-46页 |
·Qt WebKit | 第46-47页 |
·链接抽取模块 | 第47-53页 |
·过滤条件 | 第47-50页 |
·Robots协议 | 第50-51页 |
·URL消重策略 | 第51-52页 |
·抽取流程 | 第52-53页 |
·脚本生成模块 | 第53-57页 |
·样本页面 | 第53-54页 |
·关键参数设置 | 第54-55页 |
·定位clickable元素 | 第55-56页 |
·脚本执行逻辑 | 第56-57页 |
·Cookie管理模块 | 第57-58页 |
·模块交互与关键算法 | 第58-60页 |
·系统实现 | 第60-61页 |
·本章小结 | 第61-62页 |
第六章 爬虫系统实验与结果分析 | 第62-68页 |
·实验环境 | 第62页 |
·评估方法 | 第62-63页 |
·实验设计及结果分析 | 第63-67页 |
·查全率 | 第63-64页 |
·准确度 | 第64-65页 |
·抓取速率 | 第65-67页 |
·本章小结 | 第67-68页 |
第七章 结束语 | 第68-70页 |
·结论 | 第68-69页 |
·未来方向 | 第69-70页 |
参考文献 | 第70-72页 |
致谢 | 第72-73页 |
攻读学位期间发表的学术论文 | 第73页 |