| 摘要 | 第4-5页 |
| Abstract | 第5-6页 |
| 第1章 绪论 | 第9-14页 |
| 1.1 项目背景及研究的目的和意义 | 第9-10页 |
| 1.2 国内外研究现状 | 第10-12页 |
| 1.2.1 爬虫检测研究现状 | 第10-11页 |
| 1.2.2 爬虫拦截现状 | 第11页 |
| 1.2.3 爬虫实时检测与拦截现状 | 第11-12页 |
| 1.3 论文研究内容及组织结构 | 第12-14页 |
| 1.3.1 研究内容 | 第12页 |
| 1.3.2 章节内容组织 | 第12-14页 |
| 第2章 背景知识 | 第14-23页 |
| 2.1 引言 | 第14页 |
| 2.2 爬虫工作原理介绍 | 第14-15页 |
| 2.3 爬虫检测方法 | 第15-17页 |
| 2.3.1 爬虫检测介绍 | 第15-16页 |
| 2.3.2 分类方法介绍 | 第16-17页 |
| 2.4 访问控制与拦截方法 | 第17-19页 |
| 2.5 实时计算技术介绍 | 第19-22页 |
| 2.5.1 数据实时传输方法介绍 | 第19-20页 |
| 2.5.2 分布式实时计算技术 | 第20-22页 |
| 2.6 本章小结 | 第22-23页 |
| 第3章 基于访问日志的实时SVM爬虫检测方法与爬虫拦截方法 | 第23-44页 |
| 3.1 引言 | 第23页 |
| 3.2 日志实时采集方法 | 第23-26页 |
| 3.2.1 数据并发量分析及实时传输方法 | 第23-25页 |
| 3.2.2 数据实时接收及处理方法 | 第25-26页 |
| 3.3 数据预处理 | 第26-28页 |
| 3.3.1 时间窗同步 | 第26-27页 |
| 3.3.2 数据时序处理 | 第27-28页 |
| 3.4 基于SVM的实时爬虫检测算法设计 | 第28-40页 |
| 3.4.1 爬虫特征分析 | 第28-31页 |
| 3.4.2 特征数据提取 | 第31-33页 |
| 3.4.3 数据处理 | 第33-34页 |
| 3.4.4 爬虫检测算法实验分析 | 第34-40页 |
| 3.5 爬虫的拦截方法 | 第40-43页 |
| 3.5.1 访问干扰机制分析 | 第40-41页 |
| 3.5.2 拦截与容错 | 第41-42页 |
| 3.5.3 拦截方法分析 | 第42-43页 |
| 3.6 本章小结 | 第43-44页 |
| 第4章 基于访问日志的实时SVM爬虫检测及爬虫拦截系统设计与实现 | 第44-56页 |
| 4.1 引言 | 第44页 |
| 4.2 系统架构设计 | 第44-51页 |
| 4.2.1 日志采集模块 | 第45-47页 |
| 4.2.2 行为特征提取 | 第47-48页 |
| 4.2.3 爬虫分析模型 | 第48-49页 |
| 4.2.4 爬虫推送模块 | 第49-50页 |
| 4.2.5 爬虫验证模块 | 第50页 |
| 4.2.6 请求拦截模块 | 第50-51页 |
| 4.3 系统部署 | 第51-52页 |
| 4.3.1 运行环境说明 | 第51页 |
| 4.3.2 系统运行情况 | 第51-52页 |
| 4.4 系统测试 | 第52-54页 |
| 4.5 测试结果分析 | 第54-55页 |
| 4.6 本章小结 | 第55-56页 |
| 结论 | 第56-57页 |
| 参考文献 | 第57-62页 |
| 致谢 | 第62-63页 |
| 个人简历 | 第63页 |