BitTorrent种子文件获取技术研究与实现
| 摘要 | 第1-5页 |
| Abstract | 第5-8页 |
| 第1章 绪论 | 第8-12页 |
| ·课题背景及来源 | 第8-9页 |
| ·课题研究的目的及意义 | 第9-10页 |
| ·国内外研究现状及分析 | 第10-11页 |
| ·本论文研究的主要内容及组织结构 | 第11-12页 |
| 第2章 BitTorrent和聚焦爬虫概述 | 第12-19页 |
| ·BitTorrent协议 | 第12-14页 |
| ·面向主题的聚焦爬虫 | 第14-15页 |
| ·面向主题的聚焦爬虫的工作原理 | 第14-15页 |
| ·面向主题的聚焦爬虫的主要技术 | 第15页 |
| ·面向BT种子文件获取的网络爬虫 | 第15-17页 |
| ·Hadoop简介 | 第17-18页 |
| ·本章小结 | 第18-19页 |
| 第3章 BT种子文件获取相关技术 | 第19-41页 |
| ·提高获取效率的技术 | 第19-26页 |
| ·基于特征的BT种子文件识别技术 | 第19-20页 |
| ·基于正则表达式规则的URL过滤技术 | 第20-23页 |
| ·基于Hash的种子文件去重机制 | 第23-24页 |
| ·基于Hadoop的分布式爬虫的URL任务分配 | 第24-26页 |
| ·提高爬全率的技术 | 第26-36页 |
| ·爬虫自动登录技术 | 第26-33页 |
| ·AJAX网页解析引擎 | 第33-36页 |
| ·降低种子获取延时的技术 | 第36-40页 |
| ·批量抓取和增量抓取相结合的数据抓取机制 | 第37-38页 |
| ·历史数据和更新数据相综合的数据更新机制 | 第38页 |
| ·BT爬虫的URL爬行队列选择策略 | 第38页 |
| ·动态任务调整策略 | 第38-39页 |
| ·实验验证 | 第39-40页 |
| ·其他技术 | 第40页 |
| ·本章小结 | 第40-41页 |
| 第4章 BT种子文件获取系统实现与性能评测 | 第41-57页 |
| ·系统设计目标 | 第41页 |
| ·系统结构分析与设计 | 第41-44页 |
| ·系统的性能测试及结果分析 | 第44-51页 |
| ·系统爬全率 | 第45-46页 |
| ·系统效率 | 第46-48页 |
| ·种子新鲜度 | 第48-50页 |
| ·其他性能 | 第50-51页 |
| ·对种子的数据分析 | 第51-54页 |
| ·种子中资源文件类型分布 | 第51-52页 |
| ·种子中资源文件大小分布 | 第52-53页 |
| ·各Tracker中种子资源分布情况 | 第53-54页 |
| ·影响爬虫性能的因素 | 第54-55页 |
| ·系统不足及改进 | 第55-56页 |
| ·验证码识别 | 第55页 |
| ·自动回复 | 第55页 |
| ·迅雷地址解析 | 第55-56页 |
| ·以Post方式提交的页面链接跳转 | 第56页 |
| ·本章小结 | 第56-57页 |
| 结论 | 第57-59页 |
| 参考文献 | 第59-63页 |
| 附录 | 第63-66页 |
| 致谢 | 第66-67页 |
