摘要 | 第4-5页 |
ABSTRACT | 第5页 |
第一章 绪论 | 第8-13页 |
1.1 课题的研究背景和意义 | 第8-9页 |
1.2 国内外研究现状 | 第9-11页 |
1.2.1 视频教程研究现状 | 第9-10页 |
1.2.2 主题爬虫研究方面 | 第10-11页 |
1.3 本文研究工作 | 第11-12页 |
1.4 本文的组织框架 | 第12-13页 |
第二章 主题爬虫及相关算法研究 | 第13-23页 |
2.1 网络爬虫 | 第13-15页 |
2.1.1 网络爬虫原理及流程 | 第13-14页 |
2.1.2 网络爬虫的爬取策略 | 第14-15页 |
2.2 主题爬虫相关技术 | 第15-20页 |
2.2.1 主题搜索引擎 | 第15页 |
2.2.2 主题爬虫的特点 | 第15-16页 |
2.2.3 主题爬虫工作原理 | 第16-17页 |
2.2.4 主题爬虫的搜索策略的研究 | 第17-20页 |
2.3 网页消重检测 | 第20页 |
2.4 网页解析器jsoup | 第20-23页 |
第三章 资源检索Lucene技术研究 | 第23-27页 |
3.1 Lucene框架概述 | 第23-25页 |
3.1.1 Lucene框架 | 第23-24页 |
3.1.2 Lucene工作流程 | 第24页 |
3.1.3 Lucene的索引和查询类 | 第24-25页 |
3.2 Lucene索引创建 | 第25-26页 |
3.2.1 Lucene创建索引 | 第25-26页 |
3.3 Lucene索引查询 | 第26-27页 |
第四章 基于主题爬虫的视频教程库的设计与实现 | 第27-45页 |
4.1 爬虫工具 | 第27-29页 |
4.1.1 Heritrix爬虫系统 | 第27页 |
4.1.2 Heritrix组件 | 第27-29页 |
4.1.3 Heritrix的运行流程 | 第29页 |
4.2 系统总体设计 | 第29-30页 |
4.3 系统主要模块的实现 | 第30-45页 |
4.3.1 修改order.xml文件,Robots.txt,提高抓取效率 | 第30-31页 |
4.3.2 初始链接网站的选择 | 第31-34页 |
4.3.3 扩展类实现特定网页抓取 | 第34-37页 |
4.3.4 多线程抓取网页 | 第37-38页 |
4.3.5 视频页面信息抽取模块 | 第38-41页 |
4.3.6 视频资源信息索引模块 | 第41-43页 |
4.3.7 视频资源信息搜索模块 | 第43-45页 |
第五章 基于主题爬虫的视频教程库的测试与分析 | 第45-54页 |
5.1 系统开发环境与工具 | 第45页 |
5.2 JDK开发环境参数 | 第45-46页 |
5.3 视频教程库系统的原型设计 | 第46页 |
5.4 系统运行结果 | 第46-51页 |
5.5 系统性能分析 | 第51-53页 |
5.5.1 抓取效率分析 | 第51-52页 |
5.5.2 准确率性能分析 | 第52-53页 |
5.5.3 实验的对比及优缺点 | 第53页 |
5.6 本章小结 | 第53-54页 |
第六章 总结与展望 | 第54-56页 |
6.1 研究总结 | 第54页 |
6.2 工作进一步展望 | 第54-56页 |
参考文献 | 第56-59页 |
致谢 | 第59-60页 |
攻读硕士学位期间发表的学术论文目录 | 第60页 |