摘要 | 第4-5页 |
ABSTRACT | 第5-6页 |
第一章 绪论 | 第9-14页 |
1.1 研究背景与意义 | 第9-11页 |
1.2 主题爬虫研究现状 | 第11-12页 |
1.3 本文的研究内容和组织结构 | 第12-14页 |
1.3.1 主要研究内容 | 第12-13页 |
1.3.2 章节安排 | 第13-14页 |
第二章 主题爬虫关键技术 | 第14-27页 |
2.1 网络爬虫简介 | 第14-16页 |
2.1.1 通用爬虫 | 第14-15页 |
2.1.2 通用爬虫的爬取策略 | 第15-16页 |
2.2 主题爬虫的关键技术 | 第16-26页 |
2.2.1 主题爬虫的概念 | 第16-17页 |
2.2.2 主题爬虫的爬行策略 | 第17-19页 |
2.2.3 页面分析模块 | 第19-20页 |
2.2.4 主题判别模块 | 第20-26页 |
2.3 本章小结 | 第26-27页 |
第三章 基于锚文本判别的主题判别模块 | 第27-48页 |
3.1 设计思路 | 第27-28页 |
3.2 DISTRIBUTED REPRESENTATION词向量 | 第28-40页 |
3.2.1 Distributed Representation词向量简介 | 第28-29页 |
3.2.2 语言模型 | 第29-30页 |
3.2.3 用神经网络训练语言模型 | 第30-40页 |
3.3 基于卷积神经网络的短文本分类模型 | 第40-42页 |
3.4 改进的主题判别模块实验分析 | 第42-47页 |
3.4.1 数据准备 | 第42-43页 |
3.4.2 词向量的训练 | 第43页 |
3.4.3 CNN分类器的实现与测试 | 第43-47页 |
3.5 本章小结 | 第47-48页 |
第四章 基于锚文本判别的主题爬虫 | 第48-59页 |
4.1 网页类型判别模块设计 | 第48-50页 |
4.2 网页类型判别模块实验分析 | 第50-51页 |
4.2.1 数据准备 | 第50页 |
4.2.2 网页类型判别模块测试 | 第50-51页 |
4.3 基于锚文本判别的主题爬虫设计 | 第51-53页 |
4.3.1 系统框图设计 | 第51-52页 |
4.3.2 系统流程图设计 | 第52-53页 |
4.4 主题爬虫系统的实现 | 第53-58页 |
4.4.1 主题爬虫系统实现 | 第53-56页 |
4.4.2 爬虫的防止被BAN策略 | 第56页 |
4.4.3 主题爬虫实验结果分析 | 第56-58页 |
4.5 本章小结 | 第58-59页 |
第五章 改进主题爬虫系统的应用 | 第59-65页 |
5.1 应用背景 | 第59-60页 |
5.2 科研服务平台的搭建 | 第60-64页 |
5.2.1 科研服务平台系统简介 | 第60-62页 |
5.2.2 基于科研服务平台的主题爬虫 | 第62-64页 |
5.3 本章小结 | 第64-65页 |
第六章 总结与展望 | 第65-67页 |
6.1 全文总结 | 第65-66页 |
6.1.1 论文主要工作 | 第65页 |
6.1.2 论文成果 | 第65页 |
6.1.3 问题分析 | 第65-66页 |
6.2 未来展望 | 第66-67页 |
参考文献 | 第67-70页 |
致谢 | 第70-71页 |
攻读学位期间发表的学术论文目录 | 第71页 |