基于统计机器翻译与主题传播的聚焦爬虫的研究与实现
摘要 | 第3-4页 |
Abstract | 第4页 |
第1章 绪论 | 第9-15页 |
1.1 引言 | 第9-10页 |
1.2 爬虫的研究与发展 | 第10-13页 |
1.2.1 传统爬虫 | 第10-11页 |
1.2.2 聚焦爬虫 | 第11-13页 |
1.3 本文工作和结构 | 第13-14页 |
1.3.1 本文工作 | 第13页 |
1.3.2 本文结构 | 第13-14页 |
1.4 本章小结 | 第14-15页 |
第2章 理论基础及相关工作 | 第15-29页 |
2.1 聚焦爬虫相关技术 | 第15-24页 |
2.1.1 聚焦爬虫基本原理 | 第15-17页 |
2.1.2 聚焦爬虫评价方法 | 第17-19页 |
2.1.3 经典聚焦爬虫算法 | 第19-24页 |
2.2 常见文本分类算法 | 第24-27页 |
2.2.1 朴素贝叶斯算法 | 第25-26页 |
2.2.2 支持向量机 | 第26-27页 |
2.3 本章小结 | 第27-29页 |
第3章 基于锚文本主题相关度预测的聚焦爬虫 | 第29-39页 |
3.1 锚文本上下文扩展 | 第29-31页 |
3.2 基于统计机器翻译的锚文本主题相关度预测 | 第31-34页 |
3.2.1 统计机器翻译 | 第31-33页 |
3.2.2 锚文本主题相关度预测 | 第33-34页 |
3.3 统计机器翻译模型的训练 | 第34-37页 |
3.3.1 翻译模型总体训练过程 | 第34-35页 |
3.3.2 翻译语料获取与预处理 | 第35-37页 |
3.4 锚文本缺失问题的处理 | 第37-38页 |
3.5 本章小结 | 第38-39页 |
第4章 基于网页主题传播的聚焦爬虫 | 第39-48页 |
4.1 主题孤岛 | 第39-41页 |
4.2 基于OPIC的网页多主题传播模型 | 第41-46页 |
4.2.1 OPIC网页重要度在线计算算法 | 第41-42页 |
4.2.2 网页多主题传播模型 | 第42-46页 |
4.3 基于锚文本预测与网页主题传播的聚焦爬虫 | 第46-47页 |
4.4 本章小结 | 第47-48页 |
第5章 系统设计实现与实验评估 | 第48-62页 |
5.1 系统总体设计 | 第48-50页 |
5.2 实验数据集和预处理 | 第50-52页 |
5.2.1 数据源获取 | 第50-51页 |
5.2.2 数据预处理 | 第51-52页 |
5.3 系统实现 | 第52-55页 |
5.4 实验结果评估与分析 | 第55-61页 |
5.4.1 统计机器翻译模型结果与分析 | 第55-57页 |
5.4.2 锚文本结果分析 | 第57-59页 |
5.4.3 聚焦爬虫系统结果评估与分析 | 第59-61页 |
5.5 本章小结 | 第61-62页 |
第6章 总结与展望 | 第62-64页 |
6.1 工作总结 | 第62-63页 |
6.2 未来展望 | 第63-64页 |
参考文献 | 第64-68页 |
致谢 | 第68页 |