基于Hadoop平台的网络爬虫技术研究
| 摘要 | 第4-5页 |
| abstract | 第5页 |
| 第一章 绪论 | 第8-14页 |
| 1.1 课题研究背景 | 第8-9页 |
| 1.2 国内外研究现状 | 第9-12页 |
| 1.2.1 Hadoop平台 | 第9-10页 |
| 1.2.2 网络爬虫技术 | 第10-12页 |
| 1.3 研究意义与内容 | 第12页 |
| 1.4 论文的组织结构 | 第12-14页 |
| 第二章 Hadoop与网络爬虫相关技术研究 | 第14-29页 |
| 2.1 Hadoop平台相关技术 | 第14-21页 |
| 2.1.1 Hadoop平台与云计算 | 第14-16页 |
| 2.1.2 HDFS分布式文件系统 | 第16-18页 |
| 2.1.3 MapReduce分布式计算模型 | 第18-21页 |
| 2.2 网络爬虫相关技术 | 第21-28页 |
| 2.2.1 网络爬虫体系结构 | 第22-23页 |
| 2.2.2 网络爬虫爬取策略 | 第23-25页 |
| 2.2.3 分布式网络爬虫 | 第25-26页 |
| 2.2.4 主题网络爬虫 | 第26-28页 |
| 2.3 本章小结 | 第28-29页 |
| 第三章 基于云平台的主题爬取算法 | 第29-39页 |
| 3.1 相关度计算 | 第29-31页 |
| 3.1.1 主题特征值描述 | 第29页 |
| 3.1.2 相关度计算原理 | 第29-31页 |
| 3.2 主题爬取算法的语义因子 | 第31-32页 |
| 3.2.1 网页文档语义 | 第31-32页 |
| 3.2.2 语义相似度计算 | 第32页 |
| 3.3 改进的主题爬取算法 | 第32-35页 |
| 3.3.1 VSM的优化 | 第32-33页 |
| 3.3.2 相关度计算的语义加权 | 第33-34页 |
| 3.3.3 链接排序 | 第34页 |
| 3.3.4 算法流程 | 第34-35页 |
| 3.4 基于Hadoop平台算法设计 | 第35-37页 |
| 3.4.1 MapReduce并行化设计 | 第35-36页 |
| 3.4.2 算法步骤 | 第36-37页 |
| 3.5 本章小结 | 第37-39页 |
| 第四章 基于云平台的链接去重算法 | 第39-52页 |
| 4.1 链接去重概述 | 第39-42页 |
| 4.1.1 链接重复的影响 | 第39页 |
| 4.1.2 链接去重算法 | 第39-40页 |
| 4.1.3 链接提取过程 | 第40-42页 |
| 4.2 布隆过滤器去重算法 | 第42-45页 |
| 4.2.1 布隆过滤器算法原理 | 第42-43页 |
| 4.2.2 布隆过滤器算法分析 | 第43-45页 |
| 4.3 改进布隆过滤器去重算法 | 第45-49页 |
| 4.3.1 基于属性链接分类 | 第46页 |
| 4.3.2 IBFLDA去重模型 | 第46-48页 |
| 4.3.3 IBFLDA性能分析 | 第48-49页 |
| 4.4 基于Hadoop平台算法设计 | 第49-51页 |
| 4.4.1 MapReduce算法设计 | 第49-50页 |
| 4.4.2 分布式算法流程 | 第50-51页 |
| 4.5 本章小结 | 第51-52页 |
| 第五章 基于Hadoop的系统与分析 | 第52-70页 |
| 5.1 基于云平台网络爬虫系统设计 | 第52-55页 |
| 5.1.1 系统框架设计 | 第53-54页 |
| 5.1.2 系统流程设计 | 第54-55页 |
| 5.2 关键模块设计与实现 | 第55-63页 |
| 5.2.1 网页下载模块 | 第56-58页 |
| 5.2.2 网页文档解析模块 | 第58-61页 |
| 5.2.3 链接处理模块 | 第61-63页 |
| 5.3 实验与性能分析 | 第63-69页 |
| 5.3.1 实验环境 | 第63-66页 |
| 5.3.2 主题爬取算法实验 | 第66-68页 |
| 5.3.3 去重算法实验 | 第68-69页 |
| 5.4 本章小结 | 第69-70页 |
| 第六章 总结与展望 | 第70-72页 |
| 6.1 总结 | 第70页 |
| 6.2 展望 | 第70-72页 |
| 参考文献 | 第72-74页 |
| 附录1 攻读硕士学位期间撰写的论文 | 第74-75页 |
| 附录2 攻读硕士学位期间参加的科研项目 | 第75-76页 |
| 致谢 | 第76页 |
