摘要 | 第4-5页 |
abstract | 第5页 |
专用术语注释表 | 第8-9页 |
第一章 绪论 | 第9-13页 |
1.1 选题的研究背景及意义 | 第9-10页 |
1.2 课题来源及论文的主要内容 | 第10-11页 |
1.3 论文的组织架构 | 第11-12页 |
1.4 本章小结 | 第12-13页 |
第二章 相关背景知识介绍 | 第13-27页 |
2.1 Hadoop集群技术综述 | 第13-18页 |
2.1.1 Hadoop平台简介 | 第13-14页 |
2.1.2 Hadoop分布式存储与计算 | 第14-15页 |
2.1.3 Map/Reduce模型 | 第15-16页 |
2.1.4 HDFS数据存储管理 | 第16-18页 |
2.2 倒排索引技术 | 第18-21页 |
2.2.1 倒排索引综述 | 第18-19页 |
2.2.2 倒排索引的原理 | 第19-21页 |
2.3 Lucene全文检索库 | 第21-24页 |
2.3.1 Lucene框架结构 | 第21-22页 |
2.3.2 Lucene索引过程 | 第22-23页 |
2.3.3 Lucene的特点 | 第23-24页 |
2.4 Docker容器技术 | 第24-26页 |
2.4.1 Docker容器技术的简介 | 第24-25页 |
2.4.2 Docker的构造 | 第25-26页 |
2.4.3 Docker容器技术的特点 | 第26页 |
2.5 本章小结 | 第26-27页 |
第三章 基于Docker技术构建Hadoop平台 | 第27-38页 |
3.1 基于Docker的Hadoop架构平台 | 第27页 |
3.2 Docker的读写性能 | 第27-29页 |
3.3 在Docker容器中部署Hadoop平台 | 第29-30页 |
3.4 Docker容器中Hadoop的内存配置的优化 | 第30-35页 |
3.4.1 内存配置优化的原因 | 第30页 |
3.4.2 实验测试与分析 | 第30-34页 |
3.4.3 配置方案的设计 | 第34-35页 |
3.5 Docker集群部署方案 | 第35-37页 |
3.6 本章小结 | 第37-38页 |
第四章 分布式搜索引擎的设计与实现 | 第38-51页 |
4.1 系统总体架构分析与设计 | 第38-39页 |
4.2 分布式爬行子系统的设计与实现 | 第39-43页 |
4.2.1 分布式爬行子系统的设计方案 | 第39-40页 |
4.2.2 爬行策略算法的实现 | 第40-41页 |
4.2.3 爬行网页的获取实现 | 第41-42页 |
4.2.4 数据存储模块的实现 | 第42-43页 |
4.3 分布式索引子系统的设计与实现 | 第43-48页 |
4.3.1 分布式索引子系统的设计方案 | 第43-44页 |
4.3.2 源文件的过滤 | 第44-46页 |
4.3.3 倒排索引文件的构建 | 第46-48页 |
4.3.4 二级索引的建立 | 第48页 |
4.4 分布式查询子系统的设计与实现 | 第48-49页 |
4.5 本章小结 | 第49-51页 |
第五章 系统性能测试与评估 | 第51-63页 |
5.1 系统开发环境搭建 | 第51-53页 |
5.1.1 硬件环境架构 | 第51-52页 |
5.1.2 软件环境构建 | 第52-53页 |
5.2 系统方案的搭建 | 第53-57页 |
5.2.1 Docker容器集群的搭建 | 第53-54页 |
5.2.2 Hadoop平台的搭建过程 | 第54-57页 |
5.3 实验测试与结果分析 | 第57-62页 |
5.3.1 搜索引擎网页的展示 | 第57-58页 |
5.3.2 搜索引擎的评分原则 | 第58-59页 |
5.3.3 搜索引擎的速率测试 | 第59-60页 |
5.3.4 搜索引擎的准确性测试 | 第60-61页 |
5.3.5 搜索引擎的移植性测试 | 第61-62页 |
5.4 本章小结 | 第62-63页 |
第六章 总结与展望 | 第63-65页 |
6.1 论文工作总结 | 第63-64页 |
6.2 论文不足与展望 | 第64-65页 |
参考文献 | 第65-67页 |
附录1 攻读硕士学位期间撰写的论文 | 第67-68页 |
附录2 攻读硕士学位期间参加的科研项目 | 第68-69页 |
致谢 | 第69页 |