基于Lucene的分布式搜索引擎的研究与实现
| 摘要 | 第5-6页 |
| ABSTRACT | 第6页 |
| 缩略词中英文对照表 | 第7-10页 |
| 第一章 绪论 | 第10-13页 |
| 1.1 课题背景 | 第10页 |
| 1.2 研究现状 | 第10-11页 |
| 1.3 研究内容 | 第11-12页 |
| 1.4 论文结构 | 第12-13页 |
| 第二章 相关技术 | 第13-28页 |
| 2.1 搜索引擎 | 第13-14页 |
| 2.1.1 数据采集 | 第13-14页 |
| 2.1.2 倒排索引 | 第14页 |
| 2.1.3 信息检索 | 第14页 |
| 2.2 LUCENE全文搜索框架 | 第14-17页 |
| 2.2.1 索引构建 | 第14-16页 |
| 2.2.2 文本搜索 | 第16-17页 |
| 2.3 HADOOP分布式平台 | 第17-21页 |
| 2.3.1 HDFS分布式文件系统 | 第17-19页 |
| 2.3.2 MAPREDUCE计算模型 | 第19-21页 |
| 2.4 相关技术难点 | 第21-27页 |
| 2.4.1 URL去重 | 第21-22页 |
| 2.4.2 中文分词 | 第22-25页 |
| 2.4.3 PAGERANK算法 | 第25-27页 |
| 2.5 本章小结 | 第27-28页 |
| 第三章 引擎需求分析与总体设计 | 第28-34页 |
| 3.1 需求分析 | 第28-29页 |
| 3.1.1 功能需求分析 | 第28页 |
| 3.1.2 非功能需求分析 | 第28-29页 |
| 3.2 总体设计 | 第29页 |
| 3.3 数据采集模块 | 第29-31页 |
| 3.4 索引模块 | 第31页 |
| 3.4.1 索引模块分析 | 第31页 |
| 3.4.2 索引模块构建 | 第31页 |
| 3.5 搜索模块 | 第31-33页 |
| 3.5.1 搜索模块设计 | 第31-32页 |
| 3.5.2 搜索结果的访问控制 | 第32-33页 |
| 3.6 本章小结 | 第33-34页 |
| 第四章 引擎详细设计与实现 | 第34-50页 |
| 4.1 数据采集模块的详细设计与实现 | 第34-41页 |
| 4.1.1 网络爬虫 | 第34-40页 |
| 4.1.2 复杂结构文件的数据抽取 | 第40-41页 |
| 4.2 索引模块的详细设计与实现 | 第41-44页 |
| 4.2.1 中文分词 | 第41页 |
| 4.2.2 索引的构建 | 第41-42页 |
| 4.2.3 索引的热备份 | 第42-43页 |
| 4.2.4 索引的恢复 | 第43-44页 |
| 4.3 搜索模块的详细设计与实现 | 第44-49页 |
| 4.3.1 搜索接口实现 | 第44-47页 |
| 4.3.2 搜索历史记录 | 第47页 |
| 4.3.3 关键词高亮 | 第47-48页 |
| 4.3.4 搜索联想词 | 第48-49页 |
| 4.4 本章小结 | 第49-50页 |
| 第五章 引擎测试 | 第50-58页 |
| 5.1 测试环境设置 | 第50-53页 |
| 5.1.1 软硬件配置 | 第50页 |
| 5.1.2 DOCKER容器启动 | 第50-53页 |
| 5.2 相关测试 | 第53-57页 |
| 5.2.1 功能测试 | 第53-55页 |
| 5.2.2 可靠性测试 | 第55-56页 |
| 5.2.3 性能测试 | 第56-57页 |
| 5.3 本章小结 | 第57-58页 |
| 第六章 总结与展望 | 第58-59页 |
| 致谢 | 第59-60页 |
| 参考文献 | 第60-61页 |
