基于MapReduce的分布式搜索引擎研究与实现
摘要 | 第1-5页 |
ABSTRACT | 第5-10页 |
第一章 绪论 | 第10-16页 |
·课题的研究背景 | 第10页 |
·搜索引擎发展历史与研究现状 | 第10-12页 |
·课题研究的目的和意义 | 第12-13页 |
·本文的主要工作与文章结构 | 第13-16页 |
·主要工作 | 第13页 |
·文章结构 | 第13-16页 |
第二章 分布式搜索引擎的相关理论和技术 | 第16-26页 |
·搜索引擎基本功能 | 第16页 |
·通用搜索引擎的基本原理 | 第16-19页 |
·信息采集 | 第17页 |
·信息预处理 | 第17-18页 |
·用户交互 | 第18-19页 |
·分布式计算技术与MapReduce编程模型 | 第19-23页 |
·分布式计算的基本原理 | 第19-20页 |
·Hadoop分布式计算平台 | 第20-21页 |
·Hadoop中的MapReduce | 第21-22页 |
·HDFS分布式文件系统 | 第22-23页 |
·分布式搜索引擎的处理流程 | 第23-24页 |
·本章小结 | 第24-26页 |
第三章 分布式搜索引擎系统设计 | 第26-40页 |
·分布式搜索引擎设计目标 | 第26页 |
·分布式爬虫系统设计 | 第26-30页 |
·分布式爬虫原理 | 第26-27页 |
·抓取模块设计 | 第27-28页 |
·文档解析模块设计 | 第28-29页 |
·页面评分模块设计 | 第29-30页 |
·分布式索引系统设计 | 第30-33页 |
·全文检索技术概述 | 第30-31页 |
·Lucene全文索引工具包 | 第31-33页 |
·基于Lucene的索引机制研究 | 第33页 |
·中文分词技术 | 第33-36页 |
·中文分词算法分析 | 第33-34页 |
·基于最大匹配消歧的中文分词法 | 第34-36页 |
·分布式检索模块设计 | 第36-38页 |
·检索过程分析 | 第36-37页 |
·Lucene检索相关类分析 | 第37-38页 |
·分布式检索的架构 | 第38页 |
·本章小结 | 第38-40页 |
第四章 分布式搜索引擎实现 | 第40-56页 |
·系统总体结构分析 | 第40-42页 |
·表示URL的类 | 第40-41页 |
·分布式搜索引擎文件结构 | 第41-42页 |
·分布式爬虫系统实现 | 第42-52页 |
·URL准备模块 | 第43-46页 |
·分布式抓取模块 | 第46-48页 |
·文档解析模块 | 第48-49页 |
·计算反向链接模块 | 第49-50页 |
·页面评分模块 | 第50-52页 |
·分布式索引系统的实现 | 第52-53页 |
·中文分词 | 第52-53页 |
·索引生成 | 第53页 |
·分布式检索系统的实现 | 第53-54页 |
·本章小结 | 第54-56页 |
第五章 分布式搜索引擎系统测试 | 第56-64页 |
·实验环境建立 | 第56-59页 |
·实验环境 | 第56-57页 |
·安装分布式环境 | 第57-59页 |
·系统运行情况及实验数据分析 | 第59-62页 |
·系统运行情况 | 第59-60页 |
·系统性能分析 | 第60-62页 |
·系统中文分词效果 | 第62页 |
·本章小结 | 第62-64页 |
第六章 总结与展望 | 第64-66页 |
·本文主要工作总结 | 第64页 |
·未来工作展望 | 第64-66页 |
参考文献 | 第66-68页 |
致谢 | 第68-70页 |
攻读学位期间发表的学术论文目录 | 第70页 |