摘要 | 第5-6页 |
ABSTRACT | 第6页 |
第一章 绪论 | 第9-13页 |
1.1 课题研究的背景与意义 | 第9页 |
1.2 国内外研究概况 | 第9-11页 |
1.2.1 信息采集与搜索的发展现状 | 第9-10页 |
1.2.2 信息采集与搜索的发展趋势 | 第10-11页 |
1.3 本文主要工作及章节安排 | 第11-12页 |
1.3.1 本文主要工作 | 第11-12页 |
1.3.2 本文组织结构 | 第12页 |
1.4 本章小结 | 第12-13页 |
第二章 信息采集技术的研究 | 第13-33页 |
2.1 信息采集定义 | 第13页 |
2.2 信息采集工具 Nutch 的研究 | 第13-17页 |
2.2.1 Nutch 概述 | 第13-14页 |
2.2.2 Nutch 网络爬虫 Crawler 的原理 | 第14-15页 |
2.2.3 文本库的爬取与构建 | 第15-16页 |
2.2.4 爬虫的个性化配置 | 第16-17页 |
2.3 分布式系统框架 Hadoop | 第17-24页 |
2.3.1 Hadoop 概述 | 第17-18页 |
2.3.2 Hadoop 文件系统 HDFS | 第18-20页 |
2.3.3 MapReduce 研究 | 第20-24页 |
2.4 信息采集的实现 | 第24-30页 |
2.4.1 Nutch 爬虫的安装测试 | 第24-27页 |
2.4.2 Nutch 源码导入开发环境 | 第27页 |
2.4.3 IKAnalyzer 中文分词的引入 | 第27-28页 |
2.4.5 分布式运行环境的搭建 | 第28-30页 |
2.5 实验结果及分析 | 第30-31页 |
2.6 本章小结 | 第31-33页 |
第三章 索引技术的研究 | 第33-45页 |
3.1 信息索引 | 第33-34页 |
3.2 Lucene 与倒排索引 | 第34-35页 |
3.2.1 Lucene 概况 | 第34页 |
3.2.2 倒排索引 | 第34-35页 |
3.3 索引的创建与搜索 | 第35-38页 |
3.3.1 Lucene 的索引创建工具 | 第35-36页 |
3.3.2 Lucene 倒排索引的创建 | 第36-37页 |
3.3.3 基于 Lucene 的索引搜索 | 第37-38页 |
3.4 索引的维护 | 第38-43页 |
3.4.1 池化技术 | 第38-39页 |
3.4.2 索引池 | 第39-41页 |
3.4.3 索引池的实现 | 第41-43页 |
3.5 实验结果及分析 | 第43-44页 |
3.6 本章小结 | 第44-45页 |
第四章 信息采集与搜索系统的设计与实现 | 第45-55页 |
4.1 系统总体结构设计 | 第45页 |
4.2 数据库设计 | 第45-48页 |
4.3 系统主要模块设计 | 第48-53页 |
4.3.1 权限管理模块 | 第48-49页 |
4.3.2 信息采集模块 | 第49-51页 |
4.3.3 搜索结果模块 | 第51-53页 |
4.4 本章小结 | 第53-55页 |
第五章 总结与展望 | 第55-57页 |
5.1 总结 | 第55页 |
5.2 展望 | 第55-57页 |
参考文献 | 第57-61页 |
攻读硕士学位期间所取得的相关科研成果 | 第61-63页 |
致谢 | 第63-64页 |