摘要 | 第4-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-16页 |
1.1 项目背景 | 第10-11页 |
1.2 通用搜索引擎的发展历史 | 第11-12页 |
1.3 垂直搜索引擎的发展趋势和研究现状 | 第12-14页 |
1.4 本文的主要成果及章节安排 | 第14-16页 |
第二章 相关技术研究综述 | 第16-32页 |
2.1 网络爬虫体系结构研究 | 第16-21页 |
2.1.1 通用网络爬虫基本原理 | 第16-18页 |
2.1.2 垂直网络爬虫基本原理 | 第18-19页 |
2.1.3 网络爬虫爬行策略 | 第19-21页 |
2.2 主题判断的研究现状 | 第21-26页 |
2.2.1 主题相关度判定模块 | 第21-22页 |
2.2.2 布尔模型算法 | 第22-23页 |
2.2.3 向量空间模型算法 | 第23-25页 |
2.2.4 朴素贝叶斯文本分类算法 | 第25-26页 |
2.3 用户行为分析 | 第26-27页 |
2.4 加密算法研究现状 | 第27-30页 |
2.4.1 对称密钥体制 | 第27-29页 |
2.4.2 非对称密钥体制 | 第29-30页 |
2.5 开发环境 | 第30-31页 |
2.6 本章小结 | 第31-32页 |
第三章 基于Nutch的主题爬虫模块的研究与设计 | 第32-42页 |
3.1 通用网络爬虫Nutch | 第32-35页 |
3.1.1 Nucth的主要工作流程 | 第32-34页 |
3.1.2 Nucth的插件机制 | 第34-35页 |
3.2 Nutch中的Hadoop应用 | 第35-38页 |
3.2.1 HDFS分布式文件系统 | 第36-37页 |
3.2.2 Map-Reduce分布式编程模型 | 第37-38页 |
3.3 基于Nutch的分布式主题爬虫的设计与实现 | 第38-41页 |
3.3.1 主题爬虫的基础架构 | 第38-39页 |
3.3.2 通用爬虫Nutch的主题改造 | 第39-41页 |
3.4 本章小结 | 第41-42页 |
第四章 基于Solr的个性化查询模块的研究与设计 | 第42-53页 |
4.1 Solr介绍 | 第42-46页 |
4.1.1 Lucene简介 | 第42-44页 |
4.1.2 Solr和Lucene的关系 | 第44页 |
4.1.3 Solr的总体架构 | 第44-46页 |
4.2 用户个性化查询模块的研究 | 第46-49页 |
4.2.1 用户行为特征提取 | 第46-47页 |
4.2.2 关联会话判别 | 第47-48页 |
4.2.3 用户兴趣模型的建立 | 第48-49页 |
4.3 用户个性化查询模块的设计 | 第49-52页 |
4.3.1 用户个性化查询模块的用户隐私保护 | 第49-50页 |
4.3.2 用户搜索行为存储表的设计 | 第50-51页 |
4.3.3 用户个性化查询模块的设计与架构 | 第51-52页 |
4.4 本章小结 | 第52-53页 |
第五章 面向IT博客领域的垂直搜索引擎的设计与实现 | 第53-63页 |
5.1 系统总体框架设计 | 第53-54页 |
5.2 主题爬虫模块与个性化查询模块集成 | 第54-57页 |
5.2.1 基于Nutch的分布式垂直网络爬虫模块部署 | 第54-55页 |
5.2.2 基于Solr的个性化查询模块的部署 | 第55-57页 |
5.3 实验结果 | 第57-61页 |
5.3.1 搜索结果展示 | 第57-58页 |
5.3.2 垂直网络爬虫性能评测 | 第58-59页 |
5.3.3 主题相关判定评测 | 第59-61页 |
5.4 总结 | 第61-63页 |
第六章 结束语 | 第63-65页 |
6.1 论文工作总结 | 第63-64页 |
6.2 问题和展望 | 第64-65页 |
参考文献 | 第65-68页 |
致谢 | 第68-69页 |
攻读学位期间发表的学术论文目录 | 第69页 |