基于Nutch的垂直搜索引擎的改进与实现
摘要 | 第4-5页 |
ABSTRACT | 第5-6页 |
第一章 绪论 | 第9-13页 |
1.1 研究背景与意义 | 第9-10页 |
1.2 垂直搜索引擎研究现状 | 第10-11页 |
1.3 本文主要工作 | 第11-12页 |
1.4 论文组织结构 | 第12-13页 |
第二章 垂直搜索引擎相关技术概述 | 第13-22页 |
2.1 Hadoop平台 | 第13-16页 |
2.2 Nutch工作流程 | 第16-20页 |
2.3 Solr工作原理 | 第20-21页 |
2.4 本章小结 | 第21-22页 |
第三章 垂直搜索引擎搜索策略的研究 | 第22-38页 |
3.1 主题相关度判别研究 | 第22-24页 |
3.1.1 布尔模型 | 第22-23页 |
3.1.2 向量空间模型(VSM) | 第23-24页 |
3.2 网页排序算法研究 | 第24-26页 |
3.2.1 PageRank算法 | 第24-25页 |
3.2.2 Hits算法 | 第25-26页 |
3.3 网页文本中心词提取 | 第26-32页 |
3.3.1 LDA主题模型 | 第26-29页 |
3.3.2 LDA的训练及预测 | 第29-31页 |
3.3.3 提取文档中心词 | 第31-32页 |
3.4 Nutch网页评分算法的改进 | 第32-37页 |
3.4.1 Nutch现有排序算法 | 第32-36页 |
3.4.2 排序算法的改进 | 第36-37页 |
3.5 本章小结 | 第37-38页 |
第四章 垂直搜索引擎系统的设计与实现 | 第38-48页 |
4.1 系统总体结构设计 | 第38页 |
4.2 数据采集模块 | 第38-41页 |
4.2.1 网页信息抓取 | 第39-40页 |
4.2.2 网页内容解析 | 第40-41页 |
4.3 索引模块 | 第41-46页 |
4.3.1 主题词库的构建 | 第41-42页 |
4.3.2 中文分词模块 | 第42-43页 |
4.3.3 主题相关度判别 | 第43-45页 |
4.3.4 构建索引 | 第45-46页 |
4.4 检索模块 | 第46-47页 |
4.4.1 Solr搜索调用 | 第46-47页 |
4.4.2 排序改进 | 第47页 |
4.5 本章小结 | 第47-48页 |
第五章 实验结果分析 | 第48-58页 |
5.1 系统环境配置 | 第48-50页 |
5.2 系统功能测试 | 第50-52页 |
5.3 系统性能测试 | 第52-56页 |
5.3.1 TopN查准率分析 | 第53-55页 |
5.3.2 排序效果对比 | 第55-56页 |
5.4 本章小结 | 第56-58页 |
第六章 总结与展望 | 第58-60页 |
6.1 工作总结 | 第58页 |
6.2 工作展望 | 第58-60页 |
参考文献 | 第60-63页 |
致谢 | 第63-64页 |
攻读学位期间发表的学术论文 | 第64页 |