基于教育领域的垂直搜索引擎的研究与设计
摘要 | 第4-5页 |
Abstract | 第5页 |
1 绪论 | 第8-12页 |
1.1 课题研究背景 | 第8-9页 |
1.2 搜索引擎概述 | 第9-10页 |
1.3 本文所做的主要工作 | 第10-12页 |
2 垂直搜索引擎关键技术 | 第12-25页 |
2.1 主题爬虫 | 第12-13页 |
2.2 网络资源解析处理 | 第13-15页 |
2.2.1 噪声去除 | 第13-14页 |
2.2.2 中文分词技术 | 第14-15页 |
2.3 开源 Lucene | 第15-18页 |
2.3.1 开源 Lucene | 第15-16页 |
2.3.2 多文件索引结构 | 第16-17页 |
2.3.3 复合索引结构 | 第17页 |
2.3.4 Lucene 索引的创建过程 | 第17-18页 |
2.4 信息资源的查询模型 | 第18-24页 |
2.4.1 布尔模型 | 第18页 |
2.4.2 向量模型 | 第18-20页 |
2.4.3 概率模型 | 第20-21页 |
2.4.4 Lucene 的评分机制 | 第21-23页 |
2.4.5 Lucene 的检索过程 | 第23-24页 |
2.5 本章小结 | 第24-25页 |
3 系统的需求分析和设计 | 第25-29页 |
3.1 需求分析阶段 | 第25-26页 |
3.2 系统开发以及运行环境 | 第26页 |
3.3 系统整体框架图 | 第26-27页 |
3.4 系统运行原理 | 第27页 |
3.5 系统功能模块分析 | 第27-28页 |
3.6 本章小结 | 第28-29页 |
4 主题爬虫的分析设计与实现 | 第29-46页 |
4.1 主题爬虫的分析 | 第29-31页 |
4.2 主题爬虫的关键技术与设计过程 | 第31-43页 |
4.2.1 并行抓取任务的设计 | 第31-32页 |
4.2.2 线程同步设计 | 第32-33页 |
4.2.3 数据库存储设计 | 第33-35页 |
4.2.4 链接的提取方法 | 第35-36页 |
4.2.5 停止协议 | 第36-37页 |
4.2.6 爬行策略的研究 | 第37-39页 |
4.2.7 爬行策略的设计 | 第39-43页 |
4.3 验证改进效果 | 第43-45页 |
4.4 本章小结 | 第45-46页 |
5 系统的设计与实现 | 第46-59页 |
5.1 模块的设计分析 | 第46-48页 |
5.2 网页去噪的研究与实现 | 第48-52页 |
5.2.1 网页资源文件(HTML) | 第48页 |
5.2.2 网页去噪实现 | 第48-52页 |
5.3 索引文件的构造过程 | 第52-53页 |
5.4 检索模块的设计与实现 | 第53-55页 |
5.5 结果验证与测试 | 第55-58页 |
5.6 本章小结 | 第58-59页 |
结论 | 第59-60页 |
致谢 | 第60-61页 |
参考文献 | 第61-63页 |
攻读学位期间的研究成果 | 第63页 |