摘要 | 第5-6页 |
Abstract | 第6页 |
第1章 绪论 | 第9-14页 |
1.1 课题背景 | 第9-10页 |
1.2 研究意义 | 第10页 |
1.3 国内外搜索引擎发展现状 | 第10-12页 |
1.3.1 国内外发展概况 | 第10-11页 |
1.3.2 搜索引擎发展阶段 | 第11-12页 |
1.4 本文主要工作 | 第12-13页 |
1.5 论文的组织结构 | 第13-14页 |
第2章 搜索引擎的工作原理及相关技术介绍 | 第14-27页 |
2.1 搜索引擎工作流程 | 第14-15页 |
2.2 网络爬虫 | 第15-19页 |
2.2.1 宽度优先策略 | 第16-17页 |
2.2.2 深度优先策略 | 第17页 |
2.2.3 非完全PageRank策略 | 第17-18页 |
2.2.4 网页链接去重 | 第18-19页 |
2.3 搜索引擎索引 | 第19-21页 |
2.3.1 索引和布尔运算 | 第19-20页 |
2.3.2 正向索引和反向索引 | 第20-21页 |
2.4 网页与用户查询的相关性及其相关概念 | 第21-26页 |
2.4.1 词频和逆文本频率指数 | 第21-22页 |
2.4.2 向量空间模型 | 第22-23页 |
2.4.3 概率检索模型 | 第23-26页 |
2.5 本章小结 | 第26-27页 |
第3章Scrapy在校园搜索引擎中的应用 | 第27-39页 |
3.1 Scrapy分析与使用 | 第27-33页 |
3.1.1 Scrapy分析 | 第27-28页 |
3.1.2 Scrapy的安装 | 第28-29页 |
3.1.3 Scrapy的使用 | 第29-33页 |
3.2 Scrapy中两个问题的研究 | 第33-38页 |
3.2.1 Scrapy中URL去重的研究 | 第33-36页 |
3.2.2 Scrapy爬虫防止被禁止(ban)的策略 | 第36-38页 |
3.3 本章小结 | 第38-39页 |
第4章 校园搜索引擎系统的实现 | 第39-49页 |
4.1 系统总体架构设计 | 第39-40页 |
4.2 网页抓取模块 | 第40-41页 |
4.3 索引与检索模块 | 第41-45页 |
4.3.1 Whoosh介绍 | 第41-42页 |
4.3.2 Whoosh的使用 | 第42-43页 |
4.3.3 Whoosh与中文分词 | 第43-45页 |
4.4 前端展示模块 | 第45-48页 |
4.4.1 Flask的使用 | 第45-46页 |
4.4.2 校园搜索引擎用户搜索界面与查询结果展示 | 第46-48页 |
4.5 本章小结 | 第48-49页 |
第5章 系统测试 | 第49-53页 |
5.1 测试环境 | 第49页 |
5.2 与通用搜索引擎的对比测试 | 第49-52页 |
5.3 测试总结 | 第52页 |
5.4 本章小结 | 第52-53页 |
结论 | 第53-55页 |
参考文献 | 第55-58页 |
攻读硕士学位期间承担的科研任务与主要成果 | 第58-59页 |
致谢 | 第59-60页 |
作者简介 | 第60页 |