| 摘要 | 第4-5页 |
| ABSTRACT | 第5-6页 |
| 第一章 绪论 | 第9-12页 |
| 1.1 研究背景与意义 | 第9-10页 |
| 1.2 研究内容与目标 | 第10-11页 |
| 1.3 论文结构 | 第11-12页 |
| 第二章 相关技术研究和分析 | 第12-24页 |
| 2.1 搜索引擎技术研究 | 第12-14页 |
| 2.1.1 搜索引擎的原理和架构 | 第12页 |
| 2.1.2 中文分词 | 第12-13页 |
| 2.1.3 网页评分和排序 | 第13-14页 |
| 2.3 Lucene研究 | 第14-17页 |
| 2.3.1 Lucene的索引结构 | 第15-17页 |
| 2.3.2 Lucene的检索结构 | 第17页 |
| 2.4 Nutch研究 | 第17-19页 |
| 2.4.1 爬虫的工作策略 | 第17-18页 |
| 2.4.2 爬虫的工作流程 | 第18-19页 |
| 2.5 Hadoop技术简析 | 第19-22页 |
| 2.5.1 Hadoop平台的MapReduce模型 | 第19-21页 |
| 2.5.2 HDFS | 第21-22页 |
| 2.6 流量测量技术研究 | 第22-23页 |
| 2.7 本章小结 | 第23-24页 |
| 第三章 校园搜索引擎的设计与实现 | 第24-56页 |
| 3.1 系统需求及可行性分析 | 第24-25页 |
| 3.2 系统总体设计 | 第25-27页 |
| 3.3 爬虫模块设计与实现 | 第27-31页 |
| 3.3.1 爬虫模块总体流程 | 第27-28页 |
| 3.3.2 网页过滤及更新算法设计与实现 | 第28-30页 |
| 3.3.3 网页数据集更新策略 | 第30-31页 |
| 3.4 索引模块设计与实现 | 第31-41页 |
| 3.4.1 索引模块流程 | 第31-33页 |
| 3.4.2 向引擎中添加Paoding中文分词 | 第33-36页 |
| 3.4.3 索引阶段评分因子及评分算法 | 第36-39页 |
| 3.4.4 基于URL结构的评分及去重算法设计与实现 | 第39-41页 |
| 3.5 检索模块设计与实现 | 第41-48页 |
| 3.5.1 检索流程 | 第41-42页 |
| 3.5.2 检索阶段网页总体评分算法 | 第42-43页 |
| 3.5.3 网页完全包含排序算法设计与实现 | 第43-46页 |
| 3.5.4 基于title域字符数排序算法设计与实现 | 第46-48页 |
| 3.6 分布式部署与前端服务器配置 | 第48-50页 |
| 3.7 引擎运行结果 | 第50-55页 |
| 3.8 本章小结 | 第55-56页 |
| 第四章 基于搜索业务的Hadoop数据中心流量特性测量 | 第56-65页 |
| 4.1 测量方法设计与实现 | 第57-58页 |
| 4.2 Hadoop数据中心流量特性 | 第58-62页 |
| 4.2.1 流分布特性 | 第58-60页 |
| 4.2.2 数据中心里的大流和小流 | 第60-62页 |
| 4.3 搜索引擎业务流量特性 | 第62-64页 |
| 4.4 本章小结 | 第64-65页 |
| 第五章 总结与展望 | 第65-67页 |
| 5.1 工作总结 | 第65-66页 |
| 5.2 工作展望 | 第66-67页 |
| 参考文献 | 第67-69页 |
| 致谢 | 第69-70页 |
| 攻读学位期间发表的学术论文和科研情况 | 第70页 |
