中文摘要 | 第3-4页 |
英文摘要 | 第4-5页 |
1 绪论 | 第8-13页 |
1.1 课题研究的背景及意义 | 第8页 |
1.2 国内外研究现状和难点 | 第8-11页 |
1.2.1 面向大数据的搜索引擎 | 第9页 |
1.2.2 基于云计算的聚类分析算法 | 第9-11页 |
1.3 本文的研究内容 | 第11页 |
1.4 本文的章节安排 | 第11-13页 |
2 云计算模型 | 第13-29页 |
2.1 Map-Reduce计算模型 | 第13-15页 |
2.1.1 执行流程 | 第13-14页 |
2.1.2 编程模型 | 第14页 |
2.1.3 容错性 | 第14-15页 |
2.1.4 任务调度与备份 | 第15页 |
2.2 HDFS分布式文件系统 | 第15-16页 |
2.3 HBASE分布式数据库 | 第16页 |
2.4 Spark云计算框架 | 第16-17页 |
2.5 Spark on YARN平台搭建 | 第17-28页 |
2.5.1 运行环境 | 第18-19页 |
2.5.2 基础组件安装配置 | 第19-20页 |
2.5.3 YARN搭建过程 | 第20-24页 |
2.5.4 Spark on YARN搭建过程 | 第24-26页 |
2.5.5 搭建配置过程中可能遇到问题的解决方法 | 第26页 |
2.5.6 Spark on YARN平台启动 | 第26-28页 |
2.6 本章小结 | 第28-29页 |
3 面向大数据的搜索引擎设计 | 第29-38页 |
3.1 大数据的特点 | 第29-30页 |
3.2 面向大数据的搜索引擎设计方法 | 第30-32页 |
3.3 大数据人脸识别搜索引擎 | 第32-37页 |
3.3.1 基本架构 | 第32-33页 |
3.3.2 数据组织模块 | 第33-35页 |
3.3.3 人脸图像特征对比模块 | 第35-37页 |
3.4 本章小结 | 第37-38页 |
4 面向大数据的自适应聚类算法 | 第38-53页 |
4.1 聚类算法介绍 | 第39页 |
4.2 聚类算法分类 | 第39-41页 |
4.2.1 划分方法 | 第40页 |
4.2.2 层次方法 | 第40页 |
4.2.3 基于密度的方法 | 第40页 |
4.2.4 基于网格的方法 | 第40-41页 |
4.2.5 基于模型的方法 | 第41页 |
4.3 Canopy-K-means算法思想及并行化 | 第41-44页 |
4.3.1 K-means算法 | 第41-42页 |
4.3.2 Canopy算法优化 | 第42-43页 |
4.3.3 并行化Canopy-K-means算法实现 | 第43-44页 |
4.4 自适应Canopy-K-means算法 | 第44-46页 |
4.4.1 数据预分析 | 第44-45页 |
4.4.2 数据统计分析 | 第45页 |
4.4.3 最佳2T阈值估计 | 第45-46页 |
4.5 并行化自适应Canopy-K-means算法实现 | 第46-47页 |
4.6 复杂度分析 | 第47-48页 |
4.7 实验与分析 | 第48-52页 |
4.7.1 实验设计 | 第48-49页 |
4.7.2 实验结果 | 第49-51页 |
4.7.3 实验结果分析 | 第51-52页 |
4.8 本章小结 | 第52-53页 |
5 总结与展望 | 第53-55页 |
5.1 工作总结 | 第53-54页 |
5.2 工作展望 | 第54-55页 |
致谢 | 第55-56页 |
参考文献 | 第56-60页 |
附录 | 第60页 |
A. 作者在攻读学位期间公开发表的科研成果目录 | 第60页 |
B. 作者在攻读学位期间参与的科研项目目录 | 第60页 |