致谢 | 第1-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-10页 |
1 引言 | 第10-15页 |
·研究背景及意义 | 第10-12页 |
·论文内容 | 第12-13页 |
·论文组织 | 第13-15页 |
2 Hadoop平台及聚类算法简介 | 第15-25页 |
·Hadoop平台 | 第15-17页 |
·HDFS体系架构-命名节点和数据节点 | 第15-16页 |
·MapReduce编程模型-Jobtracker和Tasktacker | 第16页 |
·MapReduce编程模型-MapTask/ReduceTask调度 | 第16-17页 |
·海量数据预处理模型框架 | 第17-20页 |
·MapReduce数据预处理 | 第17-19页 |
·提取特征向量 | 第19-20页 |
·聚类算法 | 第20-24页 |
·K-MEANS算法 | 第21页 |
·Mahout中K-MEANS算法 | 第21-23页 |
·K-MEANS算法分析计费日志 | 第23-24页 |
·本章小结 | 第24-25页 |
3 系统优化 | 第25-40页 |
·常见优化方法 | 第25-26页 |
·导入数据效率优化 | 第26-33页 |
·数据导入机制 | 第27-29页 |
·优化后导入机制 | 第29-33页 |
·数据处理/分析效率优化 | 第33-39页 |
·Map/Reduce执行流程 | 第33-34页 |
·数据处理效率优化 | 第34-37页 |
·K-MEANS聚类分析效率优化 | 第37-39页 |
·本章小结 | 第39-40页 |
4 基于myHadoop的校园网用户访问日志分析系统设计与实现 | 第40-46页 |
·myHadoop | 第40-41页 |
·myHadoop开发环境 | 第40-41页 |
·系统总体设计 | 第41-45页 |
·系统分析架构 | 第41-42页 |
·系统部署架构 | 第42-43页 |
·系统模块设计 | 第43-45页 |
·本章小结 | 第45-46页 |
5 实验测试与分析 | 第46-55页 |
·实验计费日志数据集 | 第46页 |
·实验测试环境 | 第46-48页 |
·完全分布式部署 | 第47-48页 |
·测试结果与分析 | 第48-55页 |
·聚类结果展示 | 第48-51页 |
·数据导入效率测试 | 第51-53页 |
·K-MEANS聚类分析效率测试 | 第53-55页 |
6 结束语 | 第55-57页 |
·论文总结 | 第55页 |
·下一步的工作方向 | 第55-57页 |
参考文献 | 第57-59页 |
附录A | 第59-63页 |
附录B | 第63-65页 |
作者简历 | 第65-67页 |
学位论文数据集 | 第67页 |