摘要 | 第4-5页 |
ABSTRACT | 第5页 |
第一章 绪论 | 第8-12页 |
1.1 课题研究背景 | 第8-9页 |
1.2 国内外研究现状 | 第9-11页 |
1.2.1 分布式数据处理 | 第9页 |
1.2.2 数据清洗 | 第9-10页 |
1.2.3 孤立点检测 | 第10-11页 |
1.3 论文主要工作 | 第11页 |
1.4 论文组织结构 | 第11-12页 |
第二章 数据处理相关技术 | 第12-24页 |
2.1 云计算 | 第12-13页 |
2.1.1 云计算的关键技术 | 第12页 |
2.1.2 云计算服务模式 | 第12-13页 |
2.1.3 云计算平台 | 第13页 |
2.2 分布式处理 | 第13-15页 |
2.3 Hadoop平台简介 | 第15-19页 |
2.3.1 HDFS文件系统 | 第15-17页 |
2.3.2 MapReduce编程模型 | 第17-18页 |
2.3.3 HBase数据库 | 第18-19页 |
2.4 聚类分析 | 第19-22页 |
2.4.1 聚类方法简介 | 第20页 |
2.4.2 K-Means算法与K-Medoids算法 | 第20-21页 |
2.4.3 距离度量 | 第21-22页 |
2.5 孤立点检测技术 | 第22-23页 |
2.6 本章小结 | 第23-24页 |
第三章 数据转换平台总体设计 | 第24-40页 |
3.1 基于大数据的分析评估系统简介 | 第24-26页 |
3.1.1 系统结构简介 | 第24-25页 |
3.1.2 各功能层分析说明 | 第25-26页 |
3.2 数据转换平台设计 | 第26-28页 |
3.3 数据转换规则引擎 | 第28-33页 |
3.4 孤立点检测模块 | 第33-39页 |
3.4.1 模块设计思路 | 第34页 |
3.4.2 模块整体方案设计 | 第34-37页 |
3.4.3 K-Medoids聚类算法 | 第37-39页 |
3.5 本章小结 | 第39-40页 |
第四章 功能模块的设计与实现 | 第40-64页 |
4.1 数据抽取模块详细设计与实现 | 第40-43页 |
4.1.1 数据抽取配置 | 第40页 |
4.1.2 数据抽取配置文件解析 | 第40-42页 |
4.1.3 抽取数据存入HDFS | 第42-43页 |
4.2 数据处理模块详细设计与实现 | 第43-47页 |
4.2.1 数据处理配置 | 第43页 |
4.2.2 数据处理配置文件的解析 | 第43-44页 |
4.2.3 数据处理的并行化算法 | 第44-47页 |
4.3 数据存储模块详细设计与实现 | 第47-49页 |
4.3.1 MySql数据库存储 | 第47-48页 |
4.3.2 HBase数据库存储 | 第48-49页 |
4.4 孤立点检测模块详细设计 | 第49-51页 |
4.4.1 K-Medoids算法并行化思路 | 第49-50页 |
4.4.2 基于MapReduce的K-Medoids算法流程 | 第50-51页 |
4.4.3 孤立点检测算法的并行化 | 第51页 |
4.5 孤立点检测模块的实现 | 第51-57页 |
4.5.1 K-Medoids算法并行化实现 | 第51-56页 |
4.5.2 孤立点检测算法的实现 | 第56-57页 |
4.6 数据转换平台功能测试 | 第57-63页 |
4.6.1 实验环境 | 第57页 |
4.6.2 数据转换规则引擎功能测试 | 第57-60页 |
4.6.3 孤立点检测模块功能测试 | 第60-63页 |
4.7 本章小结 | 第63-64页 |
第五章 总结与展望 | 第64-66页 |
5.1 总结 | 第64页 |
5.2 展望 | 第64-66页 |
致谢 | 第66-67页 |
参考文献 | 第67-69页 |