Hadoop架构下数据挖掘与数据迁移系统的设计与实现
| 摘要 | 第1-7页 |
| ABSTRACT | 第7-13页 |
| 第一章 绪论 | 第13-20页 |
| ·研究背景与意义 | 第13-14页 |
| ·研究现状 | 第14-17页 |
| ·大数据平台 | 第14-15页 |
| ·数据挖掘 | 第15-16页 |
| ·数据迁移 | 第16-17页 |
| ·主要研究内容 | 第17-19页 |
| ·论文结构 | 第19-20页 |
| 第二章 系统相关技术介绍 | 第20-38页 |
| ·Hadoop 简介 | 第20-21页 |
| ·MapReduce 关键技术 | 第21-28页 |
| ·MapReduce 并行计算机制 | 第22-23页 |
| ·MapReduce 容错处理机制 | 第23-25页 |
| ·MapReduce 作业调度机制 | 第25-28页 |
| ·HBase 关键技术分析 | 第28-36页 |
| ·CAP 原理 | 第29-31页 |
| ·数据模型 | 第31页 |
| ·数据版本控制 | 第31-33页 |
| ·数据查询 | 第33页 |
| ·基于 MapReduce 的数据处理 | 第33-34页 |
| ·HBase 与关系型数据库比较 | 第34-36页 |
| ·HDFS 关键技术分析 | 第36-37页 |
| ·HDFS 体系结构 | 第36页 |
| ·HDFS 数据特性 | 第36-37页 |
| ·本章小结 | 第37-38页 |
| 第三章 分层存储系统设计 | 第38-43页 |
| ·系统设计背景 | 第38-39页 |
| ·系统设计需求 | 第39页 |
| ·系统架构设计 | 第39-40页 |
| ·大数据平台系统架构设计 | 第40-42页 |
| ·本章小结 | 第42-43页 |
| 第四章 数据挖掘模块设计与实现 | 第43-53页 |
| ·数据挖掘系统设计 | 第43-50页 |
| ·架构设计 | 第44-45页 |
| ·接口设计 | 第45-47页 |
| ·时序图 | 第47页 |
| ·子模块设计 | 第47-50页 |
| ·数据挖掘模块实现 | 第50-52页 |
| ·消费者评分模块 | 第51页 |
| ·商户评分模块 | 第51-52页 |
| ·本章小结 | 第52-53页 |
| 第五章 数据迁移模块设计与实现 | 第53-66页 |
| ·基于 MapReduce 的结构化数据迁移 | 第53-57页 |
| ·结构化数据迁移设计 | 第53-55页 |
| ·Hadoop 调度器的优化 | 第55-57页 |
| ·基于 FTP 的非结构化数据迁移 | 第57-60页 |
| ·数据迁移系统实现 | 第60-65页 |
| ·结构化数据迁移实现 | 第60-64页 |
| ·非结构化数据迁移实现 | 第64-65页 |
| ·本章小结 | 第65-66页 |
| 第六章 系统测试 | 第66-77页 |
| ·测试环境 | 第66-68页 |
| ·硬件环境 | 第66-67页 |
| ·软件环境 | 第67页 |
| ·网络拓扑 | 第67页 |
| ·集群搭建 | 第67-68页 |
| ·数据挖掘测试 | 第68-70页 |
| ·消费者分类 | 第68-69页 |
| ·商户分类 | 第69-70页 |
| ·数据迁移测试 | 第70-76页 |
| ·结构化数据迁移 | 第70-73页 |
| ·非结构数据迁移 | 第73-76页 |
| ·本章小结 | 第76-77页 |
| 第七章 结束语 | 第77-79页 |
| ·总结 | 第77-78页 |
| ·未来工作展望 | 第78-79页 |
| 参考文献 | 第79-82页 |
| 致谢 | 第82-83页 |
| 攻读硕士学位期间发表的学术论文 | 第83-84页 |
| 附件 | 第84页 |
