基于Hadoop的海量数据处理系统的设计与实现
| 摘要 | 第1-5页 |
| Abstract | 第5-8页 |
| 第1章 绪论 | 第8-15页 |
| ·课题来源及意义 | 第8-9页 |
| ·与本课题有关的国内外研究状况 | 第9-13页 |
| ·数据处理研究现状 | 第9-10页 |
| ·分布式计算研究现状 | 第10页 |
| ·分布式系统模型介绍 | 第10-13页 |
| ·本课题研究的主要内容 | 第13-14页 |
| ·本论文主要工作内容 | 第14-15页 |
| 第2章 系统需求分析和概要设计 | 第15-26页 |
| ·相关技术介绍 | 第15-19页 |
| ·HDFS | 第15-16页 |
| ·Hadoop MapReduce | 第16-18页 |
| ·插件技术 | 第18-19页 |
| ·系统定位 | 第19页 |
| ·系统需求分析 | 第19-21页 |
| ·系统体系结构 | 第21-25页 |
| ·分布式文件管理 | 第21-22页 |
| ·分布式任务管理 | 第22-23页 |
| ·任务调度管理 | 第23-24页 |
| ·任务插件 | 第24-25页 |
| ·本章小结 | 第25-26页 |
| 第3章 系统详细设计与实现 | 第26-50页 |
| ·分布式文件管理 | 第26-27页 |
| ·分布式任务管理 | 第27-35页 |
| ·任务配置 | 第28-31页 |
| ·任务框架 | 第31-33页 |
| ·日志解析 | 第33-35页 |
| ·通用处理 | 第35页 |
| ·任务调度管理 | 第35-40页 |
| ·框架单任务启动 | 第36-37页 |
| ·系统任务调度 | 第37-40页 |
| ·任务插件 | 第40-49页 |
| ·特定字段组合的统计汇总 | 第41-42页 |
| ·多维度的统计汇总 | 第42-43页 |
| ·大数据集差异数据获取 | 第43-45页 |
| ·特定数据抽取 | 第45-46页 |
| ·特殊数据打标记 | 第46-47页 |
| ·特定字段值相等的关联操作 | 第47-48页 |
| ·求特定字段组合的最值 | 第48-49页 |
| ·本章小结 | 第49-50页 |
| 第4章 系统测试与性能分析 | 第50-56页 |
| ·测试环境 | 第50-51页 |
| ·硬件环境 | 第50页 |
| ·软件环境 | 第50-51页 |
| ·功能测试 | 第51-53页 |
| ·文件导入测试 | 第51页 |
| ·数据处理测试 | 第51-52页 |
| ·调度系统测试 | 第52-53页 |
| ·系统性能测试与分析 | 第53-55页 |
| ·本章小结 | 第55-56页 |
| 结论 | 第56-58页 |
| 参考文献 | 第58-63页 |
| 致谢 | 第63-64页 |
| 个人简历 | 第64页 |
