摘要 | 第4-5页 |
ABSTRACT | 第5-6页 |
第一章 绪论 | 第9-14页 |
1.1 课题背景与意义 | 第9-10页 |
1.2 国内外研究现状 | 第10-11页 |
1.3 论文研究内容 | 第11-12页 |
1.4 论文组织结构 | 第12-13页 |
1.5 名词解释 | 第13-14页 |
第二章 相关技术综述 | 第14-25页 |
2.1 IOE架构及特点介绍 | 第14-16页 |
2.1.1 IOE架构介绍 | 第14-15页 |
2.1.2 IOE架构特点 | 第15-16页 |
2.2 IOE架构下常用ETL工具 | 第16-18页 |
2.2.1 ETL介绍 | 第16-17页 |
2.2.2 DataStage介绍 | 第17页 |
2.2.3 E-transform介绍 | 第17-18页 |
2.3 Hadoop云平台及特点介绍 | 第18-23页 |
2.3.1 HDFS(Hadoop Distributed File System)介绍 | 第18-20页 |
2.3.2 Map/Reduce并行计算框架介绍 | 第20-21页 |
2.3.3 Hadoop相关子项目介绍 | 第21-22页 |
2.3.4 Hadoop系统的主要特点 | 第22-23页 |
2.4 Hive数据仓库介绍 | 第23-24页 |
2.4.1 Hive简介 | 第23-24页 |
2.4.2 Hive数据存储 | 第24页 |
2.5 本章小结 | 第24-25页 |
第三章 ETL应用迁移设计与实现 | 第25-44页 |
3.1 需求分析 | 第25-26页 |
3.1.1 ETL应用数据迁移需求 | 第25页 |
3.1.2 ETL应用业务流程迁移需求 | 第25-26页 |
3.1.3 Hive脚本解析需求 | 第26页 |
3.2 ETL应用数据迁移的设计与实现 | 第26-30页 |
3.2.1 关系型数据库与Hive之间的数据迁移 | 第26-27页 |
3.2.2 服务器与HDFS之间的数据迁移 | 第27-30页 |
3.3 ETL应用业务流程迁移的设计与实现 | 第30-41页 |
3.3.1 SQL+TCL迁移设计 | 第30-32页 |
3.3.2 Datastage业务流程迁移的设计与实现 | 第32-36页 |
3.3.3 E-transform业务流程迁移的设计与实现 | 第36-41页 |
3.4 Hive脚本解析程序的设计与实现 | 第41-43页 |
3.5 本章小结 | 第43-44页 |
第四章 Hadoop云平台及应用的优化 | 第44-60页 |
4.1 需求分析 | 第44页 |
4.2 Hadoop云平台的优化 | 第44-47页 |
4.2.1 Linux参数的配置 | 第44-45页 |
4.2.2 Hadoop参数的配置 | 第45-47页 |
4.3 Hive应用的优化 | 第47-48页 |
4.4 性能测试与结论 | 第48-59页 |
4.4.1 测试环境 | 第48页 |
4.4.2 测试实验与结论 | 第48-59页 |
4.5 本章小结 | 第59-60页 |
第五章 Hadoop云平台的Job监控 | 第60-68页 |
5.1 需求分析 | 第60-61页 |
5.2 Job监控的设计与实现 | 第61-65页 |
5.3 监控指标可视化 | 第65-67页 |
5.4 本章小结 | 第67-68页 |
第六章 总结与展望 | 第68-70页 |
6.1 全文总结 | 第68-69页 |
6.2 下一步工作 | 第69-70页 |
参考文献 | 第70-72页 |
致谢 | 第72页 |