基于Hadoop的ETL系统的设计与实现
| 摘要 | 第5-6页 |
| abstract | 第6-7页 |
| 第一章 绪论 | 第10-14页 |
| 1.1 课题研究背景 | 第10-11页 |
| 1.2 目的和意义 | 第11页 |
| 1.3 国内外研究现状 | 第11-12页 |
| 1.4 过往的传统ETL方式 | 第12页 |
| 1.5 论文的主要工作内容 | 第12-13页 |
| 1.6 论文结构 | 第13-14页 |
| 第二章 系统需求与相关开发技术分析 | 第14-21页 |
| 2.1 业务需求分析 | 第14-15页 |
| 2.1.1 大数据量 | 第14页 |
| 2.1.2 业务及时性 | 第14页 |
| 2.1.3 数据开放 | 第14-15页 |
| 2.2 功能需求分析 | 第15-19页 |
| 2.2.1 数据采集 | 第15-16页 |
| 2.2.3 数据清洗 | 第16-17页 |
| 2.2.4 数据加载 | 第17-18页 |
| 2.2.5 资源管理 | 第18-19页 |
| 2.3 综合分析 | 第19页 |
| 2.4 相关开发技术分析 | 第19-20页 |
| 2.5 本章总结 | 第20-21页 |
| 第三章 系统设计 | 第21-27页 |
| 3.1 系统整体设计思路 | 第21页 |
| 3.2 系统功能架构设计 | 第21-24页 |
| 3.3 系统技术架构设计 | 第24-26页 |
| 3.4 本章总结 | 第26-27页 |
| 第四章 系统的实现 | 第27-66页 |
| 4.1 数据采集 | 第27-38页 |
| 4.1.1 采集的功能实现 | 第27-33页 |
| 4.1.2 采集的实现流程 | 第33-35页 |
| 4.1.3 采集的实现效果 | 第35-38页 |
| 4.2 数据清洗 | 第38-46页 |
| 4.2.1 清洗的功能实现 | 第38-42页 |
| 4.2.2 清洗的实现效果 | 第42-43页 |
| 4.2.3 清洗的实现流程 | 第43-46页 |
| 4.3 数据加载 | 第46-55页 |
| 4.3.1 加载的实现流程 | 第46-52页 |
| 4.3.2 加载的功能实现 | 第52-55页 |
| 4.4 统一资源控制 | 第55-65页 |
| 4.4.1 Server调度与服务 | 第55页 |
| 4.4.2 资源共享 | 第55-56页 |
| 4.4.3 调度日志管理 | 第56页 |
| 4.4.5 健康度管理 | 第56页 |
| 4.4.7 Agent调度与服务 | 第56-65页 |
| 4.5 本章总结 | 第65-66页 |
| 第五章 系统测试及部署 | 第66-71页 |
| 5.1 功能测试 | 第66-68页 |
| 5.1.1 数据采集测试 | 第66页 |
| 5.1.2 数据清洗 | 第66-67页 |
| 5.1.3 数据加载 | 第67页 |
| 5.1.4 统一资源控制 | 第67-68页 |
| 5.2 系统整体性能测试 | 第68页 |
| 5.3 系统部署 | 第68-70页 |
| 5.4 本章总结 | 第70-71页 |
| 第六章 总结及展望 | 第71-72页 |
| 6.1 课题总结 | 第71页 |
| 6.2 课题展望 | 第71-72页 |
| 致谢 | 第72-73页 |
| 参考文献 | 第73-74页 |
