ETL数据处理测试框架的研究与设计
| 摘要 | 第1-6页 |
| Abstract | 第6-10页 |
| 1 绪论 | 第10-17页 |
| ·研究背景及研究现状 | 第10-14页 |
| ·采集和传输 | 第12-13页 |
| ·格式化 | 第13-14页 |
| ·ETL 处理 | 第14页 |
| ·研究内容和方案选择 | 第14-16页 |
| ·论文组织结构 | 第16-17页 |
| 2 ETL 数据处理测试框架的分析及研究 | 第17-31页 |
| ·场景模式样例的分析 | 第17-26页 |
| ·DAG 的分析 | 第17-21页 |
| ·SimpleMap 的分析 | 第21-22页 |
| ·Join 的分析 | 第22-25页 |
| ·Union 和多路输出的分析 | 第25-26页 |
| ·EVENT 表的分析 | 第26-28页 |
| ·EVENT 概述 | 第27页 |
| ·EVENT 对应的 HIVE 表生成 | 第27-28页 |
| ·日志格式化 | 第28-29页 |
| ·PB 日志的分析 | 第29-31页 |
| 3 ETL 数据处理测试框架的总体设计 | 第31-43页 |
| ·框架设计背景 | 第31-33页 |
| ·需求分析 | 第31-32页 |
| ·设计目标 | 第32-33页 |
| ·技术平台选择 | 第33-38页 |
| ·开发语言 | 第33页 |
| ·运行平台 | 第33-38页 |
| ·框架工作原理 | 第38-43页 |
| ·框架结构 | 第38-39页 |
| ·工作流程 | 第39-40页 |
| ·核心难点 | 第40-43页 |
| 4 ETL 数据处理测试框架的重难点研究 | 第43-62页 |
| ·framework 框架入口 | 第43-45页 |
| ·序列化 | 第45-47页 |
| ·反序列化 | 第47页 |
| ·数据适配 | 第47-50页 |
| ·Processor | 第48-49页 |
| ·Parser | 第49-50页 |
| ·拉取数据 | 第50-51页 |
| ·对比分析 | 第51-62页 |
| ·功能介绍 | 第51-52页 |
| ·技术实现 | 第52-62页 |
| 5 ETL 数据处理测试框架应用及测试 | 第62-75页 |
| ·配置及使用 | 第62-69页 |
| ·生成 case | 第62-63页 |
| ·配置方式 | 第63-67页 |
| ·运行方式 | 第67-69页 |
| ·结果展示 | 第69-72页 |
| ·常见问题 | 第72-75页 |
| 6 总结与展望 | 第75-76页 |
| 致谢 | 第76-77页 |
| 参考文献 | 第77-79页 |
| 在攻读硕士期间发表的论文 | 第79-80页 |
| 个人简历 | 第80页 |
