ETL在BI项目中的设计与实现
| 摘要 | 第5-7页 |
| ABSTRACT | 第7页 |
| 1 绪论 | 第10-13页 |
| 1.1 选题背景 | 第10页 |
| 1.2 选题意义 | 第10-11页 |
| 1.3 研究现状 | 第11页 |
| 1.4 本文研究内容 | 第11-12页 |
| 1.5 论文的结构 | 第12-13页 |
| 2 论文相关技术 | 第13-15页 |
| 2.1 ETL | 第13页 |
| 2.2 SSIS | 第13-14页 |
| 2.3 存储过程 | 第14页 |
| 2.4 本章小结 | 第14-15页 |
| 3 需求和约束 | 第15-21页 |
| 3.1 术语/缩略语 | 第15-16页 |
| 3.2 总体需求 | 第16页 |
| 3.3 条件约束 | 第16-17页 |
| 3.4 物理平台架构 | 第17-20页 |
| 3.4.1 平台架构 | 第17-18页 |
| 3.4.2 软件平台 | 第18-19页 |
| 3.4.3 硬件配置 | 第19-20页 |
| 3.5 本章小结 | 第20-21页 |
| 4 数据设计 | 第21-32页 |
| 4.1 数据架构 | 第21-22页 |
| 4.2 数据区设计 | 第22-24页 |
| 4.2.1 临时存储区STGO | 第22页 |
| 4.2.2 操作型数据存储区ODS | 第22-23页 |
| 4.2.3 企业级数据存储区EDW | 第23页 |
| 4.2.4 分析型数据集市区DM | 第23-24页 |
| 4.2.5 元数据资料区MDR | 第24页 |
| 4.3 设计方案 | 第24页 |
| 4.4 业务数据管理 | 第24-26页 |
| 4.4.1 客户主题 | 第25页 |
| 4.4.2 运营主题 | 第25-26页 |
| 4.5 元数据库管理 | 第26-31页 |
| 4.6 本章小结 | 第31-32页 |
| 5 系统设计 | 第32-46页 |
| 5.1 概述 | 第32页 |
| 5.2 系统架构 | 第32-33页 |
| 5.3 ETL数据流 | 第33-38页 |
| 5.3.1 数据抽取 | 第33-36页 |
| 5.3.2 数据集成转换 | 第36-37页 |
| 5.3.3 数据计算 | 第37-38页 |
| 5.4 ETL作业调度 | 第38-40页 |
| 5.4.1 作业调度模式 | 第38-39页 |
| 5.4.2 作业调度流程 | 第39-40页 |
| 5.5 ETL监控和日志 | 第40-41页 |
| 5.5.1 ETL监控内容 | 第40-41页 |
| 5.5.2 ETL监控方式 | 第41页 |
| 5.5.3 ETL日志和警报 | 第41页 |
| 5.6 ETL异常处理和恢复 | 第41-42页 |
| 5.7 数据质量检查 | 第42-45页 |
| 5.7.1 数据质量分析 | 第42-43页 |
| 5.7.2 数据质量解决方案 | 第43-44页 |
| 5.7.3 数据质量优化策略 | 第44-45页 |
| 5.8 本章小结 | 第45-46页 |
| 6 系统实现 | 第46-58页 |
| 6.1 数据抽取具体实现方式 | 第46-52页 |
| 6.1.1 基于时间戳方式的增量抽取 | 第46-47页 |
| 6.1.2 基于存储过程的ETL数据处理 | 第47-48页 |
| 6.1.3 基于SSIS平台的ETL数据处理 | 第48-50页 |
| 6.1.4 对于迟到数据的区分处理 | 第50-51页 |
| 6.1.5 多数据流并行抽取实现 | 第51-52页 |
| 6.2 ETL作业调度具体实现 | 第52-54页 |
| 6.3 ETL监控具体实现 | 第54-56页 |
| 6.4 异常处理具体实现 | 第56-57页 |
| 6.5 本章小结 | 第57-58页 |
| 7 总结与展望 | 第58-59页 |
| 7.1 总结 | 第58页 |
| 7.2 展望 | 第58-59页 |
| 参考文献 | 第59-61页 |
| 致谢 | 第61页 |
