中国邮政速递数据仓库系统ETL的设计与实现
致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
1 引言 | 第12-17页 |
1.1 论文背景 | 第12-13页 |
1.2 国内外研究现状 | 第13-14页 |
1.3 论文意义 | 第14-15页 |
1.4 论文组织结构及本人工作 | 第15-17页 |
2 数据仓库相关技术 | 第17-27页 |
2.1 数据仓库 | 第17-19页 |
2.1.1 数据仓库概念 | 第17-18页 |
2.1.2 数据仓库特点 | 第18-19页 |
2.2 实时数据仓库的技术特征 | 第19-21页 |
2.2.1 Tactical Query | 第19-20页 |
2.2.2 分析类查询 | 第20页 |
2.2.3 主动业务流程 | 第20-21页 |
2.3 Teradata数据仓库 | 第21-24页 |
2.3.1 Teradata数据库架构 | 第21-24页 |
2.3.2 Teradata数据存储和查询 | 第24页 |
2.4 Teradata数据仓库实施论 | 第24-27页 |
3 源系统分析及模型设计 | 第27-34页 |
3.1 源系统分析 | 第27-29页 |
3.1.1 电子化支局 | 第28-29页 |
3.1.2 中心局系统 | 第29页 |
3.1.3 生产作业系统 | 第29页 |
3.2 模型设计 | 第29-33页 |
3.2.1 LDM设计目标 | 第30-31页 |
3.2.2 主题模型设计 | 第31-32页 |
3.2.3 概念模型设计 | 第32-33页 |
3.2.4 详细设计 | 第33页 |
3.3 本章小结 | 第33-34页 |
4 ETL设计 | 第34-42页 |
4.1 ETL概述 | 第34页 |
4.2 ETL架构设计 | 第34-39页 |
4.2.1 ETL架构特点 | 第34-35页 |
4.2.2 ETL逻辑架构设计 | 第35-37页 |
4.2.3 ETL系统自动化设计 | 第37-39页 |
4.3 ETL作业设计 | 第39-41页 |
4.3.1 ETL作业分类 | 第39-41页 |
4.3.2 ETL作业和脚本命名 | 第41页 |
4.4 本章小结 | 第41-42页 |
5 ETL实现 | 第42-64页 |
5.1 数据抽取 | 第42-44页 |
5.1.1 基于消息总线的体系结构 | 第42-43页 |
5.1.2 主题与队列管理 | 第43-44页 |
5.1.3 权限管理 | 第44页 |
5.2 数据加载 | 第44-48页 |
5.2.1 数据获取 | 第44-45页 |
5.2.2 加载策略 | 第45-46页 |
5.2.3 加载作业实现 | 第46-48页 |
5.3 数据加载监控 | 第48-52页 |
5.3.1 接受进程 | 第49页 |
5.3.2 排队消息数量 | 第49-51页 |
5.3.3 新增消息队列接口 | 第51页 |
5.3.4 接口切换 | 第51-52页 |
5.4 数据清洗和校验 | 第52-53页 |
5.5 数据转换 | 第53-58页 |
5.5.1 逻辑数据映射 | 第54-55页 |
5.5.2 通用转换算法及选择 | 第55-57页 |
5.5.3 ETL转换处理规则 | 第57-58页 |
5.6 作业测试 | 第58-60页 |
5.6.1 单元测试 | 第58-59页 |
5.6.2 集成测试 | 第59-60页 |
5.7 ETL脚本调优 | 第60-63页 |
5.7.1 调优步骤 | 第60-61页 |
5.7.2 常见调优方法 | 第61-63页 |
5.8 本章小结 | 第63-64页 |
6 结论 | 第64-65页 |
参考文献 | 第65-67页 |
作者简历 | 第67-69页 |
学位论文数据集 | 第69页 |