摘要 | 第1-5页 |
ABSTRACT | 第5-11页 |
1 绪论 | 第11-15页 |
·研究背景 | 第11-13页 |
·大数据时代到来 | 第11页 |
·企业信息系统的产生与发展 | 第11-12页 |
·企业中基于 ERP 系统的 BSC 决策系统应用 | 第12页 |
·数据仓库的发展 | 第12-13页 |
·研究目的与意义 | 第13页 |
·研究目标和内容 | 第13页 |
·论文结构 | 第13-15页 |
2 背景知识 | 第15-29页 |
·大规模并行处理计算 | 第15-17页 |
·数据的存储与读取 | 第15页 |
·MPP 与 SMP 的架构区分 | 第15-17页 |
·结构化数据处理 | 第17-18页 |
·非结构化数据处理 | 第18-24页 |
·半结构化数据与非结构化数据 | 第18-19页 |
·Hadoop 与 Mapreduce | 第19-22页 |
·Hadoop 与 Hive | 第22-24页 |
·企业数据仓库 DW1 与 DW2 | 第24-26页 |
·第一代数据仓库 | 第24-25页 |
·第二代数据仓库 | 第25-26页 |
·战略管理与执行工具 - BSC(平衡计分卡) | 第26-27页 |
·信息时代的竞争 | 第26页 |
·平衡计分卡的平衡作用 | 第26-27页 |
·小结 | 第27-29页 |
3 总体设计 | 第29-42页 |
·DW2 数据仓库平台设计 | 第29-30页 |
·数据仓库硬件基础结构 | 第30-32页 |
·企业级数据仓库总体设计 | 第32-33页 |
·数据库层设计 | 第33-35页 |
·结构化数据库设计 | 第33-35页 |
·非结构化数据库设计 | 第35页 |
·ETL 设计 | 第35-37页 |
·总体要求 | 第36页 |
·数据的抽取 | 第36页 |
·数据的清洗 | 第36页 |
·数据的转换 | 第36-37页 |
·数据的加载 | 第37页 |
·元数据设计 | 第37-38页 |
·企业基于 ERP 系统的 BSC 指标分解 | 第38-40页 |
·确定 BSC 总体目标 | 第38页 |
·确定 BSC 战略地图 | 第38-39页 |
·确定 BSC 详细指标并确定数据来源 | 第39-40页 |
·数据分析层 | 第40-41页 |
·数据分析概要 | 第40页 |
·数据分析实例 | 第40-41页 |
·小结 | 第41-42页 |
4 关键技术 | 第42-66页 |
·结构化并行处理数据库的实现 | 第42-49页 |
·GreenplumDB 环境 | 第42页 |
·GreenplumDB 的实现 | 第42-49页 |
·非结构化数据库的实现 | 第49-55页 |
·系统环境 | 第49页 |
·集群部署 | 第49-50页 |
·SSH 无密码配置 | 第50-52页 |
·JAVA 环境安装 | 第52页 |
·Hadoop 集群安装 | 第52-55页 |
·HIVE 的实现 | 第55-56页 |
·Hive 的安装 | 第55-56页 |
·ETL 实现 | 第56-57页 |
·软硬件环境 | 第56页 |
·ETL 服务器安装,Talend 实现 | 第56-57页 |
·实现结构化数据 ETL | 第57-60页 |
·从交互区到整合区 | 第57-59页 |
·数据集市的设计 | 第59-60页 |
·从整合区到近线区 | 第60页 |
·从近线区到归档区 | 第60页 |
·实现非结构化数据的 ETL | 第60-62页 |
·非结构化数据源的选择 | 第61-62页 |
·通过 Hive 将数据导入 Hadoop HDFS 系统 | 第62页 |
·Hive 分析数据并输出成文本文件保存 | 第62页 |
·分析系统的实现 | 第62-64页 |
·结构化数据报表 | 第63页 |
·非结构化数据分析 | 第63-64页 |
·小结 | 第64-66页 |
5 测试与验证 | 第66-78页 |
·测试内容 | 第66页 |
·测试情况 | 第66-77页 |
·Greenplum 数据库测试 | 第66-69页 |
·Hadoop Hive 测试环境 | 第69-71页 |
·Email 分析数据测试 | 第71-72页 |
·ETL 测试 | 第72-74页 |
·BSC 分析指标实现测试 | 第74-76页 |
·非结构化数据分析 | 第76-77页 |
·小结 | 第77-78页 |
6 总结与改进 | 第78-81页 |
·论文总结 | 第78-79页 |
·论文存在的问题 | 第79页 |
·非结构化数据的转换问题 | 第79页 |
·Map 过程与 reduce 过程不均衡问题 | 第79页 |
·数据分析方法问题 | 第79页 |
·进一步改进建议 | 第79-80页 |
·成果应用前景 | 第80-81页 |
参考文献 | 第81-83页 |
致谢 | 第83-84页 |
攻读学位期间发表的学术论文 | 第84-87页 |
上海交通大学硕士学位论文答辩决议书 | 第87页 |