摘要 | 第6-7页 |
Abstract | 第7页 |
第一章 绪论 | 第10-12页 |
1.1 研究背景 | 第10页 |
1.2 研究的目的和意义 | 第10-11页 |
1.3 主要研究内容和创新点 | 第11-12页 |
第二章 基于hadoop的农业电子商务数据平台构建需求分析 | 第12-16页 |
2.1 传统农业电子商务数据平台不足 | 第12-13页 |
2.1.1 单机环境能力有限问题 | 第12页 |
2.1.2 数据可靠采集问题 | 第12页 |
2.1.3 数据存储能力不足问题 | 第12-13页 |
2.2 使用hadoop平台搭建数据平台的必要性 | 第13-14页 |
2.3 基于hadoop农业电子商务数据平台的关键解决技术 | 第14-16页 |
2.3.1 高可靠分布式集群环境部署 | 第14页 |
2.3.2 分布式多类型数据采集 | 第14-15页 |
2.3.3 基于分布式的数据存储 | 第15-16页 |
第三章 Hadoop平台概述 | 第16-22页 |
3.1 Hadoop平台核心框架简介 | 第16-19页 |
3.1.1 数据存储框架-hdfs | 第16-17页 |
3.1.2 资源管理调度系统-yarn | 第17-18页 |
3.1.3 分布式计算框架--MapReducer | 第18-19页 |
3.2 Hadoop平台常用组件介绍 | 第19-22页 |
3.2.1 数据库组件-hbase | 第19-20页 |
3.2.2 程序协调服务-zookeeper | 第20页 |
3.2.3 数据采集组件-Flume | 第20-21页 |
3.2.4 数据仓库组件-hive | 第21-22页 |
第四章 电子商务数据平台部署技术 | 第22-28页 |
6.1 安装环境准备 | 第22-24页 |
6.1.1 集群规划 | 第22页 |
6.1.2 集群环境准备 | 第22-24页 |
6.2 安装ZooKeeper | 第24页 |
6.3 安装配置hadoop集群 | 第24-26页 |
6.4 Hbase集群安装 | 第26-28页 |
第五章 数据平台数据采集技术 | 第28-33页 |
5.1 农业电子商务平台数据分类 | 第28页 |
5.2 农业电子商务数据平台数据采集问题 | 第28页 |
5.3 平台非结构化数据采集 | 第28-31页 |
5.3.1 Flume原理 | 第29-30页 |
5.3.2 Flume采集农业电子商务网站日志数据 | 第30-31页 |
5.4 平台结构化数据采集 | 第31-33页 |
5.4.1 Sqoop原理 | 第31-32页 |
5.3.2 Sqoop采集农产品库数据 | 第32-33页 |
第六章 数据平台数据存储技术 | 第33-39页 |
6.1 数据平台数据存储问题 | 第33页 |
6.2 HDFS存储农业电子商务离线数据 | 第33-36页 |
6.2.1 HDFS数据存储 | 第33-34页 |
6.2.2 HDFS离线数据存储 | 第34-36页 |
6.3 Hbase实时存储农业电子商务在线数据 | 第36-39页 |
6.3.1 Hbase原理 | 第36-37页 |
6.3.2 Hbase实时存储数据 | 第37-39页 |
结语 | 第39-40页 |
参考文献 | 第40-42页 |
致谢 | 第42-43页 |
附录 | 第43-46页 |