摘要 | 第5-6页 |
Abstract | 第6页 |
第一章 绪论 | 第9-15页 |
1.1 研究背景与意义 | 第9-10页 |
1.2 本项目的研究进展 | 第10-12页 |
1.3 本文主要研究内容 | 第12-15页 |
1.3.1 研究目标 | 第12页 |
1.3.2 研究内容 | 第12-14页 |
1.3.3 本文组织结构 | 第14-15页 |
第二章 相关技术介绍 | 第15-29页 |
2.1 大数据 | 第15-17页 |
2.1.1 大数据的定义及特征 | 第15-16页 |
2.1.2 大数据相关技术 | 第16-17页 |
2.2 Hadoop分布式平台 | 第17-23页 |
2.2.1 Hadoop分布式文件系统 | 第17-20页 |
2.2.2 Mapreduce分布式计算 | 第20-21页 |
2.2.3 Hive数据仓库 | 第21-23页 |
2.3 网络爬虫原理 | 第23-26页 |
2.3.1 网络爬虫基本原理 | 第23-24页 |
2.3.2 Scrapy基本原理 | 第24-26页 |
2.4 本章小结 | 第26-29页 |
第三章 基于Hadoop的互联网数据营销系统的设计 | 第29-41页 |
3.1 系统需求 | 第29-30页 |
3.2 系统整体设计 | 第30-32页 |
3.2.1 数据流程设计 | 第30-31页 |
3.2.2 系统架构 | 第31-32页 |
3.3 系统功能模块详细设计 | 第32-40页 |
3.3.1 日志采集模块设计 | 第32-33页 |
3.3.2 分布式存储模块设计 | 第33-34页 |
3.3.3 分布式爬虫模块设计 | 第34-37页 |
3.3.4 分布式计算模块设计 | 第37-40页 |
3.4 本章小结 | 第40-41页 |
第四章 基于Hadoop的互联网数据营销系统的实现 | 第41-55页 |
4.1 开发环境 | 第41-42页 |
4.2 系统实现 | 第42-53页 |
4.2.1 日志采集模块的实现 | 第42-43页 |
4.2.2 分布式存储模块的实现 | 第43-45页 |
4.2.3 分布式爬虫模块的实现 | 第45-48页 |
4.2.4 分布式计算模块的实现 | 第48-53页 |
4.3 本章小结 | 第53-55页 |
第五章 系统的部署与测试 | 第55-63页 |
5.1 系统部署 | 第55-61页 |
5.1.1 日志采集模块的部署 | 第55-57页 |
5.1.2 分布式存储模块的部署 | 第57-58页 |
5.1.3 分布式爬虫模块的部署 | 第58-59页 |
5.1.4 分布式计算模块的部署 | 第59-61页 |
5.2 系统运行测试 | 第61-62页 |
5.3 本章小结 | 第62-63页 |
第六章 结论与展望 | 第63-67页 |
6.1 论文工作总结 | 第63-64页 |
6.2 未来工作展望 | 第64-67页 |
参考文献 | 第67-71页 |
致谢 | 第71-73页 |
个人简历、在学期间发表的论文与研究成果 | 第73页 |