摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-18页 |
1.1 研究背景 | 第10-11页 |
1.2 国内外研究现状 | 第11-16页 |
1.2.1 排行榜 | 第11-12页 |
1.2.2 网络爬虫 | 第12-14页 |
1.2.3 分布式数据系统 | 第14-16页 |
1.3 研究目的和意义 | 第16页 |
1.4 研究内容与创新工作 | 第16-17页 |
1.5 本文组织结构 | 第17-18页 |
第二章 相关技术及理论基础 | 第18-32页 |
2.1 爬虫相关技术 | 第18-22页 |
2.1.1 概述 | 第18-19页 |
2.1.2 爬虫的基本原理 | 第19-21页 |
2.1.3 开源爬虫框架 | 第21-22页 |
2.2 数据库相关技术 | 第22-29页 |
2.2.1 Codis | 第23-26页 |
2.2.2 MySQL Galera Cluster | 第26-29页 |
2.2.3 Mycat | 第29页 |
2.3 服务负载均衡 | 第29-31页 |
2.4 本章小结 | 第31-32页 |
第三章 系统的设计与实现 | 第32-53页 |
3.1 爬虫的设计与实现 | 第32-35页 |
3.1.1 爬虫的设计需求 | 第32页 |
3.1.2 爬虫架构设计 | 第32-33页 |
3.1.3 架构分析 | 第33-35页 |
3.2 数据库系统的实现 | 第35-41页 |
3.2.1 Redis集群搭建 | 第35-36页 |
3.2.2 Codis集群搭建 | 第36-38页 |
3.2.3 Galera集群搭建 | 第38-40页 |
3.2.4 Mycat集群搭建 | 第40-41页 |
3.3 数据分析与处理 | 第41-44页 |
3.4 排行榜系统的设计与实现 | 第44-52页 |
3.4.1 数据的展示 | 第45-46页 |
3.4.2 排行榜服务器后台 | 第46-51页 |
3.4.3 网站负载均衡 | 第51-52页 |
3.5 本章小结 | 第52-53页 |
第四章 系统性能测试与分析 | 第53-65页 |
4.1 系统运行环境 | 第53页 |
4.1.1 服务器硬件环境 | 第53页 |
4.1.2 服务器软件环境 | 第53页 |
4.2 Codis测试 | 第53-62页 |
4.2.1 单机Redis性能测试结果 | 第54-58页 |
4.2.2 Codis-Proxy测试结果 | 第58-61页 |
4.2.3 测试Codis可扩展性 | 第61-62页 |
4.3 Percona XtraDB Cluster测试 | 第62-63页 |
4.4 Mycat测试 | 第63-64页 |
4.5 本章小结 | 第64-65页 |
第五章 总结与展望 | 第65-67页 |
5.1 论文工作总结 | 第65页 |
5.2 展望 | 第65-67页 |
参考文献 | 第67-69页 |
致谢 | 第69页 |