摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-20页 |
1.1 研究背景 | 第10-11页 |
1.2 国内外研究现状 | 第11-17页 |
1.2.1 Scribe | 第11-12页 |
1.2.2 Kafka | 第12-13页 |
1.2.3 Chukwa | 第13-14页 |
1.2.4 Flume | 第14-15页 |
1.2.5 Distributed Log | 第15-16页 |
1.2.6 研究现状分析 | 第16-17页 |
1.3 本文完成的工作 | 第17-18页 |
1.4 本文组织架构 | 第18-19页 |
1.5 本章小结 | 第19-20页 |
第二章 系统关键技术解决方案研究与设计 | 第20-38页 |
2.1 技术方案选型 | 第20页 |
2.2 基于双缓冲机制的非阻塞日志收集方案 | 第20-23页 |
2.3 基于主/从Reactor模式的分级日志转发方案 | 第23-28页 |
2.4 基于Flume NG复合双通道的日志系统与数据清洗平台方案 | 第28-36页 |
2.4.1 基本数据结构 | 第28-29页 |
2.4.2 Flume Agent基本结构 | 第29-31页 |
2.4.3 事务特性 | 第31-33页 |
2.4.4 日志系统与可配置化实时数据清洗平台设计 | 第33-36页 |
2.5 本章小结 | 第36-38页 |
第三章 适配电商平台的分布式日志采集系统总体架构设计 | 第38-52页 |
3.1 系统需求概述 | 第38-39页 |
3.2 系统总体架构 | 第39-44页 |
3.3 系统高可用性设计 | 第44-47页 |
3.4 系统负载均衡设计 | 第47-49页 |
3.5 系统可扩展性设计 | 第49-50页 |
3.6 本章小结 | 第50-52页 |
第四章 适配电商平台的分布式日志采集系统模块实现 | 第52-71页 |
4.1 通信协议 | 第52-53页 |
4.2 轻量级日志采集组件实现 | 第53-57页 |
4.2.1 前台收集模块 | 第53-55页 |
4.2.2 日志上报模块 | 第55-57页 |
4.3 数据转发服务端组件实现 | 第57-62页 |
4.3.1 底层网络通信模块 | 第57-60页 |
4.3.2 数据收集服务端模块 | 第60-62页 |
4.4 日志系统实现 | 第62-67页 |
4.5 负载均衡服务实现 | 第67-68页 |
4.6 分布式一致性协调服务实现 | 第68-70页 |
4.7 本章小结 | 第70-71页 |
第五章 系统测试及分析 | 第71-83页 |
5.1 测试目的 | 第71页 |
5.2 实验环境部署 | 第71-72页 |
5.3 系统测试 | 第72-81页 |
5.3.1 轻量级日志采集组件测试 | 第72-74页 |
5.3.2 数据转发服务端组件测试 | 第74-76页 |
5.3.3 日志系统测试 | 第76-79页 |
5.3.4 系统性能测试 | 第79-81页 |
5.4 本章小结 | 第81-83页 |
第六章 总结与展望 | 第83-86页 |
6.1 论文总结 | 第83-84页 |
6.2 下一步工作 | 第84-86页 |
参考文献 | 第86-89页 |
攻读硕士学位期间取得的研究成果 | 第89-90页 |
致谢 | 第90-91页 |
附表 | 第91页 |