面向移动新闻的日志收集分析系统的设计与实现
| 致谢 | 第5-6页 |
| 中文摘要 | 第6-7页 |
| ABSTRACT | 第7页 |
| 1 引言 | 第11-15页 |
| 1.1 论文背景和意义 | 第11-12页 |
| 1.2 国内外发展现状 | 第12-13页 |
| 1.3 论文研究内容 | 第13-14页 |
| 1.4 论文组织结构 | 第14页 |
| 1.5 本章小结 | 第14-15页 |
| 2 相关技术概述 | 第15-23页 |
| 2.1 日志收集工具 | 第15-19页 |
| 2.1.1 Flume框架 | 第15-17页 |
| 2.1.2 Kafka框架 | 第17-19页 |
| 2.2 数据存储工具HBase | 第19-20页 |
| 2.3 日志分析工具Storm | 第20-21页 |
| 2.4 分布式协调服务ZooKeeper | 第21-22页 |
| 2.5 本章小结 | 第22-23页 |
| 3 系统需求分析 | 第23-31页 |
| 3.1 需求概述 | 第23-24页 |
| 3.2 功能性需求 | 第24-29页 |
| 3.2.1 日志收集 | 第24-25页 |
| 3.2.2 新闻业务统计 | 第25-26页 |
| 3.2.3 用户行为提取 | 第26-27页 |
| 3.2.4 系统监控与异常告警 | 第27-28页 |
| 3.2.5 数据展示 | 第28-29页 |
| 3.3 非功能性需求 | 第29-30页 |
| 3.3.1 系统可靠性与稳定性 | 第29页 |
| 3.3.2 功能解耦 | 第29页 |
| 3.3.3 数据实时性 | 第29-30页 |
| 3.3.4 存储资源控制 | 第30页 |
| 3.3.5 系统强壮性 | 第30页 |
| 3.4 本章小结 | 第30-31页 |
| 4 日志收集分析系统概要设计 | 第31-45页 |
| 4.1 系统模块与架构设计 | 第31-32页 |
| 4.2 日志采集模块设计 | 第32-34页 |
| 4.3 数据传输模块设计 | 第34-35页 |
| 4.4 数据分析模块设计 | 第35-36页 |
| 4.5 系统监控模块设计 | 第36-37页 |
| 4.6 HBase存储设计 | 第37-41页 |
| 4.7 数据展示模块设计 | 第41-43页 |
| 4.7.1 业务数据展示模块设计 | 第42页 |
| 4.7.2 监控数据展示模块设计 | 第42-43页 |
| 4.8 本章小结 | 第43-45页 |
| 5 日志收集分析系统详细设计与实现 | 第45-71页 |
| 5.1 日志采集模块实现 | 第45-49页 |
| 5.1.1 Nginx日志采集功能实现 | 第46页 |
| 5.1.2 Nginx日志缓存功能实现 | 第46-47页 |
| 5.1.3 Nginx日志汇总功能实现 | 第47-49页 |
| 5.2 数据传输模块实现 | 第49-51页 |
| 5.2.1 可靠缓存功能实现 | 第49-50页 |
| 5.2.2 流式数据处理功能实现 | 第50页 |
| 5.2.3 流量控制功能实现 | 第50-51页 |
| 5.3 数据分析模块实现 | 第51-57页 |
| 5.3.1 APP使用量统计功能实现 | 第51-54页 |
| 5.3.2 频道流量统计功能实现 | 第54-55页 |
| 5.3.3 APP版本使用量统计功能实现 | 第55页 |
| 5.3.4 用户行为提取功能实现 | 第55-57页 |
| 5.4 系统监控模块实现 | 第57-61页 |
| 5.4.1 延迟与吞吐量收集功能实现 | 第57-59页 |
| 5.4.2 监控数据整合功能实现 | 第59-60页 |
| 5.4.3 延迟告警功能实现 | 第60-61页 |
| 5.5 数据展示模块实现 | 第61-70页 |
| 5.5.1 APP使用量展示功能实现 | 第62-63页 |
| 5.5.2 频道流量展示功能实现 | 第63-64页 |
| 5.5.3 APP版本使用量展示功能实现 | 第64页 |
| 5.5.4 监控数据展示功能实现 | 第64-66页 |
| 5.5.5 监控数据对比展示功能实现 | 第66-67页 |
| 5.5.6 Topic工作详情展示功能实现 | 第67-69页 |
| 5.5.7 监控项管理功能实现 | 第69-70页 |
| 5.6 本章小结 | 第70-71页 |
| 6 系统测试 | 第71-73页 |
| 6.1 单元测试 | 第71-72页 |
| 6.2 压力测试 | 第72页 |
| 6.3 本章小结 | 第72-73页 |
| 7 总结与展望 | 第73-75页 |
| 7.1 论文总结 | 第73页 |
| 7.2 工作展望 | 第73-75页 |
| 参考文献 | 第75-77页 |
| 作者简历 | 第77-81页 |
| 学位论文数据集 | 第81页 |
