面向开源社区的软件大数据持续汇聚平台关键技术研究与实现
摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-18页 |
1.1 研究背景 | 第10-12页 |
1.1.1 开源软件社区的快速发展 | 第10-12页 |
1.1.2 开源大数据蕴含巨大的研究价值 | 第12页 |
1.2 研究意义 | 第12-13页 |
1.3 相关工作 | 第13-15页 |
1.3.1 开源社区数据挖掘 | 第13-14页 |
1.3.2 数据采集系统 | 第14-15页 |
1.4 研究内容 | 第15-16页 |
1.5 论文结构 | 第16-18页 |
第二章 相关技术介绍 | 第18-28页 |
2.1 数据采集相关技术 | 第18-21页 |
2.1.1 爬虫的爬取策略 | 第18-19页 |
2.1.2 爬虫框架的架构 | 第19-21页 |
2.1.3 分布式爬虫技术 | 第21页 |
2.2 数据抽取相关技术 | 第21-23页 |
2.3 数据可视化相关技术 | 第23-28页 |
2.3.1 可视化方法 | 第24-25页 |
2.3.2 可视化工具 | 第25-28页 |
第三章 系统设计 | 第28-42页 |
3.1 系统架构 | 第28页 |
3.2 面向可扩展需求的数据采集技术 | 第28-34页 |
3.2.1 任务推送器 | 第29-31页 |
3.2.2 任务执行器 | 第31-34页 |
3.2.3 数据中间层 | 第34页 |
3.3 面向数据多源性的数据抽取技术 | 第34-38页 |
3.3.1 数据多源性 | 第34-35页 |
3.3.2 基于自定义模版的智能抽取方法 | 第35-38页 |
3.4 直观可交互的数据展示技术 | 第38-39页 |
3.4.1 系统状态展示 | 第39页 |
3.4.2 数据概况展示 | 第39页 |
3.5 辅助工具设计 | 第39-42页 |
3.5.1 配置管理 | 第39页 |
3.5.2 日志记录 | 第39-40页 |
3.5.3 系统监控 | 第40-42页 |
第四章 系统实现与评估 | 第42-52页 |
4.1 系统展示 | 第42-46页 |
4.1.1 系统状态信息 | 第42页 |
4.1.2 数据流信息 | 第42-46页 |
4.2 系统评估 | 第46-52页 |
4.2.1 性能评估 | 第46-47页 |
4.2.2 可靠性评估 | 第47-48页 |
4.2.3 用户评估 | 第48-52页 |
第五章 总结与展望 | 第52-54页 |
5.1 全文总结 | 第52-53页 |
5.2 研究展望 | 第53-54页 |
参考文献 | 第54-58页 |
致谢 | 第58-60页 |
附录(攻读硕士学位期间发表录用论文) | 第60页 |