舆情数据抓取系统研究与实现
摘要 | 第4-5页 |
abstract | 第5页 |
第1章 绪论 | 第11-17页 |
1.1 研究背景 | 第11-13页 |
1.1.1 互联网的发展 | 第11-12页 |
1.1.2 网络舆情 | 第12-13页 |
1.2 国内外舆情监控系统研究现状 | 第13-15页 |
1.2.1 国内舆情系统现状 | 第13-14页 |
1.2.2 国外舆情系统研究现状 | 第14-15页 |
1.3 研究内容 | 第15页 |
1.4 论文结构 | 第15-17页 |
第2章 舆情数据爬虫技术分析 | 第17-28页 |
2.1 互联网中的舆情数据 | 第17-21页 |
2.1.1 互联网中舆情数据的发生场所 | 第17-18页 |
2.1.2 互联网上舆情数据的发展规律 | 第18-19页 |
2.1.3 互联网中舆情数据的特点 | 第19-20页 |
2.1.4 互联网舆情监控系统中的难点 | 第20-21页 |
2.2 舆情数据爬虫技术 | 第21-27页 |
2.2.1 网络爬虫 | 第21-23页 |
2.2.2 聚焦爬虫基本特性 | 第23-24页 |
2.2.3 聚焦爬虫工作流程 | 第24-25页 |
2.2.4 聚焦爬虫系统的体系结构 | 第25-27页 |
2.3 本章小结 | 第27-28页 |
第3章 系统需求分析和系统设计 | 第28-51页 |
3.1 系统功能需求分析 | 第28-33页 |
3.1.1 系统总体用例图 | 第28-29页 |
3.1.2 舆情数据功能需求分析 | 第29-30页 |
3.1.3 热点数据功能需求分析 | 第30-31页 |
3.1.4 网站监测功能需求分析 | 第31-32页 |
3.1.5 系统非功能性需求分析 | 第32-33页 |
3.2 系统功能详细设计 | 第33-50页 |
3.2.1 系统设计目标 | 第33-34页 |
3.2.2 系统运行环境设计 | 第34页 |
3.2.3 系统总体架构设计 | 第34-35页 |
3.2.4 ER图设计 | 第35-36页 |
3.2.5 数据存储方式 | 第36页 |
3.2.6 数据库设计 | 第36-39页 |
3.2.7 模块类设计 | 第39-50页 |
3.3 本章小结 | 第50-51页 |
第4章 系统关键技术与实现 | 第51-63页 |
4.1 舆情大数据系统爬虫技术实现 | 第51-60页 |
4.1.1 基本爬虫框架设计 | 第51-53页 |
4.1.2 聚焦爬虫技术研究与实现 | 第53-60页 |
4.2 舆情大数据系统URL去重研究与实现 | 第60-62页 |
4.2.1 URL 去重方法 | 第60-61页 |
4.2.2 布隆过滤器算法简介 | 第61-62页 |
4.3 本章总结 | 第62-63页 |
第5章 系统测试 | 第63-72页 |
5.1 测试概述 | 第63页 |
5.2 用户界面测试 | 第63-64页 |
5.2.1 浏览器测试 | 第64页 |
5.2.2 分辨率测试 | 第64页 |
5.3 系统功能测试 | 第64-70页 |
5.3.1 功能测试测试用例 | 第65-66页 |
5.3.2 系统功能主要界面测试 | 第66-70页 |
5.4 性能测试 | 第70-71页 |
5.5 可靠性测试 | 第71页 |
5.6 测试结果 | 第71页 |
5.7 本章小结 | 第71-72页 |
第6章 总结与展望 | 第72-74页 |
6.1 总结 | 第72-73页 |
6.2 展望 | 第73-74页 |
致谢 | 第74-75页 |
参考文献 | 第75-77页 |
攻读学位期间发表的学术论文及参加科研情况 | 第77-78页 |