基于LNMP框架的结构化数据抽取平台的设计与实现
致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
1 引言 | 第11-17页 |
1.1 项目背景及意义 | 第11-12页 |
1.2 国内外发展现状 | 第12-13页 |
1.3 论文主要工作 | 第13-14页 |
1.4 论文结构 | 第14-15页 |
1.5 本章小结 | 第15-17页 |
2 项目关键技术 | 第17-23页 |
2.1 LNMP框架 | 第17-18页 |
2.2 Yii框架 | 第18-19页 |
2.3 Redis数据库技术 | 第19-20页 |
2.4 Hadoop Streaming技术 | 第20-21页 |
2.5 CSPUB抓取服务化 | 第21-22页 |
2.6 本章小结 | 第22-23页 |
3 结构化数据抽取平台需求分析 | 第23-33页 |
3.1 系统描述 | 第23-25页 |
3.1.1 产品特点分析 | 第23-24页 |
3.1.2 用户特点分析 | 第24-25页 |
3.2 系统功能需求分析 | 第25-30页 |
3.3 系统非功能性需求 | 第30-31页 |
3.4 本章小结 | 第31-33页 |
4 结构化数据抽取平台概要设计 | 第33-43页 |
4.1 设计目标 | 第33页 |
4.2 系统功能模块设计 | 第33-35页 |
4.3 系统逻辑分层设计 | 第35-36页 |
4.4 系统软件架构设计 | 第36-37页 |
4.5 数据库设计 | 第37-42页 |
4.6 本章小结 | 第42-43页 |
5 结构化数据抽取平台详细设计与实现 | 第43-67页 |
5.1 模板管理功能模块的设计与实现 | 第43-50页 |
5.1.1 模板管理模块类设计 | 第43-45页 |
5.1.2 抽取模板创建 | 第45-48页 |
5.1.3 抽取模版维护 | 第48-50页 |
5.2 任务管理功能模块 | 第50-57页 |
5.2.1 任务管理模块类设计 | 第50-52页 |
5.2.2 抽取任务创建 | 第52-55页 |
5.2.3 抽取任务维护 | 第55-57页 |
5.3 结构化数据抽取服务模块 | 第57-66页 |
5.3.1 数据抽取服务流程设计 | 第57-58页 |
5.3.2 抽取任务调度 | 第58-61页 |
5.3.3 抽取任务执行 | 第61-66页 |
5.4 本章小结 | 第66-67页 |
6 结构化抽取平台测试及运行效果 | 第67-77页 |
6.1 测试准备 | 第67-69页 |
6.1.1 测试环境 | 第67页 |
6.1.2 测试策略 | 第67-69页 |
6.2 模板管理模块测试及运行效果 | 第69-71页 |
6.3 任务管理模块测试及运行效果 | 第71-73页 |
6.4 数据抽取模块测试及运行效果 | 第73-75页 |
6.5 性能测试及结果分析 | 第75-76页 |
6.6 本章小结 | 第76-77页 |
7 结论 | 第77-79页 |
参考文献 | 第79-81页 |
作者简历及攻读硕士学位期间取得的研究成果 | 第81-85页 |
学位论文数据集 | 第85页 |