基于LNMP框架的结构化数据抽取平台的设计与实现
| 致谢 | 第5-6页 |
| 摘要 | 第6-7页 |
| ABSTRACT | 第7-8页 |
| 1 引言 | 第11-17页 |
| 1.1 项目背景及意义 | 第11-12页 |
| 1.2 国内外发展现状 | 第12-13页 |
| 1.3 论文主要工作 | 第13-14页 |
| 1.4 论文结构 | 第14-15页 |
| 1.5 本章小结 | 第15-17页 |
| 2 项目关键技术 | 第17-23页 |
| 2.1 LNMP框架 | 第17-18页 |
| 2.2 Yii框架 | 第18-19页 |
| 2.3 Redis数据库技术 | 第19-20页 |
| 2.4 Hadoop Streaming技术 | 第20-21页 |
| 2.5 CSPUB抓取服务化 | 第21-22页 |
| 2.6 本章小结 | 第22-23页 |
| 3 结构化数据抽取平台需求分析 | 第23-33页 |
| 3.1 系统描述 | 第23-25页 |
| 3.1.1 产品特点分析 | 第23-24页 |
| 3.1.2 用户特点分析 | 第24-25页 |
| 3.2 系统功能需求分析 | 第25-30页 |
| 3.3 系统非功能性需求 | 第30-31页 |
| 3.4 本章小结 | 第31-33页 |
| 4 结构化数据抽取平台概要设计 | 第33-43页 |
| 4.1 设计目标 | 第33页 |
| 4.2 系统功能模块设计 | 第33-35页 |
| 4.3 系统逻辑分层设计 | 第35-36页 |
| 4.4 系统软件架构设计 | 第36-37页 |
| 4.5 数据库设计 | 第37-42页 |
| 4.6 本章小结 | 第42-43页 |
| 5 结构化数据抽取平台详细设计与实现 | 第43-67页 |
| 5.1 模板管理功能模块的设计与实现 | 第43-50页 |
| 5.1.1 模板管理模块类设计 | 第43-45页 |
| 5.1.2 抽取模板创建 | 第45-48页 |
| 5.1.3 抽取模版维护 | 第48-50页 |
| 5.2 任务管理功能模块 | 第50-57页 |
| 5.2.1 任务管理模块类设计 | 第50-52页 |
| 5.2.2 抽取任务创建 | 第52-55页 |
| 5.2.3 抽取任务维护 | 第55-57页 |
| 5.3 结构化数据抽取服务模块 | 第57-66页 |
| 5.3.1 数据抽取服务流程设计 | 第57-58页 |
| 5.3.2 抽取任务调度 | 第58-61页 |
| 5.3.3 抽取任务执行 | 第61-66页 |
| 5.4 本章小结 | 第66-67页 |
| 6 结构化抽取平台测试及运行效果 | 第67-77页 |
| 6.1 测试准备 | 第67-69页 |
| 6.1.1 测试环境 | 第67页 |
| 6.1.2 测试策略 | 第67-69页 |
| 6.2 模板管理模块测试及运行效果 | 第69-71页 |
| 6.3 任务管理模块测试及运行效果 | 第71-73页 |
| 6.4 数据抽取模块测试及运行效果 | 第73-75页 |
| 6.5 性能测试及结果分析 | 第75-76页 |
| 6.6 本章小结 | 第76-77页 |
| 7 结论 | 第77-79页 |
| 参考文献 | 第79-81页 |
| 作者简历及攻读硕士学位期间取得的研究成果 | 第81-85页 |
| 学位论文数据集 | 第85页 |