职位信息并行抽取系统设计与实现
摘要 | 第4-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-15页 |
1.1 研究的背景及意义 | 第10页 |
1.2 研究现状 | 第10-12页 |
1.3 研究内容 | 第12-13页 |
1.4 论文组织结构 | 第13-14页 |
1.5 本章小结 | 第14-15页 |
第二章 WEB信息抽取相关技术 | 第15-27页 |
2.1 信息抽取概述 | 第15-21页 |
2.1.1 WEB信息抽取的发展阶段 | 第15页 |
2.1.2 WEB信息抽取分类 | 第15-20页 |
2.1.3 WEB信息抽取介绍 | 第20-21页 |
2.2 Hadoop分布式计算平台 | 第21-22页 |
2.3 MapReduce并行计算框架 | 第22-23页 |
2.4 Spark | 第23页 |
2.5 分布式文件系统HDFS | 第23-25页 |
2.6 分布式数据库HBase | 第25-26页 |
2.7 本章小结 | 第26-27页 |
第三章 系统的需求分析与总体设计 | 第27-30页 |
3.1 需求分析 | 第27-28页 |
3.1.1 功能需求 | 第27页 |
3.1.2 性能需求 | 第27-28页 |
3.2 系统的总体架构设计 | 第28-29页 |
3.3 本章小结 | 第29-30页 |
第四章 职位信息并行化抽取系统设计 | 第30-42页 |
4.1 分布式网络爬虫设计 | 第30-32页 |
4.2 基于正则化职位信息并行抽取 | 第32-37页 |
4.2.1 HTMLParser页面解析 | 第32-34页 |
4.2.2 基于正则化抽取规则的制定 | 第34页 |
4.2.3 职位信息模板的生成 | 第34-35页 |
4.2.4 职位信息抽取方法 | 第35-36页 |
4.2.5 职位信息并行抽取架构 | 第36-37页 |
4.3 职位信息去重 | 第37-39页 |
4.3.1 职位信息去重方法 | 第37-38页 |
4.3.2 职位信息去重算法 | 第38-39页 |
4.4 职位信息索引设计 | 第39页 |
4.5 职位信息存储设计 | 第39-40页 |
4.6 职位信息搜索服务设计 | 第40-41页 |
4.7 本章小结 | 第41-42页 |
第五章 职位信息并行抽取的实现 | 第42-58页 |
5.1 系统实现架构图 | 第42-43页 |
5.2 系统部署实现 | 第43-46页 |
5.2.1 开发环境 | 第43页 |
5.2.2 系统环境搭建 | 第43-46页 |
5.3 职位信息抽取系统实现 | 第46-51页 |
5.3.1 职位信息抓取模块实现 | 第46-47页 |
5.3.2 职位信息并行抽取模块实现 | 第47-49页 |
5.3.3 职位信息去重模块实现 | 第49-50页 |
5.3.4 职位信息搜索服务实现 | 第50-51页 |
5.4 职位信息抽取测试与运行界面展示 | 第51-56页 |
5.4.1 信息抽取系统的评测方法 | 第51-52页 |
5.4.2 功能测试及分析 | 第52-53页 |
5.4.3 职位信息抽取测试及分析 | 第53-54页 |
5.4.4 职位信息并行抽取测试及分析 | 第54-55页 |
5.4.5 职位信息去重测试及分析 | 第55页 |
5.4.6 运行界面展示 | 第55-56页 |
5.5 本章小结 | 第56-58页 |
第六章 总结和展望 | 第58-60页 |
6.1 总结 | 第58-59页 |
6.2 展望 | 第59-60页 |
致谢 | 第60-61页 |
参考文献 | 第61-64页 |
攻读硕士学位期间发表的学术论文 | 第64页 |