摘要 | 第4-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-16页 |
1.1 研究背景 | 第10-11页 |
1.2 WEB数据自动化采集技术国内外研究现状 | 第11-13页 |
1.2.1 Surface Web数据采集技术 | 第11-13页 |
1.2.2 Deep Web数据采集技术 | 第13页 |
1.3 研究内容及章节安排 | 第13-16页 |
1.3.1 研究内容 | 第13-14页 |
1.3.2 章节安排 | 第14-16页 |
第二章 WEB数据自动采集技术 | 第16-24页 |
2.1 SURFACE WEB自动采集技术 | 第16-19页 |
2.1.1 网络爬虫工作流程 | 第16页 |
2.1.2 网络爬虫抓取策略 | 第16-19页 |
2.2 DEEP WEB自动采集技术 | 第19-23页 |
2.2.1 Deep Web采集目标 | 第19-20页 |
2.2.2 Deep Web采集方法 | 第20-23页 |
2.3 本章小结 | 第23-24页 |
第三章 移动应用市场通信机制与数据结构 | 第24-32页 |
3.1 IOS应用市场通信机制与数据结构 | 第24-27页 |
3.1.1 APP Store通信机制 | 第24-26页 |
3.1.2 APP Store应用数据结构 | 第26-27页 |
3.2 ANDROID应用市场通信机制与数据结构 | 第27-31页 |
3.2.1 Android第三方应用市场通信机制 | 第27-30页 |
3.2.2 Android第三方应用市场数据结构 | 第30-31页 |
3.3 本章小结 | 第31-32页 |
第四章 移动应用商店DEEP WEB数据自动爬取系统设计 | 第32-44页 |
4.1 系统设计需求 | 第32页 |
4.2 系统总体架构 | 第32-33页 |
4.3 商店规则库与本地应用库 | 第33-34页 |
4.4 爬虫模块 | 第34-38页 |
4.4.1 Surface Web子模块 | 第34-36页 |
4.4.2 Deep Web子模块 | 第36-38页 |
4.5 信息抽取模块 | 第38-39页 |
4.6 查询词生成模块 | 第39-43页 |
4.6.1 移动应用名称词频特征 | 第40-41页 |
4.6.2 查询词生成模块设计 | 第41-43页 |
4.7 本章小结 | 第43-44页 |
第五章 移动应用商店DEEP WEB数据自动爬取系统实现 | 第44-60页 |
5.1 商店规则库的实现 | 第44-45页 |
5.2 网络爬虫模块的实现 | 第45-50页 |
5.2.1 爬虫框架Scrapy | 第45-47页 |
5.2.2 Surface Web子模块的实现 | 第47-48页 |
5.2.3 Deep Web子模块的实现 | 第48-50页 |
5.3 信息抽取模块的实现 | 第50-52页 |
5.4 查询词生成模块的实现 | 第52-54页 |
5.5 系统运行实验与结果分析 | 第54-57页 |
5.5.1 实验环境 | 第54页 |
5.5.2 实验结果与分析 | 第54-57页 |
5.6 本章小结 | 第57-60页 |
第六章 总结与展望 | 第60-62页 |
参考文献 | 第62-64页 |
致谢 | 第64-66页 |
攻读学位期间发表的学术论文目录 | 第66页 |