摘要 | 第4-6页 |
Abstract | 第6-7页 |
第1章 绪论 | 第10-13页 |
1.1 研究背景及实际意义 | 第10-11页 |
1.2 国内外研究现状及发展趋势 | 第11页 |
1.3 本文主要工作与论文结构 | 第11-13页 |
第2章 相关理论和技术 | 第13-23页 |
2.1 微博网络技术研究 | 第13-15页 |
2.1.1 微博发展简介 | 第13页 |
2.1.2 微博的功能 | 第13-14页 |
2.1.3 微博的特点 | 第14-15页 |
2.2 网络爬行器技术研究 | 第15-18页 |
2.2.1 网络爬行器的分类 | 第15-16页 |
2.2.2 网络爬行器的爬行策略 | 第16-17页 |
2.2.3 网络爬行器存在的挑战 | 第17-18页 |
2.3 网页信息抽取技术 | 第18-20页 |
2.3.1 正则表达式匹配技术 | 第18-19页 |
2.3.2 Xpath 技术 | 第19-20页 |
2.4 HIBERNATE 和 SPRING 技术在数据库中的应用 | 第20-22页 |
2.4.1 Hibernate 技术 | 第20页 |
2.4.2 Spring 对 Hibernate 的支持 | 第20-22页 |
2.5 本章小结 | 第22-23页 |
第3章 微博爬行器设计与实现 | 第23-39页 |
3.1 新浪微博信息抽取与数据库设计 | 第23-27页 |
3.1.1 新浪微博信息抽取 | 第23-26页 |
3.1.2 新浪微博数据库设计 | 第26-27页 |
3.2 新浪微博爬行器的基本构架 | 第27-31页 |
3.2.1 爬行器的整体框架 | 第28-29页 |
3.2.2 新浪微博爬行引擎框架 | 第29-31页 |
3.4 新浪微博爬行策略 | 第31-33页 |
3.4.1 用户活跃度 | 第31页 |
3.4.2 基于时间序列分析的用户行为预测模型 | 第31-32页 |
3.4.3 基于用户活跃度爬行调度策略 | 第32-33页 |
3.5 系统主要功能模块设计与实现 | 第33-36页 |
3.5.1 自动登录模块 | 第33-34页 |
3.5.2 爬行器引擎与网页解析模块详细实现 | 第34-35页 |
3.5.3 数据存储模块详细实现 | 第35-36页 |
3.6 爬行系统的优化 | 第36-38页 |
3.6.1 利用新浪 API 辅助采集信息 | 第36-38页 |
3.6.2 解决写数据库 IO 速度的瓶颈问题 | 第38页 |
3.7 本章小结 | 第38-39页 |
第4章 实验分析 | 第39-42页 |
4.1 实验环境 | 第39页 |
4.2 爬行器性能评价标准 | 第39-40页 |
4.3 采集数据的统计分析 | 第40-42页 |
4.3.1 爬行器性能比较 | 第40-42页 |
第5章 总结和展望 | 第42-43页 |
5.1 本文总结 | 第42页 |
5.2 未来工作展望 | 第42-43页 |
参考文献 | 第43-45页 |
作者简介及在学期间所取得的科研成果 | 第45-46页 |
致谢 | 第46页 |