基于网页分块的论坛爬虫关键技术研究
| 摘要 | 第1-5页 |
| Abstract | 第5-9页 |
| 第1章 绪论 | 第9-17页 |
| ·课题研究背景和意义 | 第9-10页 |
| ·研究背景 | 第9页 |
| ·研究意义 | 第9-10页 |
| ·国内外相关研究和综述 | 第10-15页 |
| ·网络爬虫 | 第10-14页 |
| ·网页分块 | 第14-15页 |
| ·课题研究内容 | 第15-16页 |
| ·本文的结构安排 | 第16-17页 |
| 第2章 论坛爬虫的爬行策略关键技术分析 | 第17-24页 |
| ·引言 | 第17页 |
| ·网络论坛概述 | 第17-18页 |
| ·网络论坛中的术语解释 | 第17-18页 |
| ·网络论坛的特征 | 第18页 |
| ·网络爬虫概述 | 第18-20页 |
| ·爬虫设计概述 | 第19-20页 |
| ·爬虫的性能优化 | 第20页 |
| ·论坛爬虫的爬行策略分析 | 第20-23页 |
| ·传统爬虫的爬行策略 | 第20-22页 |
| ·传统策略爬行论坛的问题 | 第22-23页 |
| ·基于网页分块的爬行策略 | 第23页 |
| ·本章小结 | 第23-24页 |
| 第3章 论坛页面分块算法的研究 | 第24-38页 |
| ·引言 | 第24页 |
| ·基于论坛页面结构的垂直分块算法 | 第24-34页 |
| ·页面分块的术语 | 第24-25页 |
| ·构建论坛网页XML文档树 | 第25-28页 |
| ·基于启发式信息的页面分块算法 | 第28页 |
| ·基于边与边层次的XML元素相似度的形式化 | 第28-33页 |
| ·基于元素相似度的图划分聚类算法 | 第33页 |
| ·基于位置的垂直分块算法 | 第33-34页 |
| ·实验及结果分析 | 第34-37页 |
| ·性能评价方法 | 第35页 |
| ·实验结果分析 | 第35-37页 |
| ·本章小结 | 第37-38页 |
| 第4章 基于页面分块的论坛爬行策略 | 第38-47页 |
| ·引言 | 第38页 |
| ·基于页面分块的论坛爬行策略 | 第38-42页 |
| ·信息量的形式化 | 第39页 |
| ·链接块的筛选算法 | 第39-40页 |
| ·页面翻页导航技术 | 第40-41页 |
| ·基于页面分块的论坛爬行算法 | 第41-42页 |
| ·实验及结果分析 | 第42-46页 |
| ·爬虫陷阱现象 | 第42页 |
| ·性能评价方法 | 第42-43页 |
| ·实验结果分析 | 第43-46页 |
| ·本章小结 | 第46-47页 |
| 第5章 论坛爬虫系统的设计与实现 | 第47-53页 |
| ·引言 | 第47页 |
| ·系统的设计目标 | 第47页 |
| ·系统的体系结构和功能模块设计 | 第47-51页 |
| ·系统的体系结构 | 第47-48页 |
| ·系统功能模块详细设计 | 第48-51页 |
| ·论坛爬虫系统应用 | 第51页 |
| ·本章小结 | 第51-53页 |
| 结论 | 第53-55页 |
| 参考文献 | 第55-60页 |
| 致谢 | 第60页 |