基于网页分块的论坛爬虫关键技术研究
摘要 | 第1-5页 |
Abstract | 第5-9页 |
第1章 绪论 | 第9-17页 |
·课题研究背景和意义 | 第9-10页 |
·研究背景 | 第9页 |
·研究意义 | 第9-10页 |
·国内外相关研究和综述 | 第10-15页 |
·网络爬虫 | 第10-14页 |
·网页分块 | 第14-15页 |
·课题研究内容 | 第15-16页 |
·本文的结构安排 | 第16-17页 |
第2章 论坛爬虫的爬行策略关键技术分析 | 第17-24页 |
·引言 | 第17页 |
·网络论坛概述 | 第17-18页 |
·网络论坛中的术语解释 | 第17-18页 |
·网络论坛的特征 | 第18页 |
·网络爬虫概述 | 第18-20页 |
·爬虫设计概述 | 第19-20页 |
·爬虫的性能优化 | 第20页 |
·论坛爬虫的爬行策略分析 | 第20-23页 |
·传统爬虫的爬行策略 | 第20-22页 |
·传统策略爬行论坛的问题 | 第22-23页 |
·基于网页分块的爬行策略 | 第23页 |
·本章小结 | 第23-24页 |
第3章 论坛页面分块算法的研究 | 第24-38页 |
·引言 | 第24页 |
·基于论坛页面结构的垂直分块算法 | 第24-34页 |
·页面分块的术语 | 第24-25页 |
·构建论坛网页XML文档树 | 第25-28页 |
·基于启发式信息的页面分块算法 | 第28页 |
·基于边与边层次的XML元素相似度的形式化 | 第28-33页 |
·基于元素相似度的图划分聚类算法 | 第33页 |
·基于位置的垂直分块算法 | 第33-34页 |
·实验及结果分析 | 第34-37页 |
·性能评价方法 | 第35页 |
·实验结果分析 | 第35-37页 |
·本章小结 | 第37-38页 |
第4章 基于页面分块的论坛爬行策略 | 第38-47页 |
·引言 | 第38页 |
·基于页面分块的论坛爬行策略 | 第38-42页 |
·信息量的形式化 | 第39页 |
·链接块的筛选算法 | 第39-40页 |
·页面翻页导航技术 | 第40-41页 |
·基于页面分块的论坛爬行算法 | 第41-42页 |
·实验及结果分析 | 第42-46页 |
·爬虫陷阱现象 | 第42页 |
·性能评价方法 | 第42-43页 |
·实验结果分析 | 第43-46页 |
·本章小结 | 第46-47页 |
第5章 论坛爬虫系统的设计与实现 | 第47-53页 |
·引言 | 第47页 |
·系统的设计目标 | 第47页 |
·系统的体系结构和功能模块设计 | 第47-51页 |
·系统的体系结构 | 第47-48页 |
·系统功能模块详细设计 | 第48-51页 |
·论坛爬虫系统应用 | 第51页 |
·本章小结 | 第51-53页 |
结论 | 第53-55页 |
参考文献 | 第55-60页 |
致谢 | 第60页 |