面向论坛页面的增量搜集技术研究
摘要 | 第1-8页 |
ABSTRACT | 第8-10页 |
第一章 绪论 | 第10-15页 |
·研究背景及意义 | 第10-11页 |
·相关研究及发展 | 第11-13页 |
·本文的主要工作 | 第13-14页 |
·本文的组织 | 第14-15页 |
第二章 Web增量搜集技术 | 第15-25页 |
·增量搜集的基本概念 | 第15-17页 |
·周期式搜集 | 第15页 |
·增量式搜集 | 第15-17页 |
·增量搜集技术 | 第17-22页 |
·网页变化规律的研究 | 第17-20页 |
·传统的增量搜集技术 | 第20-22页 |
·论坛爬虫研究 | 第22-24页 |
·论坛增量搜集技术 | 第24-25页 |
第三章 论坛结构和特性 | 第25-30页 |
·论坛结构 | 第25-26页 |
·论坛页面的变化规律 | 第26-30页 |
·增量式变化 | 第26-27页 |
·帖子列表页的特点 | 第27-28页 |
·局部时间特性 | 第28-30页 |
第四章 论坛增量搜集策略 | 第30-49页 |
·基本概念 | 第30-33页 |
·基于版块的增量抓取算法 | 第33-35页 |
·MDR自动抽取算法 | 第33-34页 |
·增量抓取算法 | 第34-35页 |
·基于版块的增量调度算法 | 第35-39页 |
·分配抓取资源 | 第35-36页 |
·确定抓取时间点 | 第36-39页 |
·实验与结果分析 | 第39-49页 |
·论坛数据集 | 第39-40页 |
·增量抓取算法实验结果 | 第40-44页 |
·增量调度算法实验结果 | 第44-49页 |
第五章 总结与展望 | 第49-51页 |
参考文献 | 第51-56页 |
致谢 | 第56-57页 |
攻读学位期间发表的学术论文目录 | 第57-58页 |
学位论文评阅及答辩情况表 | 第58页 |