致谢 | 第5-6页 |
中文摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
1 引言 | 第11-16页 |
1.1 课题背景与研究意义 | 第11-12页 |
1.2 国内外研究现状 | 第12-14页 |
1.3 论文研究内容 | 第14页 |
1.4 论文组织结构 | 第14-16页 |
2 关键技术分析 | 第16-26页 |
2.1 网页的表示 | 第16-20页 |
2.1.1 超文本标记语言HTML | 第16-17页 |
2.1.2 可扩展标记语言XML | 第17-19页 |
2.1.3 文档对象模型DOM | 第19-20页 |
2.2 信息抽取模型 | 第20-23页 |
2.2.1 基于NLP的页面信息抽取 | 第20-21页 |
2.2.2 基于包装器(Wrapper)的页面信息抽取 | 第21页 |
2.2.3 基于HTML结构分析的网页信息抽取 | 第21-22页 |
2.2.4 基于本体的页面信息抽取 | 第22页 |
2.2.5 各抽取方法的比较 | 第22-23页 |
2.3 文本预处理 | 第23-24页 |
2.3.1 正则表达式 | 第23页 |
2.3.2 中文分词技术 | 第23-24页 |
2.4 CSS+DIV页面布局特点 | 第24-25页 |
2.5 小结 | 第25-26页 |
3 基于DIV_FOREST网页表示的DVPS算法 | 第26-45页 |
3.1 网页分块方法 | 第26-30页 |
3.1.1 利用标记布局特征进行网页分块 | 第26-27页 |
3.1.2 利用扩展DOM树进行网页分块 | 第27-28页 |
3.1.3 利用视觉特征进行网页分块 | 第28-30页 |
3.2 页面数据过滤方案 | 第30-38页 |
3.2.1 DIV_FOREST模型简介 | 第30-32页 |
3.2.2 模型构建规则 | 第32-35页 |
3.2.3 DVPS视觉分块算法 | 第35-38页 |
3.3 DIV数据块特征提取 | 第38-43页 |
3.3.1 文本特征提取 | 第39-40页 |
3.3.2 空间特征提取 | 第40-41页 |
3.3.3 语义特征提取 | 第41-43页 |
3.4 小结 | 第43-45页 |
4 页面数据过滤系统设计 | 第45-53页 |
4.1 系统结构图 | 第45页 |
4.2 实验环境 | 第45-50页 |
4.2.1 DIV_FOREST模型构建模块 | 第46-47页 |
4.2.2 网页视觉块划分模块 | 第47页 |
4.2.3 页面特征提取模块 | 第47-50页 |
4.3 实验结果与分析 | 第50-53页 |
5 页面数据过滤在网页分类中的应用 | 第53-59页 |
5.1 网页分类算法的选择 | 第53-55页 |
5.1.1 KNN分类算法 | 第53-54页 |
5.1.2 朴素贝叶斯算法 | 第54页 |
5.1.3 决策树分类算法 | 第54-55页 |
5.1.4 TF-IDF算法 | 第55页 |
5.1.5 各分类算法的比较 | 第55页 |
5.2 评价指标 | 第55-56页 |
5.3 实验数据集 | 第56-57页 |
5.4 分类结果分析 | 第57页 |
5.5 小结 | 第57-59页 |
6 总结与展望 | 第59-61页 |
6.1 总结 | 第59-60页 |
6.2 未来研究的展望 | 第60-61页 |
参考文献 | 第61-64页 |
作者简历 | 第64-66页 |
学位论文数据集 | 第66页 |