智能Web新闻文本采集方法研究
摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
主要术语对照表 | 第13-14页 |
第一章 绪论 | 第14-18页 |
1.1 研究背景及意义 | 第14-15页 |
1.2 研究现状 | 第15-16页 |
1.3 本文研究内容 | 第16页 |
1.4 本文章节安排 | 第16-18页 |
第二章 新闻文本采集相关技术 | 第18-28页 |
2.1 网络爬虫相关技术 | 第18-21页 |
2.1.1 网络爬虫策略 | 第18-20页 |
2.1.2 网络爬虫分类 | 第20-21页 |
2.2 新闻网页正文提取技术 | 第21-26页 |
2.3 非新闻网页自识别技术 | 第26-27页 |
2.4 本章小结 | 第27-28页 |
第三章 基于文本标签特征挖掘的网页正文提取方法 | 第28-61页 |
3.1 方法思想及流程介绍 | 第28-30页 |
3.2 网页源码预处理及修复 | 第30-34页 |
3.2.1 HTML语言标准及特点分析 | 第30-31页 |
3.2.2 文本标签预处理 | 第31-33页 |
3.2.3 标签修复及转义字符处理 | 第33-34页 |
3.3 文本标签特征选取及标签聚类 | 第34-43页 |
3.3.1 文本标签特征工程 | 第34-36页 |
3.3.2 文本标签特征提取方法 | 第36-39页 |
3.3.3 文本标签特征向量及权重选择 | 第39-40页 |
3.3.4 文本标签挖掘算法及选择 | 第40-43页 |
3.4 正文簇选择及标签经验性调整 | 第43-49页 |
3.4.1 初选正文簇选择策略 | 第43-45页 |
3.4.2 正文簇经验性调整 | 第45-49页 |
3.5 非新闻网页自识别及文本提取 | 第49-54页 |
3.5.1 非新闻网页自识别方法 | 第49-52页 |
3.5.2 非新闻网页自识别方法实验及分析 | 第52-53页 |
3.5.3 正文簇标签文本提取 | 第53-54页 |
3.6 实验及方法性能评估 | 第54-60页 |
3.6.1 性能评估指标与实验数据集 | 第54-55页 |
3.6.2 正文提取效果展示 | 第55-57页 |
3.6.3 实验结果及评估分析 | 第57-60页 |
3.7 本章小节 | 第60-61页 |
第四章 基于智能模版的新闻网页正文提取方法 | 第61-74页 |
4.1 方法思想及流程介绍 | 第61-63页 |
4.2 网页解析模版自动生成方法 | 第63-67页 |
4.2.1 网页源码结构分析 | 第63-64页 |
4.2.2 网页正文标签块信息挖掘 | 第64-65页 |
4.2.3 模版参数获取 | 第65-67页 |
4.3 基于模版参数解析网页 | 第67-69页 |
4.4 实验及性能评估 | 第69-73页 |
4.4.1 实验及数据集简介 | 第69-70页 |
4.4.2 实验测评标准 | 第70-71页 |
4.4.3 实验结果与分析 | 第71-73页 |
4.5 本章小结 | 第73-74页 |
第五章 总结与展望 | 第74-76页 |
5.1 工作总结 | 第74-75页 |
5.2 工作的不足与展望 | 第75-76页 |
致谢 | 第76-77页 |
参考文献 | 第77-79页 |
攻读硕士学位期间取得的研究成果 | 第79页 |