摘要 | 第4-5页 |
Abstract | 第5页 |
1 绪论 | 第8-12页 |
1.1 选题背景及意义 | 第8-9页 |
1.2 国内外研究现状 | 第9-10页 |
1.2.1 研究概况 | 第9页 |
1.2.2 垂直搜索引擎技术概览 | 第9-10页 |
1.3 研究目的与主要内容 | 第10-11页 |
1.4 论文结构安排 | 第11-12页 |
2 系统架构与Lucene关键技术介绍 | 第12-18页 |
2.1 引言 | 第12页 |
2.2 系统分析 | 第12-13页 |
2.3 Lucene关键技术介绍 | 第13-17页 |
2.3.1 索引技术 | 第13-14页 |
2.3.2 中文分词技术 | 第14-15页 |
2.3.3 全文检索技术 | 第15-17页 |
2.3.4 搜索结果排序 | 第17页 |
2.4 本章小结 | 第17-18页 |
3 主题爬虫与政策信息识别技术研究 | 第18-31页 |
3.1 爬虫模块设计与实现 | 第18-24页 |
3.1.1 主题爬虫原理 | 第18-19页 |
3.1.2 主题爬虫性能指标与爬行策略 | 第19-20页 |
3.1.3 爬虫框架Webmagic的扩展与改进 | 第20-22页 |
3.1.4 基于BerkeleyDB和MD5的URL去重 | 第22-23页 |
3.1.5 实验对比及分析 | 第23-24页 |
3.2 HTML预处理及政策标题正文抽取 | 第24-25页 |
3.2.1 网页预处理 | 第24页 |
3.2.2 政策标题和正文内容抽取 | 第24-25页 |
3.3 基于正则表达式和CEPR的政策文号抽取算法 | 第25-29页 |
3.3.1 正则表达式 | 第25-26页 |
3.3.2 CEPR算法介绍 | 第26-27页 |
3.3.3 政策文号及特征 | 第27-28页 |
3.3.4 算法描述及实现 | 第28-29页 |
3.4 抽取效果测试 | 第29页 |
3.5 本章小结 | 第29-31页 |
4 基于语句相似度的政策树生长系统 | 第31-38页 |
4.1 文本表示与向量空间模型 | 第31页 |
4.2 语句相似度计算 | 第31-34页 |
4.2.1 余弦相似度计算 | 第32页 |
4.2.2 编辑距离相似度计算 | 第32-33页 |
4.2.3 基于余弦定理和编辑距离结合的句子相似度计算 | 第33-34页 |
4.2.4 实验结果分析 | 第34页 |
4.3 政策树生长系统 | 第34-36页 |
4.3.1 数据库表设计 | 第35页 |
4.3.2 政策树生成 | 第35-36页 |
4.4 本章小结 | 第36-38页 |
5 基于Lucene的垂直搜索引擎的设计与实现 | 第38-48页 |
5.1 系统实现 | 第38-44页 |
5.1.1 实验环境 | 第38页 |
5.1.2 爬虫的部署 | 第38-39页 |
5.1.3 Lucene全文检索及排序实现 | 第39-40页 |
5.1.4 Web前后台开发 | 第40-44页 |
5.2 系统功能及截图 | 第44-47页 |
5.3 本章小结 | 第47-48页 |
6 总结与展望 | 第48-50页 |
6.1 论文内容总结 | 第48页 |
6.2 不足及对未来的展望 | 第48-50页 |
参考文献 | 第50-53页 |
致谢 | 第53-54页 |
攻读学位期间取得的科研成果清单 | 第54页 |