Web海洋数据抓取及存储系统的研究与实现
摘要 | 第1-6页 |
Abstract | 第6-10页 |
第1章 绪论 | 第10-14页 |
·研究背景 | 第10页 |
·研究现状 | 第10-11页 |
·本文工作 | 第11-12页 |
·本文结构 | 第12-14页 |
第2章 搜索引擎与网络爬虫概述 | 第14-24页 |
·万维网与HTTP协议 | 第14-17页 |
·万维网简介 | 第14页 |
·统一资源定位符URL | 第14-15页 |
·超文本传输协议HTTP | 第15-17页 |
·搜索引擎的基本原理 | 第17-18页 |
·垂直搜索与主题网络爬虫 | 第18-20页 |
·网页相关度评价算法 | 第20-22页 |
·基于链接结构的评价算法 | 第20-22页 |
·基于网页内容的评价算法 | 第22页 |
·本章小结 | 第22-24页 |
第3章 科学文本数据抽取转换技术 | 第24-32页 |
·科学文本数据的特征 | 第24-25页 |
·ETL技术及系统结构 | 第25-26页 |
·科学文本数据的映射与转换 | 第26-30页 |
·科学文本数据的建模 | 第26-28页 |
·科学文本数据的映射模型 | 第28-29页 |
·科学文本数据的映射转换规则 | 第29-30页 |
·本章小结 | 第30-32页 |
第4章 系统的总体设计 | 第32-38页 |
·系统需求分析 | 第32-34页 |
·需求概述 | 第32页 |
·功能需求 | 第32-33页 |
·性能需求 | 第33-34页 |
·系统总体设计 | 第34-36页 |
·本章小结 | 第36-38页 |
第5章 系统的详细设计与关键算法分析 | 第38-56页 |
·海洋数据网站检索模块的详细设计 | 第38-45页 |
·网站检索模块的设计流程 | 第38-39页 |
·海洋数据目标站点分析 | 第39-40页 |
·海洋数据主题相关度评价算法的设计 | 第40-45页 |
·海洋数据抓取模块的详细设计 | 第45-49页 |
·数据抓取模块的设计流程 | 第45-46页 |
·数据抓取调度算法的设计 | 第46-47页 |
·目标网站元数据结构分析 | 第47-48页 |
·元数据提取算法的设计 | 第48-49页 |
·海洋数据存储模块的详细设计 | 第49-54页 |
·数据存储子系统的设计流程 | 第49-51页 |
·海洋科学数据及数据格式分析 | 第51-53页 |
·海洋数据映射转换模型的设计 | 第53-54页 |
·本章小结 | 第54-56页 |
第6章 系统的实现与测试 | 第56-72页 |
·系统开发环境 | 第56-57页 |
·开发平台 | 第56页 |
·开发语言 | 第56-57页 |
·网站检索模块的实现 | 第57-59页 |
·核心实现 | 第57-58页 |
·功能实现 | 第58-59页 |
·数据抓取模块的实现 | 第59-64页 |
·核心实现 | 第59-61页 |
·功能实现 | 第61-64页 |
·数据存储模块的实现 | 第64-67页 |
·核心实现 | 第64-65页 |
·功能实现 | 第65-67页 |
·系统测试及效果评价 | 第67-70页 |
·测试环境 | 第67页 |
·性能测试 | 第67-70页 |
·系统总体评价 | 第70页 |
·本章小结 | 第70-72页 |
第7章 结束语 | 第72-74页 |
·本文总结 | 第72页 |
·工作展望 | 第72-74页 |
参考文献 | 第74-78页 |
致谢 | 第78-80页 |
攻硕期间参加的科研项目 | 第80页 |