摘要 | 第3-4页 |
Abstract | 第4-5页 |
目录 | 第6-9页 |
第一章 绪论 | 第9-13页 |
1.0 课题背景 | 第9页 |
1.1 课题来源、目的和意义 | 第9页 |
1.2 国内外研究现状 | 第9-11页 |
1.2.1 国外研究现状 | 第10-11页 |
1.2.2 国内研究现状 | 第11页 |
1.3 主要研究内容 | 第11-12页 |
1.4 本文的组织结构 | 第12-13页 |
第二章 面向网购的笔记系统的系统需求分析 | 第13-20页 |
2.1 引言 | 第13页 |
2.2 系统概述 | 第13-15页 |
2.2.1 系统的用例模型 | 第13-14页 |
2.2.2 系统流程 | 第14-15页 |
2.3 系统目标和解决的问题 | 第15-16页 |
2.4 系统需求问题描述 | 第16-18页 |
2.4.1 系统功能性需求 | 第16-17页 |
2.4.2 系统非功能性需求 | 第17-18页 |
2.5 系统开发环境 | 第18-19页 |
2.5.1 系统硬件平台 | 第18页 |
2.5.2 系统软件平台与开发工具 | 第18-19页 |
2.6 本章小结 | 第19-20页 |
第三章 系统设计 | 第20-30页 |
3.1 系统功能架构设计 | 第20-21页 |
3.2 前台模块设计 | 第21-22页 |
3.2.1 参数查询模块 | 第21-22页 |
3.2.2 价格查询模块 | 第22页 |
3.2.3 走势查询模块 | 第22页 |
3.3 后台管理模块设计 | 第22-25页 |
3.3.1 网页爬取模块 | 第23-24页 |
3.3.2 信息提取模块 | 第24页 |
3.3.3 索引建立模块 | 第24页 |
3.3.4 数据存储模块 | 第24-25页 |
3.3.5 请求处理模块 | 第25页 |
3.4 数据库设计 | 第25-26页 |
3.4.1 比价搜索的数据库设计特点 | 第25页 |
3.4.2 数据库表的设计 | 第25-26页 |
3.5 索引设计 | 第26-28页 |
3.5.1 使用lucene建立索引 | 第26页 |
3.5.2 Lucene索引的结构 | 第26-27页 |
3.5.3 索引模块设计 | 第27-28页 |
3.6 数据库和Lucene的结合 | 第28-29页 |
3.7 本章小结 | 第29-30页 |
第四章 系统实现与测试 | 第30-54页 |
4.1 网页爬取模块 | 第30-36页 |
4.1.1 网页抓取模块 | 第30-31页 |
4.1.2 向Heritrix中添加定制的Extractor | 第31-33页 |
4.1.3 扩展FrontierScheduler来抓取特定的内容 | 第33-34页 |
4.1.4 取消对robots.txt的限制 | 第34-35页 |
4.1.5 利用ELFHash策略多线程抓取网页 | 第35-36页 |
4.2 信息提取模块 | 第36-41页 |
4.2.1 Htmlparser介绍 | 第37页 |
4.2.2 使用Htmlparser提取网页中的关键信息 | 第37-40页 |
4.2.3 使用Htmlparser获取价格信息 | 第40-41页 |
4.2.4 手机词库设计 | 第41页 |
4.3 索引建立模块 | 第41-45页 |
4.3.1 产品信息Lucene索引结构 | 第42-43页 |
4.3.2 索引的创建 | 第43-45页 |
4.3.3 JE对中文的分析 | 第45页 |
4.4 请求处理模块 | 第45-48页 |
4.5 前台显示模块 | 第48-54页 |
4.5.1 通过JavaBean获取价格、产品参数和价格走势 | 第49页 |
4.5.2 数据库访问类实现 | 第49-50页 |
4.5.3 索引检索类实现 | 第50-52页 |
4.5.4 Web前台页面设计与实现 | 第52-54页 |
第五章 系统测试与运行结果 | 第54-61页 |
5.1 测试原则 | 第54页 |
5.2 准备工作 | 第54页 |
5.3 使用Heritrix 抓取网页 | 第54-57页 |
5.4 同步索引和数据库 | 第57-58页 |
5.5 搜索前台 | 第58-60页 |
5.6 本章小结 | 第60-61页 |
结论 | 第61-62页 |
参考文献 | 第62-64页 |
致谢 | 第64页 |