基于Web爬虫的课程推荐系统研究
| 摘要 | 第5-6页 |
| Abstract | 第6页 |
| 第一章 绪论 | 第9-13页 |
| 1.1 本论文研究的目的和意义 | 第9页 |
| 1.2 国内外研究现状及发展趋势 | 第9-11页 |
| 1.3 研究目标与主要研究内容 | 第11-12页 |
| 1.4 论文组织 | 第12-13页 |
| 第二章 系统设计与相关技术概述 | 第13-24页 |
| 2.1 基于WEB爬虫的课程推荐系统模块设计 | 第13-14页 |
| 2.2 网络爬虫 | 第14-19页 |
| 2.2.1 通用爬虫框架研究 | 第15-16页 |
| 2.2.2 网络爬虫分类 | 第16-17页 |
| 2.2.3 开源爬虫框架比较 | 第17-19页 |
| 2.3 NOSQL技术 | 第19-20页 |
| 2.4 文本分析 | 第20-22页 |
| 2.4.1 文本分词 | 第20-21页 |
| 2.4.2 内容特征选取 | 第21-22页 |
| 2.5 全文搜索引擎技术 | 第22-24页 |
| 第三章 基于SCRAPY的新闻爬虫实现 | 第24-44页 |
| 3.1 SCRAPY爬虫框架 | 第24-28页 |
| 3.1.1 SCRAPY框架组成 | 第24-26页 |
| 3.1.2 SCRAPY数据处理流程解析 | 第26-27页 |
| 3.1.3 WEB页面信息提取 | 第27-28页 |
| 3.2 分布式存储技术 | 第28-32页 |
| 3.2.1 REDIS内存数据库介绍 | 第28-29页 |
| 3.2.2 MONGODB文档数据库研究 | 第29-31页 |
| 3.2.3 爬虫数据分布式存储 | 第31-32页 |
| 3.3 新闻爬虫实现 | 第32-43页 |
| 3.3.1 MONGODB分布式部署 | 第33-36页 |
| 3.3.2 SCRAPY定制 | 第36-38页 |
| 3.3.3 项目管道定制 | 第38-39页 |
| 3.3.4 新闻内容抓取 | 第39-43页 |
| 3.4 本章小结 | 第43-44页 |
| 第四章 新闻热点提取与课程推荐的实现 | 第44-54页 |
| 4.1 中文分词算法研究 | 第44-46页 |
| 4.1.1 基于TRIE树结构的分词算法 | 第44-45页 |
| 4.1.2 HMM模型与VITERBI算法 | 第45-46页 |
| 4.2 关键词抽取算法研究 | 第46-49页 |
| 4.2.1 基于统计的TF-IDF算法 | 第46-48页 |
| 4.2.2 TEXTRANK关键字生成算法 | 第48-49页 |
| 4.3 新闻热点提取 | 第49-52页 |
| 4.3.1 结合学科词典的关键词抽取 | 第49-51页 |
| 4.3.2 融合新闻参数信息的热点发现 | 第51-52页 |
| 4.4 基于SOLR的课程推荐 | 第52-53页 |
| 4.5 本章小结 | 第53-54页 |
| 第五章 系统测试 | 第54-59页 |
| 5.1 系统测试方法 | 第54页 |
| 5.2 实际系统运行结果分析 | 第54-58页 |
| 5.2.1 分布式网络爬虫结果分析 | 第54-55页 |
| 5.2.2 关键词抽取测试 | 第55-57页 |
| 5.2.3 课程推荐结果分析 | 第57-58页 |
| 5.3 系统测试结论 | 第58-59页 |
| 结论 | 第59-60页 |
| 参考文献 | 第60-63页 |
| 攻读学位期间发表论文与研究成果清单 | 第63-64页 |
| 致谢 | 第64页 |
