首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机的应用论文--计算机网络论文--一般性问题论文

面向linkedin与microsoft academic的nutch爬虫系统设计与实现

摘要第4-5页
ABSTRACT第5页
第一章 绪论第8-10页
    1.1 项目背景第8页
    1.2 项目的目的第8-9页
    1.3 项目意义第9页
    1.4 项目研究的主要内容第9页
    1.5 论文结构第9-10页
第二章 面向linkedin与academic的爬虫系统分析第10-12页
    2.1 爬虫系统总体需求第10页
    2.2 功能规定第10-11页
    2.3 输入输出要求第11页
    2.4 本章小结第11-12页
第三章 面向linkedin与academic的爬虫系统设计第12-42页
    3.1 架构设计和模块设计第12页
        3.1.1 爬虫系统架构图。第12页
    3.2 系统模块分解第12-13页
        3.2.1 IP代理服务模块第12-13页
        3.2.2 登陆服务模块第13页
        3.2.3 页面解析模块第13页
        3.2.4 华人标记模块第13页
        3.2.5 入库实现模块第13页
    3.3 数据处理流程第13-15页
        3.3.1 数据处理流程图第13-14页
        3.3.2 数据处理流程分析第14-15页
    3.4 系统总体设计第15-20页
        3.4.1 计算机配置设计(实验配置)第15-16页
        3.4.2 系统模块结构设计第16页
        3.4.3 代码设计第16-20页
    3.5 系统采集思路设计第20-38页
        3.5.1 爬虫系统采集总体思路结构。第20页
        3.5.2 Profilecrawler(用户页面采集思路具体)。第20-27页
        3.5.3 Keywordcrawler(关键词采集思路)第27-34页
        3.5.4 Journalcrawler(期刊采集思路)第34-36页
        3.5.5 linkedin账号权限限制信息查看解决方案。第36-38页
    3.6 数据库设计第38-41页
        3.6.1 数据库需求分析。第38页
        3.6.2 数据库概念模型。第38-39页
        3.6.3 数据库逻辑模型。第39-41页
    3.7 本章小结第41-42页
第四章 linkedin和academic的爬虫详细设计和具体实现第42-53页
    4.1 代理IP服务模块的详细设计与实现第42-45页
    4.2 模拟登录插件详细设计与实现第45-48页
    4.3 华人标记模块详细设计与实现第48-50页
    4.4 入库模块详细设计与实现第50-51页
    4.5 其他配置与爬虫启动第51-52页
        4.5.1 添加常见拼音配置文件。第51页
        4.5.2 配置插件参数。第51-52页
        4.5.3 爬虫启动。第52页
    4.6 本章小结第52-53页
第五章 爬虫系统测试第53-54页
第六章 总结与展望第54-55页
    6.1 总结第54页
    6.2 展望第54-55页
参考文献第55-57页
致谢第57-58页

论文共58页,点击 下载论文
上一篇:云计算环境下多媒体听课系统的设计与实现
下一篇:卫生监督自动化办公系统升级改造的设计与实现