全国招聘网站采集

教育 职业技能 案例ID:171738
か冷~
2 年经验· 珠江智联
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

项目描述:起初公司招聘信息渠道并不完善,而公司业务与国家工信部之间合作针对职业教育发展做平台,数据的来源需要比较完善因此基于全国各大招聘信息,企业信息,进行数据分析操作。

项目技术:scrapy、scrapy-redis、aiosync、selenium、pyexcejs、nodejs、crawlab;

项目负责:

负责招聘网站的拓展与评估;
负责全国各大招聘网站爬虫脚本开发与维护;
负责企业信息采集,实现途径各大招聘网站注册信息进行采集
负责解决各个网站对应的反爬措施含验证码,cookies,post参数等风控问题
负责项目整体维护升级管理,纳入crawlab爬虫管理系统,优化定时采集策略;
项目总结:

网站数量过多难以维护,通过托于爬虫管理系统crawlab进行定时采集,邮箱发送是否采集失败;
部分网站出现有反人类验证码,需要通过自动化工具解决;
部分网站有加密参数,一般有先考虑小程序或者app入口是否存在加密参数,如果有就会采用对网站加密参数进行逆向。

全国招聘网站采集

教育 · 职业技能 案例ID:171738
联系该工程师
微信扫码,建群沟通
作者: か冷~ - 2年经验- 珠江智联

案例介绍

项目描述:起初公司招聘信息渠道并不完善,而公司业务与国家工信部之间合作针对职业教育发展做平台,数据的来源需要比较完善因此基于全国各大招聘信息,企业信息,进行数据分析操作。

项目技术:scrapy、scrapy-redis、aiosync、selenium、pyexcejs、nodejs、crawlab;

项目负责:

负责招聘网站的拓展与评估;
负责全国各大招聘网站爬虫脚本开发与维护;
负责企业信息采集,实现途径各大招聘网站注册信息进行采集
负责解决各个网站对应的反爬措施含验证码,cookies,post参数等风控问题
负责项目整体维护升级管理,纳入crawlab爬虫管理系统,优化定时采集策略;
项目总结:

网站数量过多难以维护,通过托于爬虫管理系统crawlab进行定时采集,邮箱发送是否采集失败;
部分网站出现有反人类验证码,需要通过自动化工具解决;
部分网站有加密参数,一般有先考虑小程序或者app入口是否存在加密参数,如果有就会采用对网站加密参数进行逆向。

相似案例推荐

  • 抒意音乐课

    抒意音乐课

    音乐课,是满足老师跟学生能在线上课的app。视频对接的是声网

  • 苏宁

    苏宁

    移动端的简单开发,使用了rem适配方案,加了一些css3动画

  • 品优购

    品优购

    实现简单静态页面间的互相跳转,商品的展示,字体图标的使用,整

  • 金色年华

    金色年华

    还原 ui 设计的设计图,编写项目的静态页面以及数据渲染;报

  • 在线考试系统

    在线考试系统

    系统实现学员在线考试、题库管理、试卷管理、智能组卷、手动组卷

  • 机械制图

    机械制图

    项目就是会机械制图或CAD,这个是在校学过的专业,之后我又自

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×