基本信息

案例ID:135113

技术顾问:越过眼睛 - 2年经验 - 华为

联系沟通

微信扫码,建群沟通

项目名称:微博爬虫

所属行业:社交 - 兴趣格调

->查看更多案例

案例介绍

1、Scrapy+redis+mongodb+selenium等(一天大概1300万条数据)
2、下载中间件会从Cookie池和User-Agent池中随机抽取一个加入到spider中
3、start_requests 中根据用户ID启动四个Request,同时对个人信息、微博、
关注和粉丝进行爬取
4、将新爬下来的关注和粉丝ID加入到待爬队列(去重)

相似案例推荐

其他人才的相似案例推荐

  • 博客APP

    博客APP

    个人博客的APP个人博客的APP个人博客的APP个人博客的A

  • 李环玉个人博客

    李环玉个人博客

    个人博客,主要写一些技术方面的文章个人博客,主要写一些技术方

  • 校园焕世界

    校园焕世界

    大学生二手交易平台 一个内嵌在微信公众号上的网站软件 有

  • 陶虹-UI设计师作品集

    陶虹-UI设计师作品集

    所上传图片是三个项目的部分效果图,分别有隐隐社交APP、孟加

  • 展会通

    展会通

    基于移动互联网技术和运营理念,为展览、会议、节事活动等大型活

  • 萌龟日记

    萌龟日记

    萌龟日记 - 记录与分享养龟生活 萌龟专属相册空间,相

  • 个人作品:IT技术之家

    个人作品:IT技术之家

    该作品属于个人开发,主要有文章编辑发送,审核,资料编辑上传,

  • thinkphp

    thinkphp

    thinkphp开发的blog 基本市面上的功能

  • my website

    my website

    php开发的增改查询功能

  • my website

    my website

    php开发的增改查询功能

  • Feeds流接口性能测试

    Feeds流接口性能测试

    项目描述:Feeds流功能开发初期,为验证后台服务功能的稳定

  • 圈游

    圈游

    该app是独立开发 开发的功能主要有微信登录,注册,手机号登

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系聘用方端客服
联系聘用方端客服