Crawl

金融 P2P 案例ID:166804
我比时光更加薄凉
5 年经验· 闪银奇异
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

简介:分布式爬虫系统,根据客户授权,通过⽹网络爬虫,收集客户在相关电商、票务、社交⽹网站的⽤用户信息,以便便综合评定客户信⽤。
技术:Python + MySQL + Mongo + Redis + Kafka + ELK + Relic + Prometheus
职责:带领团队,从零到一,设计和实现整个分布式爬⾍虫系统。
1) 抽象并实现爬虫整体框架,包括 Verify 授权模块,Crawl 爬取模块,Retry 重试模块
2) 爬虫服务支撑子系统,包括 Dashboard,代理池 Proxy Pool
3) 基于 Mongo 和 MySQL 的数据清洗和存储子系统

Crawl

金融 · P2P 案例ID:166804
联系该工程师
微信扫码,建群沟通
作者: 我比时光更加薄凉 - 5年经验- 闪银奇异

案例介绍

简介:分布式爬虫系统,根据客户授权,通过⽹网络爬虫,收集客户在相关电商、票务、社交⽹网站的⽤用户信息,以便便综合评定客户信⽤。
技术:Python + MySQL + Mongo + Redis + Kafka + ELK + Relic + Prometheus
职责:带领团队,从零到一,设计和实现整个分布式爬⾍虫系统。
1) 抽象并实现爬虫整体框架,包括 Verify 授权模块,Crawl 爬取模块,Retry 重试模块
2) 爬虫服务支撑子系统,包括 Dashboard,代理池 Proxy Pool
3) 基于 Mongo 和 MySQL 的数据清洗和存储子系统

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×