雪球数据爬虫

企业服务 数据服务 案例ID:207777
王亮
4 年经验· 雁丰投资
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

爬取雪球网站的热门持仓组合及其变动等
遇到问题及解决方案如下:
1. 爬取量大,需要使用 Scrapy-Redis 实现分布式爬虫进行高并发爬取
2. IP 封锁,需要维护代理 IP 池并定期检测 IP 的可用性
3. 账号限制,需要维护 Cookie 池进行模拟登陆

雪球数据爬虫

企业服务 · 数据服务 案例ID:207777
联系该工程师
微信扫码,建群沟通
作者: 王亮 - 4年经验- 雁丰投资

案例介绍

爬取雪球网站的热门持仓组合及其变动等
遇到问题及解决方案如下:
1. 爬取量大,需要使用 Scrapy-Redis 实现分布式爬虫进行高并发爬取
2. IP 封锁,需要维护代理 IP 池并定期检测 IP 的可用性
3. 账号限制,需要维护 Cookie 池进行模拟登陆

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×