采集任务的分析,并负责采集方案设计;
分析页面结构使用正则表达式、xpath、css选择器等方式采集确保数据不遗漏;
采用scrapy框架实现爬虫方案,并重写start_requests,对部分静态数据采用正则提取,使用redis对新增url资源去重以提高效率;
编写pipline,加入ip、模拟浏览器Ua等以保证爬虫运行;
对接公司已有数据对采集的数据进行数据清洗(主要针对电话号码去重以及无省市地区添加省市归属地);
使用pandas库处理公司内部运营数据;
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者