采集系统-爬虫项目
项目描述:
该项目是为了给集团大数据提供招标数据开发的爬虫项目,主要采用了selenium框架去实现对网站数据的获取、整理、存库,针对每个不同的网站进行定制化的开发爬虫代码,再通过定时任务获取一定时间段内的该网站的招标数据,大概有一千多个网站需要爬取其中的招标信息。
职责描述:
1、 主要负责其中的四百多个网站的爬虫代码开发,
2、 日常的项目部署工作和对接数据清洗的同事,根据数据清洗同事的意见修改开发的网站代码
需求方专属客服,免费梳理匹配