villi

Python爬虫工程师
杭州华泰一媒文化传媒有限公司 · 3年经验
villi
日薪: ¥800/8h
地点: 杭州 西湖
时间: 下班后周六周日
ID:217964 复制

0
接单数
0
评价数
0
收藏数

AI 技能提取 | Python HTML MySQL Redis MongoDB PostgreSQL Selenium CSS Ajax Django Git
 精通: Python基础、Office、HTML
 熟练:CSS、JS、Ajax、Scrapy、Xpath、Re、Requests、Selenium、MySQL、Redis、Mongodb,Postgresql
 熟悉:Django、Pandas、Numpy、Matplotlib、HDFS、Tesseract、Sklearn、Git

1) 项目概况:
招标网站:财政厅浙江政府采购网、各县市区公共资源交易网、温州招标网
温州政彩云、温州国企采购平台
关键字:调查、清查、普查、建库
采集内容:数据来源、发布时间、招标公告、招标网址
2) 遇到问题及解决方案如下:
1. 分析目标网站真实request地址和response内容,使用IP代理池试水网站反爬虫级别,检测是否有投毒数据。
2. 采用IP代理池及随机User-Agent反反爬
3. 采用re获取网页数据
4. 保存数据到Excel中
5. 使用logging模块编写监控程序进行爬虫监控,并根据日期定向输出日志到log文件
villi ID:217964 复制

villi

Python爬虫工程师 · 3年经验 · 杭州华泰一媒文化传媒有限公司
城市杭州 西湖 日薪800元/8h 时间 下班后周六周日
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

AI 技能提取 | Python HTML MySQL Redis MongoDB PostgreSQL Selenium CSS Ajax Django Git
 精通: Python基础、Office、HTML
 熟练:CSS、JS、Ajax、Scrapy、Xpath、Re、Requests、Selenium、MySQL、Redis、Mongodb,Postgresql
 熟悉:Django、Pandas、Numpy、Matplotlib、HDFS、Tesseract、Sklearn、Git

项目经验

1) 项目概况:
招标网站:财政厅浙江政府采购网、各县市区公共资源交易网、温州招标网
温州政彩云、温州国企采购平台
关键字:调查、清查、普查、建库
采集内容:数据来源、发布时间、招标公告、招标网址
2) 遇到问题及解决方案如下:
1. 分析目标网站真实request地址和response内容,使用IP代理池试水网站反爬虫级别,检测是否有投毒数据。
2. 采用IP代理池及随机User-Agent反反爬
3. 采用re获取网页数据
4. 保存数据到Excel中
5. 使用logging模块编写监控程序进行爬虫监控,并根据日期定向输出日志到log文件
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • 支付宝企业信用分 优秀 评级
  • 市场份额约占全行业三分之一
  • 程序员兼职行业全能首选平台
查看平台资质详情
收藏