arsMarvin

资深开发工程师(Python)
深圳世联行集团股份有限公司 · 5年经验
arsMarvin
日薪: ¥800/8h
地点: 深圳 南山
时间: 下班后周六周日
ID:198682 复制

0
接单数
0
评价数
1
收藏数

AI 技能提取 | Python Redis PostgreSQL Flask 分布式 Java MySQL MongoDB Selenium CSS HTTP
主要工作经验为Python爬虫,也写过Python后台服务,写过一段时间Java Web.

· 熟悉HTTP、HTTPS等网络协议及数据抓包、分析
· 熟悉使用MySQL、Redis、MongoDB、Couchbase、PostgreSQL等常见数据库
· 熟悉反爬虫机制,处理账号限制、复杂验证码、模拟登陆等疑难问题的处理
· 熟悉基于正则表达式、xpath、CSS等的网页内容抽取
· 熟悉多线程、分布式爬虫


使用过的技术及工具:

Scrapy、Requests+Gevent、Flask、Message Queue、Xpath、Beautiful Soup、xml、RegExp、PyV8、Redis、PostgreSQL、Couchbase、Selenium + phantomjs、BloomFilter等。

【企业数据采集】

· 采集企查查、天眼查企业数据(包括工商信息、法律诉讼、企业图谱、知识产权等)
· 使用Selenium+webdriver处理登陆,模拟滑块验证码拖动
· 使用MongoDB存储
· 最多200台虚拟机同时采集


突破以下主要反爬措施:
封IP、账号频次限制、普通selenium+webdriver被拦截问题、滑块验证码。

主要使用工具和软件:
Python、Selenium、Redis、Tornado、MongoDB、Requests、OpenCV、Beautifulsoup
arsMarvin ID:198682 复制

arsMarvin

资深开发工程师(Python) · 5年经验 · 深圳世联行集团股份有限公司
城市深圳 南山 日薪800元/8h 时间 下班后周六周日
0
累计接单
0
用户评价
1
被收藏

信用行为

0
接单数
0
评价数
1
收藏数

技术能力

AI 技能提取 | Python Redis PostgreSQL Flask 分布式 Java MySQL MongoDB Selenium CSS HTTP
主要工作经验为Python爬虫,也写过Python后台服务,写过一段时间Java Web.

· 熟悉HTTP、HTTPS等网络协议及数据抓包、分析
· 熟悉使用MySQL、Redis、MongoDB、Couchbase、PostgreSQL等常见数据库
· 熟悉反爬虫机制,处理账号限制、复杂验证码、模拟登陆等疑难问题的处理
· 熟悉基于正则表达式、xpath、CSS等的网页内容抽取
· 熟悉多线程、分布式爬虫


使用过的技术及工具:

Scrapy、Requests+Gevent、Flask、Message Queue、Xpath、Beautiful Soup、xml、RegExp、PyV8、Redis、PostgreSQL、Couchbase、Selenium + phantomjs、BloomFilter等。

项目经验

【企业数据采集】

· 采集企查查、天眼查企业数据(包括工商信息、法律诉讼、企业图谱、知识产权等)
· 使用Selenium+webdriver处理登陆,模拟滑块验证码拖动
· 使用MongoDB存储
· 最多200台虚拟机同时采集


突破以下主要反爬措施:
封IP、账号频次限制、普通selenium+webdriver被拦截问题、滑块验证码。

主要使用工具和软件:
Python、Selenium、Redis、Tornado、MongoDB、Requests、OpenCV、Beautifulsoup
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • ✓ 支付宝企业信用分 优秀 评级
  • ✓ 市场份额约占全行业三分之一
  • ✓ 程序员兼职行业全能首选平台
查看平台资质详情
收藏