逆WM舟

高级python爬虫工程师
阿里 · 3年经验
逆WM舟
日薪: ¥500/8h
地点: 其他 全区
时间: 下班后
有团队 · 可整包 ID:209051 复制

0
接单数
0
评价数
0
收藏数

AI 技能提取 | MySQL Linux Python Ruby JavaScript CSS Ajax
1)优秀的数据库设计和优化能力,至少精通一种常用的关系型数据库,精通MySQL数据集群应用开发优先;

2)熟练应用CSS/JavaScript/Ajax/进行Web开发,熟悉Python/Ruby者优先;

3)熟练使用Linux,熟悉常用的Shell命令,扎实的计算机基础,较强的软件架构或算法理解能力;

4)拥有优秀的逻辑思维能力、时间和流程意识以及良好的编码习惯及开发文档书写习惯。

项目时间:2017-01到2011-10

项目名称:分布式爬虫爬取北京市企业信用信息网

项目描述:
项目介绍
这个项目是通过scrapy-redis搭建分布式爬虫爬取企业信用信息网公布栏,爬取列表页每一项下的子页获取数据
我的职责
首先爬取首页后通过xpath匹配每个的信息块的span后构建请求,并通过scrapy.Request发送请求,用xpath匹配需要的信息。
同时循环创建下一页请求的form表单,通过scrapy.FormRequest发送POST请求。所有爬取的信息缓存到redis数据库中,
最后通过编写python脚本将redis数据库中数据读取出来加入mysql数据库。
其他爬取的网站:搜狐新闻、豆瓣、腾讯新闻网

整包服务: 其他开发
负责人: 高级python爬虫工程师
团队成员: 前端工程师 
逆WM舟 ID:209051 复制

逆WM舟

有团队 · 可整包
高级python爬虫工程师 · 3年经验 · 阿里
城市其他 全区 日薪500元/8h 时间 下班后
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

AI 技能提取 | MySQL Linux Python Ruby JavaScript CSS Ajax
1)优秀的数据库设计和优化能力,至少精通一种常用的关系型数据库,精通MySQL数据集群应用开发优先;

2)熟练应用CSS/JavaScript/Ajax/进行Web开发,熟悉Python/Ruby者优先;

3)熟练使用Linux,熟悉常用的Shell命令,扎实的计算机基础,较强的软件架构或算法理解能力;

4)拥有优秀的逻辑思维能力、时间和流程意识以及良好的编码习惯及开发文档书写习惯。

项目经验

项目时间:2017-01到2011-10

项目名称:分布式爬虫爬取北京市企业信用信息网

项目描述:
项目介绍
这个项目是通过scrapy-redis搭建分布式爬虫爬取企业信用信息网公布栏,爬取列表页每一项下的子页获取数据
我的职责
首先爬取首页后通过xpath匹配每个的信息块的span后构建请求,并通过scrapy.Request发送请求,用xpath匹配需要的信息。
同时循环创建下一页请求的form表单,通过scrapy.FormRequest发送POST请求。所有爬取的信息缓存到redis数据库中,
最后通过编写python脚本将redis数据库中数据读取出来加入mysql数据库。
其他爬取的网站:搜狐新闻、豆瓣、腾讯新闻网

团队情况

服务范围:
其他开发
团队构成:
负责人(高级python爬虫工程师) | 核心队员:前端工程师
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • 支付宝企业信用分 优秀 评级
  • 市场份额约占全行业三分之一
  • 程序员兼职行业全能首选平台
查看平台资质详情
收藏