w

爬虫开发兼数据开发
同花顺 · 2年经验
w
日薪: ¥500/8h
地点: 杭州 拱墅
时间: 下班后周六周日可工作日远程可工作日驻场(离职原因)可工作日驻场(自由职业原因)
ID:249841 复制

0
接单数
0
评价数
0
收藏数

AI 技能提取 | Spark
1、爬虫:负责公司数据需求采集,存入 ES或 PG 数据库中.
2、数据开发:
3、数据打标:写 spark 脚本对关键字段进行提取,或利用配置表打标.
4、数据迁移,写 spark 脚本将数据从 ES 拉取至 pg。
5、逆向加密:破解网址加密参数
1 使用正则表达式、xpath等提取数据
2 写sql对pg库数据进行规则化处理:增删查改

1、爬虫:负责公司数据需求采集,存入 ES或 PG 数据库中.
2、数据开发:
3、数据打标:写 spark 脚本对关键字段进行提取,或利用配置表打标.
4、数据迁移,写 spark 脚本将数据从 ES 拉取至 pg。
5、逆向加密:破解网址加密参数,专攻瑞数
w ID:249841 复制

w

爬虫开发兼数据开发 · 2年经验 · 同花顺
城市杭州 拱墅 日薪500元/8h 时间 下班后周六周日可工作日远程可工作日驻场(离职原因)可工作日驻场(自由职业原因)
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

AI 技能提取 | Spark
1、爬虫:负责公司数据需求采集,存入 ES或 PG 数据库中.
2、数据开发:
3、数据打标:写 spark 脚本对关键字段进行提取,或利用配置表打标.
4、数据迁移,写 spark 脚本将数据从 ES 拉取至 pg。
5、逆向加密:破解网址加密参数
1 使用正则表达式、xpath等提取数据
2 写sql对pg库数据进行规则化处理:增删查改

项目经验

1、爬虫:负责公司数据需求采集,存入 ES或 PG 数据库中.
2、数据开发:
3、数据打标:写 spark 脚本对关键字段进行提取,或利用配置表打标.
4、数据迁移,写 spark 脚本将数据从 ES 拉取至 pg。
5、逆向加密:破解网址加密参数,专攻瑞数
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • 支付宝企业信用分 优秀 评级
  • 市场份额约占全行业三分之一
  • 程序员兼职行业全能首选平台
查看平台资质详情
收藏