靍

数据开发工程师
墨加数据 · 3年经验
靍
日薪: ¥500/8h
地点: 杭州
时间: 下班后周六周日
ID:434840 复制

0
接单数
0
评价数
0
收藏数

AI 技能提取 | JavaScript Java Python Linux Redis Kafka MySQL MongoDB SQLite ClickHouse Docker Selenium
编程语言:Python(精通)、Java/JavaScript (熟练)、Linux 基础
⚫ 采集框架:scrapy、scrapy-redis、crawl4ai、Firecrawl
⚫ 逆向与采集:JS 逆向(补环境/Hook/AST 还原)、JSVMP 逆向、算法还原、验证码识别、请求签名破解
⚫ 自动化框架:Selenium、Playwright、DrissionPage
⚫ 部署与运维:Docker、Crawlab
⚫ 数据库:MySQL、MongoDB、Redis、SQLite、ClickHouse
⚫ 数据与后端:Pandas、Superset、Flask、FastAPI、FastMcp、Kafka

分布式爬虫架构:主导设计基于 Scrapy 的高可用分布式爬虫集群,沉淀通用中间件(UA 池/代理池/Cookie 池/布隆去
重)+Pipeline 模块化体系,实现多项目(海外商品、旅游 POI、小红书等)模块复用,让多项目并行开发效率直接拉升 40%,数
据采集成功率稳定在 98%以上。
反爬破解与逆向:系统性突破各类反爬机制(字符/滑块验证码、携程 token、小红书 x-s、马蜂窝 wtsfp、Cloudflare
5s 盾),熟练运用补环境、算法还原、TLS 指纹模拟等手段,保障核心采集任务长期稳定运行。
自动化与平台工程:Docker 化部署 Crawlab 爬虫管理平台及 Firecrawl 通用采集框架;基于 DrissionPage 构建跨平
台(头条/知乎/公众号/小红书)内容自动化发布系统,把运营团队从重复劳动中彻底解放,运营效率显著提升。
后端服务与数据处理:开发企业微信机器人多租户管理服务(Flask+多进程/线程),实现消息智能分发;基于 FastMcp
开发 MCP 服务并接入 Dify 平台;利用 Superset 搭建业务数据看板,Pandas 完成 ETL 与数据清洗,为 Al 模型及业务决
策提供高质量数据支持。
靍 ID:434840 复制

靍

数据开发工程师 · 3年经验 · 墨加数据
城市杭州 日薪500元/8h 时间 下班后周六周日
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

AI 技能提取 | JavaScript Java Python Linux Redis Kafka MySQL MongoDB SQLite ClickHouse Docker Selenium
编程语言:Python(精通)、Java/JavaScript (熟练)、Linux 基础
⚫ 采集框架:scrapy、scrapy-redis、crawl4ai、Firecrawl
⚫ 逆向与采集:JS 逆向(补环境/Hook/AST 还原)、JSVMP 逆向、算法还原、验证码识别、请求签名破解
⚫ 自动化框架:Selenium、Playwright、DrissionPage
⚫ 部署与运维:Docker、Crawlab
⚫ 数据库:MySQL、MongoDB、Redis、SQLite、ClickHouse
⚫ 数据与后端:Pandas、Superset、Flask、FastAPI、FastMcp、Kafka

项目经验

分布式爬虫架构:主导设计基于 Scrapy 的高可用分布式爬虫集群,沉淀通用中间件(UA 池/代理池/Cookie 池/布隆去
重)+Pipeline 模块化体系,实现多项目(海外商品、旅游 POI、小红书等)模块复用,让多项目并行开发效率直接拉升 40%,数
据采集成功率稳定在 98%以上。
反爬破解与逆向:系统性突破各类反爬机制(字符/滑块验证码、携程 token、小红书 x-s、马蜂窝 wtsfp、Cloudflare
5s 盾),熟练运用补环境、算法还原、TLS 指纹模拟等手段,保障核心采集任务长期稳定运行。
自动化与平台工程:Docker 化部署 Crawlab 爬虫管理平台及 Firecrawl 通用采集框架;基于 DrissionPage 构建跨平
台(头条/知乎/公众号/小红书)内容自动化发布系统,把运营团队从重复劳动中彻底解放,运营效率显著提升。
后端服务与数据处理:开发企业微信机器人多租户管理服务(Flask+多进程/线程),实现消息智能分发;基于 FastMcp
开发 MCP 服务并接入 Dify 平台;利用 Superset 搭建业务数据看板,Pandas 完成 ETL 与数据清洗,为 Al 模型及业务决
策提供高质量数据支持。
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • ✓ 支付宝企业信用分 优秀 评级
  • ✓ 市场份额约占全行业三分之一
  • ✓ 程序员兼职行业全能首选平台
查看平台资质详情
收藏