ID:425369

高级数据开发工程师

  • 公司信息:
  • 企查查科技股份有限公司
  • 工作经验:
  • 9年
  • 兼职日薪:
  • 500元/8小时
  • 兼职时间:
  • 周六
  • 周日
  • 可工作日远程
  • 可工作日驻场(离职原因)
  • 可工作日驻场(自由职业原因)
  • 所在区域:
  • 苏州
  • 全区

技术能力

AI Coding 工程化落地经验:具备前沿的 AI 赋能研发实践经验,熟悉 Claude 等大模型工具。曾主导基于 Superpowers、
Trellis 等框架的定制化方案落地,成功将 AI 应用于代码生成、代码审查、单元测试生成及线上问题定位等场景,有效提升
团队研发效率与代码质量约 30%。
扎实的大数据开发功底:拥有 9 年大数据项目开发经验,精通 Spark、Flink 实时/离线计算框架及 Hadoop 生态圈(Hive,
HDFS, HBase)。具备处理日均超 10 亿条数据的海量数据处理经验,擅长性能调优,能有效解决数据倾斜、内存溢出等难
题,保障任务高效稳定运行。
丰富的 Java 后端开发经验:熟练掌握 Spring、Spring Boot、MyBatis 等主流开发框架,对 Redis、Kafka、RabbitMQ 等
常用中间件有深入使用经验。具备分布式系统架构设计能力,能够独立完成核心模块的设计与开发。

项目经验

数据清洗ai coding工程化落地 ai agent开发
内容:
项目概况
引入 AI 辅助编程能力,探索并落地了一套适合数据清洗场景的 AI Coding 工程化流程,覆盖需求分析、方案设计、代码生
成、规范检查、单元测试等完整环节,并在实际业务中进行常态化使用。
我的职责
1. 工具选型与辅助能力封装
先后尝试了 Cursor、Qoder、Trae 等多个 AI 编程工具,以及 Supper Power 等 Skill 扩展方案,经过多轮对比,最终选
用 Claude Code 作为核心代码生成工具。在此基础上,对社区开源的 Trellis 等 Skill 进行了定制化修改,结合团队实际情
况,封装了项目规范、开发规范、公共方法、常规使用方法等内容,确保 AI 生成的代码能够贴合现有工程体系,减少人工
修正成本。
2. AI 辅助开发全流程标准化
制定了一套符合数据清洗场景的 AI 辅助开发流程,涵盖以下环节:需求分析 → AI 需求文档生成 → 代码方案文档生成 → 代
码生成 → 规范检查 → 单元测试。通过标准化的 Prompt 设计与文档模板,确保 AI 在各阶段产出物的格式与质量稳定可
控,实现了从需求到交付的全链路 AI 辅助,显著降低了单需求的平均开发耗时。
3. 线上问题定位 Skill 开发,降低排障成本
针对日常运维中重复性故障排查耗时较多的问题,开发了线上问题定位 Skill,将常见异常类型、日志特征、排查步骤及对应
解决方案进行了沉淀与封装。在日常运维中,可快速通过该 Skill 辅助定位根因并提供处理建议,有效减少了重复问题的分
析定位时间。
业绩:
1. 离线任务流程 Skill 开发并投产
完成了离线任务流程 Skill 的开发并已正式投入使用。通过 MCP 对接文档和公司任务平台 API 结果,基本实现了从文档分析
到平台任务节点修改的整套流程,全程仅需少量人工处理,具备自动化上线能力。
2. 实时任务规范体系搭建
负责实时任务规范中的模块初始化和 job-task 定制化开发,增加了所有模块通用的 AI 规则和初始化方法,实现了根据需求
拆分独立 Agent 完成单个需求的开发。各模块之间既遵循同一套规范,又可自定义规范,相互之间无影响。
3. 线上问题定位 Skill 矩阵落地
开发了控制企业股东链路分析、集团成员变更原因分析、产业链企业产品变更分析等多个线上问题定位 Skill,已正式投入使
用,有效提升了日常排障效率,减少了重复问题的分析定位时间。
企业数据清洗项目 数据开发
内容:
2022.10-2023.11
2021.06-2022.11
项目概概况:
该项目旨在构建企业级核心数据的清洗与处理链路,通过 Kafka 消息队列接收海量多源异构数据,采用 Flink 实时流计算
与 Hive 离线批处理相结合的架构完成数据清洗,最终将高质数据落盘至 TiDB 与 MongoDB。
我的职责:
1. 核心业务模块维护与任务运维调优
主要负责公司内部多个固定业务模块的日常数据维护工作,包括:产业链、企查查行业、企业集团、控制企业等模块的实时
与离线数据任务保障。同时承担上述模块相关 Flink 实时任务及 Hive 离线任务的线上运维与故障排查。深入优化计算逻辑,
针对性攻克了数据倾斜导致的长尾延迟,以及内存溢出(OOM)引发的任务崩溃瓶颈,显著提升链路整体可用性。
2. 多源异构数据融合架构落地
按照统一的标准化清洗思路,利用工厂模式、适配器模式、策略模式等设计模式,对多源异构数据的解析、转换、校验等环
节进行了抽象与封装,实现了不同数据源接入逻辑的统一整合。同时结合日常增量数据的合并机制,将原本分散的多个独立
清洗任务整合为单一任务链路,极大减少了需要日常运维和保障的任务数量,显著降低了维护成本。
3. 高并发分布式一致性保障
针对高并发写入场景下企业数据多表数据不一致问题,通过使用时间窗口机制、消息队列、分布式锁保证数据处理顺序的一
致性,避免并非环境下的计算冲突。
业绩:
1. 多源合并大幅缩减任务规模
完成了产业链、绿色金融等模块的多源数据合并,将实时任务数量由 30 多个缩减至 10 个左右,显著降低了运维复杂度与资
源开销。
2. 离线转实时流程重构,大幅提升数据时效
完成了集团成员、控制企业等模块由离线批处理转为实时流计算的流程重构。针对控制企业模块,设计了一套基于中间结果
迭代的实时计算流程,正常股东变更场景下,控制企业数据更新可在 30 分钟内完成,数据时效性较原有离线模式显著提
升。
3. 企查查行业大版本升级平滑上线
设计了企查查行业大版本升级的

信用行为

  • 接单
    0
  • 评价
    0
  • 收藏
    0
微信扫码,建群沟通

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服