独立承接企业大数据平台全链路建设与运维工作,完成整套基础组件高可用架构搭建:MySQL主从/高可用集群、PostgreSQL高可用集群、Redis集群、Kafka消息集群、CDH Hadoop大数据集群、Elasticsearch检索集群部署、参数调优、权限规划、监控告警配置。
负责平台日常运维与突发宕机故障应急处置,针对服务器异常断电、节点故障引发的各类集群崩溃问题快速排障:处理MySQL InnoDB崩溃恢复、PostgreSQL WAL损坏与页面异常修复、Kafka副本同步故障、CDH集群HDFS块损坏与服务异常、ES分片丢失及红/黄状态恢复,优先完成底层数据备份抢救,最大限度保障业务数据安全,快速恢复线上业务、数据报表与检索服务。
同时承担多源数据ETL开发工作,对接MySQL、PostgreSQL等业务数据库,完成数据抽取、清洗、转换,通过Kafka进行数据流转,同步到大数据仓库与ES检索集群,设计增量与全量同步策略,校验数据一致性,优化同步任务调度,解决海量数据同步延迟、任务卡顿问题。
配套完善容灾备份方案,编写Shell/Python自动化脚本实现定时备份、集群巡检、状态监控,梳理集群启动规范与故障应急手册,降低后续故障恢复时长,提升整套平台稳定性。
技术栈
Linux、MySQL高可用、PostgreSQL高可用集群、Redis集群、Kafka集群、CDH(Hadoop/Hive/Zookeeper)、Elasticsearch集群运维、WAL恢复、数据ETL、Shell、Python、数据迁移、容灾备份、日志排障