项目概述:
针对企业业务数据快速增长及多源异构数据难以整合的痛点,主导设计并研发了统一大数据处理与分析平台。平台日均处理数据量达亿级,支撑了经营决策、用户画像、实时风控等多个核心业务场景。
核心职责:
负责平台的整体架构设计与核心模块研发,主导技术选型,制定数据治理规范,并带领团队完成从数据采集到可视化展示的全链路落地。
技术栈:
数据采集与传输: Flume, Kafka, DataX
数据存储: HDFS, HBase, ClickHouse, Redis
计算引擎: Apache Spark (离线/流计算), Flink (实时计算)
查询引擎: Presto, Impala
数据治理与调度: Apache Atlas, DataHub, DolphinScheduler, Airflow
前端展示: Vue + ECharts/DataV
云原生与部署: Docker, Kubernetes (K8s), Nginx, GitLab CI/CD
项目成果:
平台建成后,数据查询响应时间缩短80%,报表产出效率提升3倍以上,有效支撑了业务精细化运营,并入选行业典型案例。
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者