统一数据同步平台 JAVA大数据开发组长
内容:
为解决公司内多个业务线跨系统数据同步、湖仓一体化处理需求,设计并开发统一数据同步平台,支持 Flink SQL 驱动的任务调度、运行监控和动态扩缩容。负责核心同步引擎模块的设计和实现,支持数百个任务的并发执行与调度;
支持 10 亿级别日志数据的实时清洗、转换与入库,平均延迟控制在 5s;
使用 Flink SQL 构建 DSL 驱动执行计划,兼容 Paimon、Doris 多种湖仓;
支持多租户动态加载 Schema,解决多数据源切换与权限隔离问题;
技术方案与核心贡献
1.平台设计:
基于 Spring Boot + Flink 构建平台核心框架,任务编排支持 300+ 并发 Flink SQL 作业,调度引擎可集成 Dinky 和自研调
度平台,支持 Doris、Paimon 等多种存储引擎自动注册和元数据继承;
2.实时处理能力优化:
利用 Kafka + Flink SQL 实现亿级别实时数据流同步处理,设计 watermark 与窗口策略将处理延迟稳定在 5 秒内;针对大
表入湖,支持动态任务拆分与并发提交,批量压缩提升写入性能 2 倍;
业绩:
平台月均调度数据超 50 亿条,支撑 10+ 核心业务部门的数据同步需求;
替代多套分散数据同步工具,提升运维效率 约 70%;
通过资源分组与并发控制策略,Flink 作业资源利用率提升 45%+;
任务接入耗时从原平均 2 天缩短为 30 分钟内可上线。
集成指挥扩展应用平台 开发组长兼模块项目负责人
内容:
阐述: 该项目由重庆市交巡警总队发起,承接商主要为海康、华为、我司等公司,项目数据量级高达百亿级数据,旨在给重
庆市局及交巡警总队进行事故以及违法行为的数据分析支撑以及警用勤务管理、群众举报线索等业务支撑
● 技术栈
SpringCloud+SpringBoot+nacos+Mybatis-plus+Redis+Swagger+Maven+Kafka+ES +Nginx
+Oracle+Hadoop+Impala+Kudu
●相关解决方案
1.使用分布式配置中心 nacos 做配置统一管理。
2.使用 pgsql 进行地图坐标存储及空间系计算。
3.使用 hadoop 数据集群+Kudu 实现大数据量实时存储及分析。
业绩:
1.提供给交巡警总队各大支队以及分局支队使用
2.帮助处理重大事故每年300起+
3.帮助分析路面交通情况、保障大型接待活动或者会议能够准时且有序的如期举行
用户画像实时更新系统 java大数据开发
内容:
该系统用于警用关系分析,主要是用于对人员的各类身份信息(IMSI、MAC、QQ 、微信、手机号码、身份证号码等)关联
分析,通过此分析达到提供警用案件线索研判、高危人员的管控等目的。
利用 Flink、spark 构建 ETL 流程,实现 3000+ 用户标签的实时更新与回流;
实现用户行为数据的实时聚合与分发到 ElasticSearch 及 ClickHouse;
设计异步任务控制框架,支持批量重试、熔断、日志持久化;
● 相关解决方案 :
1.使用分布式配置中心携程阿波罗做配置统一管理。
2.使用百度 Neo4j构建关系图谱做分层展示等。
3.使用众多大数据组件(Spark\Flume\hive等)解决海量数据存储及计算等问题
4.使用 azkaban+kettle 的调度完成 ETL 数据清洗
业绩:
1.辅助刑警研判分析嫌疑人情况、行驶轨迹、家庭构成等
2.全年依据此系统破获重庆大小案件100起+
3.提供高危嫌疑人的初步筛选,为重庆市节约警力100人+