交易数据处理系统

金融 股票 案例ID:221121
Jesen
5 年经验· 花旗银行
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

基于公司 Global Systematic Stress Test 业务构建的大型数据分析平台,日均数据处理量 1TB,对上 游每日的数据 进行离线分析、处理、清洗后写入数仓。构建交易数据的离线与实时数据仓库,设计数据 模型,ETL 实施,ETL 性能优化, ETL 数据监控,提升数据架构扩展性,支持数据产品的快速迭代和横向 扩展。该项目使用 Java 语言通过 Spark 和 Hive 构建数仓,包括数据抽取,转换和加载,确保数据的 高效处理和整合。同时进行 Spark 性能调优,每天固定时间数据会更新,需要及时处理 确保性能稳定, 编写自动化监控脚本。

交易数据处理系统

金融 · 股票 案例ID:221121
联系该工程师
微信扫码,建群沟通
作者: Jesen - 5年经验- 花旗银行

案例介绍

基于公司 Global Systematic Stress Test 业务构建的大型数据分析平台,日均数据处理量 1TB,对上 游每日的数据 进行离线分析、处理、清洗后写入数仓。构建交易数据的离线与实时数据仓库,设计数据 模型,ETL 实施,ETL 性能优化, ETL 数据监控,提升数据架构扩展性,支持数据产品的快速迭代和横向 扩展。该项目使用 Java 语言通过 Spark 和 Hive 构建数仓,包括数据抽取,转换和加载,确保数据的 高效处理和整合。同时进行 Spark 性能调优,每天固定时间数据会更新,需要及时处理 确保性能稳定, 编写自动化监控脚本。

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×