工业大数据

企业服务 数据服务 案例ID:185161
Z-hhh
3 年经验· 江苏西格
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

系统架构:kafka+flink+HBase+redis+doris+DolphinScheduler
实时采集工厂设备的信息,flink实时处理到doris库,DolphinScheduler定时汇总出结果表。原项目采用storm+mysql的方
式,进行了全新改造。
①改造原始框架、设计新框架
②环境搭建设计、部署
③数据处理逻辑优化,减少对redis的依赖
④DolphinScheduler部署使用,利用doris的性能,减少代码处理数据
⑤flink采用Scala编写、部署
⑥sql编写,用于后端查询数据,减少后端计算数据的压力
⑦手写数据迁移工具,从mysql到doris

工业大数据

企业服务 · 数据服务 案例ID:185161
联系该工程师
微信扫码,建群沟通
作者: Z-hhh - 3年经验- 江苏西格

案例介绍

系统架构:kafka+flink+HBase+redis+doris+DolphinScheduler
实时采集工厂设备的信息,flink实时处理到doris库,DolphinScheduler定时汇总出结果表。原项目采用storm+mysql的方
式,进行了全新改造。
①改造原始框架、设计新框架
②环境搭建设计、部署
③数据处理逻辑优化,减少对redis的依赖
④DolphinScheduler部署使用,利用doris的性能,减少代码处理数据
⑤flink采用Scala编写、部署
⑥sql编写,用于后端查询数据,减少后端计算数据的压力
⑦手写数据迁移工具,从mysql到doris

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例 联系该工程师
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×