项目职务: 项目负责人
所在公司: 浙江集商网络科技有限公司
项目描述: 实时同步业务需要的mysql binlog数据到kafka,消费kafka数据实时写入kudu,并对kudu数据使用datav大屏通过impala sql查询并将结果数据写入mysql,对数据进行分钟级更新;在hive数仓建立rods实时层,使用impala sql供分析产品及etl人员实时分析数据
项目职责: 1.预研及确定数据方案架构
2.搭建mysql binlog同步工具canal实时同步
3.搭建kudu集群并优化及相应监控,开发kudu crud代码并对性能进行压力测试
4.开发数据计算及结果数据同步代码
涉及计算:hue、impala、kudu、springboot、canal、kafka、dataV