元数据服务对数据库结构和数据量进行分类汇总,监听数据库实时变动,发送统计数据给下游统计服务。统计服务将业务系统的统计任务抽离,并实现实时统计,配置统计任务监听,接收上游元数据平台的原始数据,根据任务规则,触发统计任务。
主要职责:
1. 参与前期技术方案设计,需求评审和主要功能实现
2. 通过kafka接收元数据平台的原始数据推送
3. 根据规则触发任务,支持表字段级别和不同的数据写入动作的配置,支持精确和模糊匹配
4. 根据需求定制不同的统计任务,通过策略模式实现匹配
5. 使用canal监听binlog,并通过canal原生发送到kafka
6. 注册数据库实例到管理平台,进行初始化,通过kafka接收binlog日志进行增量更新
7. 对ddl语句解析维护数据库结构信息,支持对元数据添加标签;. 对dml语句进行实时统计,将结构和统计信息写入es,并根据配置发送消息到统计平台。
项目使用spring boot,使用mysql和elasticsearch作为存储,canal监听binlog,redis作为缓存,kafka消息队列
这个一个企业的门户网站,展示了企业的业务,产品,企业文化,提
项目概述 独立设计并开发的汽车4S店/维修厂售后服
# 车载自动化测试框架功能介绍 ## 一、项目模块组成
该平台为 ToB 企业提供多维度客户数据分析能力,整合销售线
作品介绍:智慧造林 🌳 项目概述 “智慧造林” 是一款面
负责整体需求分析及原型设计,系统数据库表设计及相关模块后台研
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者