基本信息

案例ID:165702

技术顾问:Tommy - 4年经验 - 无

联系沟通

微信扫码,建群沟通

项目名称:大数据项目

所属行业:电子商务 - B2C

->查看更多案例

案例介绍

跨境电商数仓项目
软件架构:
离线:MySql -> Spark-SQL(平台封装工具)-> Hive -> Spark-sql(WaterDrop) -> clickhouse

实时:MySql(binlog) -> canal -> Kafka -> Flink -> (kafka,HDFS) -> clickhouse
数据流向:
使用平台封装的 Spark-SQL 对mysql数据抽取写入Hive表中,对数据进行 脱敏,降噪,去异常,数据建模,数据聚合等操作,通过封装的WaterDrop 把数据导入到Clickhouse。部分明细数据推送click house提供即席查询
项目描述:
公司需要规划统一的数据管理/分析 平台,以及核心指标的实时监控。实时部分通过canal集群以及Flume日志采集工具采集实时生产的数据,对数据进行处理,落到ClickHouse,进行核心指标的分析和提取。
离线部分整合各个站点(可以理解为国家)的数据,进行统一建模,形成一致性维度。对数据进行拉宽,从DWS层推到ClickHouse,进行数据多维分析。

相似案例推荐

其他人才的相似案例推荐

  • 商城系统

    商城系统

    身为该项目的PHP工程师,我负责写后台,接口,对接地图等,采

  • 杰中杰礼品网

    杰中杰礼品网

    企业礼品个性化定制网站,可为客户提供礼品策划、设计、制作、配

  • 项目案例集合

    项目案例集合

    关于iTalkBB iTalkBB是为海外华人提供国际

  • 项目案例集合

    项目案例集合

    www.youzigift.com www.325999.

  • 案例作品2

    案例作品2

    一家专业的电商平台,为用户提供丰富的商品、便捷的购物方式和完

  • 案例作品

    案例作品

    一家专业的电商平台,为用户提供丰富的商品、便捷的购物方式和完

  • 恩琪商城

    恩琪商城

    商城整体开发,APP 利用Thinkphp框架完成对系统后

  • 长城移动公众号

    长城移动公众号

    长城移动微信公众号,用来进行长城移动电话号码的售卖,并且可以

  • 生活小鑫

    生活小鑫

    负责:小程序端独立开发 功能:商城包含的基本功能,购买,下

  • 大数据可视化项目

    大数据可视化项目

    项目名称: 大数据可视化项目 技 术 栈: React +

  • 微信订水小程序

    微信订水小程序

    服务端使用springboot、mybatis、redis、

  • 太多了

    太多了

    全栈全栈全栈全栈全栈全栈全栈全栈全栈全栈全栈全栈全栈全栈全栈

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系聘用方端客服
联系聘用方端客服