项目名称:某电商平台数仓项目
相关技术:Kafka+Flume+HDFS+Hive+Sqoop+Azkaban+Mysql+Echart+Druid
项目描述:通过采集用户行为数据(埋点用户操作日志)以及平台业务数据(myslq中业务数据),分层搭建数仓,对数据进行清洗、分组、合并、统计等ETL操作,最终数据服务于企业报表系统、用户画像系统、推荐系统
业务流程:
1.数据采集平台搭建,file-flume-kafka kafka-hdfs
2.实现用户行为数仓分层搭建(基于ODS、DWD、DWS、ADS四层分层架构),统计用户日活、新增、留存、回流、沉默、流失、连续n周活跃、最近7天连续3天活跃等主题数据
3.实现业务数据数仓分层搭建(基于ODS、DWD、DWS、ADS四层分层架构),建立用户行为宽表,用户购买商品明细宽表,统计GMV、转化率、用户行为漏斗分析、品牌复购率等指标,制作订单拉链表
4.Sqoop导出指标到mysql中