企业级大数据平台中心—

新闻媒体 综合门户 案例ID:240432
Yu.
5 年经验· 北京东方国信科技股份有限公司
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

1. 日志解析及清洗过滤入 Hive 数据仓库,包括数据的过滤,抽取,转换,加载等过程。
2. 维度建模,将公司原不合理计算方式重新进行数仓维度建模处理,建立符合业务需求的星型模型,大大提高了计算速度,
减少不必要重复计算,使整个数仓逻辑更加清晰,响应更加及时。深度参与整个数仓改造调整,包括维度退化,缓慢变化
维度处理等
3. 主题建模,将上层数据按照不同的主题分别进行汇总处理,如按用户维度,广告维度等
4. 负责产品总体数据以及特定需求产出对应报表,包括但不限于用户留存指标、用户行为分析,点击流,新用户流程分析,
启动行为,广告曝光点击 pv、uv,激励视频浏览完成度,用户连续登录统计,用户生命周期内所有行为等等其他复杂业
务需求。
5. 大数据集群性能优化,包括对执行速度缓慢或无法成功计算的脚本进行调优(曾将需 3 小时执行的脚本优化到 30 分钟),
处理数据倾斜问题,将小文件合并提高性能,编写自定义 UDF,UDTF,UDAF 来减少 sql 代码,提高计算速度。
6. 元数据管理及数据质量管理,包括对整个计算过程中数据是否缺失,脏数据来源追溯,以及对元数据更改情况进行记录,
保证数据完整性、可用性、可信性等要求。
7. 设计 Mysql 表结构,优化表格加载缓慢问题,解决在大量数据情况下在可接受时间内返回处理结果
8. 调度任务血缘关系管理,对每日上千个定时任务以及互相依赖问题进行梳理,保证任务流畅执行,恢复任务方便等要求。
9. 对数据资产进行权限管控,保证关键数据不外泄,同时保证用户权限灵活添加,用户权限查询方便。
10. 编写工具脚本,方便团队其他成员使用,对日常工作有帮助的新特性探索等

企业级大数据平台中心—

新闻媒体 · 综合门户 案例ID:240432
联系该工程师
微信扫码,建群沟通
作者: Yu. - 5年经验- 北京东方国信科技股份有限公司

案例介绍

1. 日志解析及清洗过滤入 Hive 数据仓库,包括数据的过滤,抽取,转换,加载等过程。
2. 维度建模,将公司原不合理计算方式重新进行数仓维度建模处理,建立符合业务需求的星型模型,大大提高了计算速度,
减少不必要重复计算,使整个数仓逻辑更加清晰,响应更加及时。深度参与整个数仓改造调整,包括维度退化,缓慢变化
维度处理等
3. 主题建模,将上层数据按照不同的主题分别进行汇总处理,如按用户维度,广告维度等
4. 负责产品总体数据以及特定需求产出对应报表,包括但不限于用户留存指标、用户行为分析,点击流,新用户流程分析,
启动行为,广告曝光点击 pv、uv,激励视频浏览完成度,用户连续登录统计,用户生命周期内所有行为等等其他复杂业
务需求。
5. 大数据集群性能优化,包括对执行速度缓慢或无法成功计算的脚本进行调优(曾将需 3 小时执行的脚本优化到 30 分钟),
处理数据倾斜问题,将小文件合并提高性能,编写自定义 UDF,UDTF,UDAF 来减少 sql 代码,提高计算速度。
6. 元数据管理及数据质量管理,包括对整个计算过程中数据是否缺失,脏数据来源追溯,以及对元数据更改情况进行记录,
保证数据完整性、可用性、可信性等要求。
7. 设计 Mysql 表结构,优化表格加载缓慢问题,解决在大量数据情况下在可接受时间内返回处理结果
8. 调度任务血缘关系管理,对每日上千个定时任务以及互相依赖问题进行梳理,保证任务流畅执行,恢复任务方便等要求。
9. 对数据资产进行权限管控,保证关键数据不外泄,同时保证用户权限灵活添加,用户权限查询方便。
10. 编写工具脚本,方便团队其他成员使用,对日常工作有帮助的新特性探索等

相似案例推荐

  • 社区星球

    社区星球

    实现用户登陆,题目的增删改查 题目的分类,链接数据库,red

  • 网页设计参考

    网页设计参考

    网页设计参考 是一个面向前端开发、UI 设计和 AI 辅助生

  • 创艺生

    创艺生

    独立开发某区政务活动综合服务小程序,面向政务部门打造一体化线

  • 人社官网及经办系统 数据大屏等

    人社官网及经办系统 数据大屏等

    1. 后台管理系统 作品详细功能:系统登录鉴权、动态路由权

  • 莆田新闻

    莆田新闻

    一款地方性新闻小程序,可以及时关注当地新闻,有看报,看直播,

  • 晓隆科技官网

    晓隆科技官网

    项目名称:公司门户网站 开发周期:2024/3-2024/5

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×