A孟辉A

大数据开发工程师
友友天宇 · 5年经验
A孟辉A
日薪: ¥500/8h
地点: 北京 全区
时间: 周六周日可工作日远程可工作日驻场(自由职业原因)
ID:129981 复制

0
接单数
0
评价数
0
收藏数

AI 技能提取 | Java Python Hadoop HBase Hive
大数据系统架构;
Cloudera Hadoop 平台管理调优;
mapreduce编程,离线数据清洗,过滤的处理;
sparkSQL,HBase,Hive等组件;
擅长的语言java,scala,python
利用scrapy爬取互联网数据

光大银行准实时KPI数据处理平台:
简介:针对业务关注的,时效性要求超越T+1的报表需求,如关键时点的核心存款、流动性报表等,实现报表数据的准实时计算

IDE:idea
应用语言:Java
测试环境:Cloudera Hadoop

应用技术:SparkStreaming+HDFS+kafka+flume+Hbase+hive+zookeeper
数据的处理流程:需要把业务数据抽取成文件,通过Flume把数据文件传给Kafka进行处理,然后被SparkStreaming的消费端消费,经过处理后保存入Hbase中
A孟辉A ID:129981 复制

A孟辉A

大数据开发工程师 · 5年经验 · 友友天宇
城市北京 全区 日薪500元/8h 时间 周六周日可工作日远程可工作日驻场(自由职业原因)
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

AI 技能提取 | Java Python Hadoop HBase Hive
大数据系统架构;
Cloudera Hadoop 平台管理调优;
mapreduce编程,离线数据清洗,过滤的处理;
sparkSQL,HBase,Hive等组件;
擅长的语言java,scala,python
利用scrapy爬取互联网数据

项目经验

光大银行准实时KPI数据处理平台:
简介:针对业务关注的,时效性要求超越T+1的报表需求,如关键时点的核心存款、流动性报表等,实现报表数据的准实时计算

IDE:idea
应用语言:Java
测试环境:Cloudera Hadoop

应用技术:SparkStreaming+HDFS+kafka+flume+Hbase+hive+zookeeper
数据的处理流程:需要把业务数据抽取成文件,通过Flume把数据文件传给Kafka进行处理,然后被SparkStreaming的消费端消费,经过处理后保存入Hbase中
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • 支付宝企业信用分 优秀 评级
  • 市场份额约占全行业三分之一
  • 程序员兼职行业全能首选平台
查看平台资质详情
收藏