拱墅经济管理平台:
1、IRS云上数据,excel,接口数据,爬虫数据等数据源的数据对接工作,主要是与第三方公司以及客户对接数据,并将获取到的数据通过ETL工具同步到MySQL
2、对各类数据按照业务逻辑进行开发,可复用数据的抽取成表
3、异源数据通过DataX同步MySQL数据库后,按照数据更新情况增量或全量通过数据集成抽取到dataworks建立ods层。
4、数据格式统一化标准建立,清洗完成落到dwd层。
5、按照业务需求通过dataworks平台各类数据完成HiveSQL开发,轻高度的sql开发完成DWS层的数据汇总,各类数据关联维度形成宽表。
6、根据大屏指标的业务需求完成指标计算的SQL开发落地ADS层。
7、各项调度任务运维工作
8、项目开发过程安排初级工程师的任务分配、对初级工程师完成的SQL调优以及不足技能点的带教工作。
微信机器人开发:
开发自动回复微信机器人并多地部署