白纸片

大数据开发
中电信人工智能公司 · 4年经验
白纸片
日薪: ¥500/8h
地点: 西安 全区
时间: 下班后周六周日可工作日远程
ID:428006 复制

0
接单数
0
评价数
0
收藏数

AI 技能提取 | Java Kafka MySQL Spring MyBatis Redis Docker Linux Spring Boot MyBatis-Plus Hive Nginx Flink RESTful
具备Java后端开发、大数据处理、Linux服务器运维及中间件部署经验,能够独立完成需求分析、环境搭建、服务部署、接口开发、数据处理、问题排查和技术文档编写。

1.Java及后端开发
熟悉Java基础、集合、多线程、线程池、并发编程、异常处理、文件处理和网络编程;熟悉Spring Boot、Spring MVC、MyBatis、MyBatis-Plus等常用开发框架,能够完成RESTful接口、业务模块、定时任务、数据同步及后台管理类系统开发。了解事务传播、数据库连接池、日志体系和常见设计模式。

2.数据库与数据处理
熟悉MySQL数据库表设计、SQL编写、索引优化、慢SQL排查、数据导入导出及备份恢复;具备Hive、Doris、StarRocks等数据平台使用经验,能够处理分区表、数据查询、批量导入、Catalog配置及常见性能问题。熟悉JSON、XML、CSV、BCP等数据格式,能够编写程序或脚本完成数据清洗、转换、拆分、合并和压缩。

3.大数据与消息中间件
熟悉Kafka、Flink、Hive等组件,了解消息生产消费、消费者组、消息积压、分区机制、流式处理及离线数据处理。具备Kafka KRaft集群、认证配置、Topic管理和消费异常排查经验。能够使用Java或Scala开发数据采集、数据转换、文件生成和异步处理程序。

4.Linux与容器运维
熟悉Linux常用命令、Shell脚本、进程管理、端口检查、磁盘与内存排查、网络通信分析、系统服务管理及日志定位。熟悉Docker、Docker Compose、镜像制作、容器网络、数据卷、端口映射和容器故障排查,可完成Java、MySQL、Redis、Nacos、Kafka、MinIO、Nginx等服务的容器化部署。

5.中间件部署与排障
熟悉Redis、Nacos、Kafka、Nginx、MySQL、Doris等常用组件的安装、配置、启动、监控和问题排查。能够处理服务无法启动、端口不通、配置错误、连接超时、权限认证、容器网络、资源不足和版本兼容等问题。

6.项目交付能力
能够根据需求输出部署方案、操作手册、巡检文档、故障分析报告及实施步骤。支持远程协作,可承接Java功能开发、Linux服务器排障、Docker环境搭建、中间件部署、数据处理脚本、SQL开发及技术文档

项目一:企业级数据中台建设与实施

项目描述:
参与企业数据中台相关系统建设,覆盖多类型数据源接入、离线数据处理、实时数据处理、数据建模、数据治理、数据服务及平台运维等环节。

主要工作:
1.参与数据源接入、数据采集及数据同步任务开发,处理MySQL、Hive、Kafka等数据源。
2.根据业务需求完成ODS、DWD、DWS等数据分层设计及SQL开发。
3.使用Kafka、Flink等组件处理实时数据,排查消息积压、消费异常及任务运行问题。
4.负责Hive、Doris、StarRocks等数据组件的查询、导入、分区管理及性能问题排查。
5.参与平台私有化部署、环境配置、系统联调、问题定位和交付文档编写。

技术栈:
Java、Spring Boot、MySQL、Kafka、Flink、Hive、Doris、StarRocks、Linux、Docker。


项目二:Hive数据抽取及BCP、ZIP文件生成系统

项目描述:
开发数据批量抽取程序,从Hive多库多表中按照时间分区读取数据,将查询结果转换为指定格式的BCP文件,并按照配置自动生成ZIP压缩包。

主要工作:
1.设计多表、多时间分区的数据读取流程,按照小时滚动查询,每完成一个时间段后继续处理下一时间段。
2.通过配置文件管理数据库、表名、字段、分区字段、文件条数、压缩规则及输出路径。
3.采用多线程和阻塞队列实现数据查询、内容组装、BCP文件写入及ZIP压缩分阶段异步处理。
4.支持指定每个BCP文件的数据条数以及每个ZIP包包含的BCP文件数量。
5.完成Kerberos认证、Hive JDBC连接、异常处理、日志记录及单元测试。
6.优化大批量数据处理过程中的内存使用、线程调度和文件生成效率。

技术栈:
Java、Hive JDBC、Kerberos、多线程、线程池、BlockingQueue、Zip4j、Properties、Linux。


项目三:企业中间件及容器化部署

项目描述:
参与企业应用运行环境及基础中间件部署,完成多节点环境中的Docker、Kafka、Redis、Nacos、MySQL、MinIO、Nginx和Doris等组件安装配置。

主要工作:
1.编写Docker Compose及服务启动配置,完成中间件容器化部署。
2.部署Kafka KRaft集群,配置用户认证、Topic管理及生产消费验证。
3.部署Redis主从及Sentinel环境,配置访问密码并完成故障切换验证。
4.完成Nacos、MySQL、MinIO、Nginx等组件安装、配置和服务验证。
5.排查容器端口不通、服务无法启动、网络转发、磁盘空间、内存占用及配置文件错误等问题。
6.输出完整安装手册、启动停止命令、验证命令和常见故障处理方案。

技术栈:
Linux、Docker、Docker Compose、Kafka、Redis、Nacos、MySQL、MinIO、Nginx、Doris、Shell。


项目四:企业AI平台及模型服务支撑

项目描述:
参与企业AI平台相关项目实施,平台覆盖数据集管理、模型管理、模型训练、模型评测、推理服务、资源调度和应用接口调用等能力。

主要工作:
1.参与平台环境部署、功能验证、接口联调和运行问题排查。
2.支持模型、数据集及应用资源的统一管理。
3.参与模型推理服务部署,将模型发布为API服务并进行调用验证。
4.协助处理服务启动、资源配置、接口访问、容器运行及日志异常问题。
5.编写平台操作手册、部署文档、培训材料和问题处理记录。

技术栈:
Java、Python、REST API、Linux、Docker、模型推理服务、数据集管理、日志分析。
白纸片 ID:428006 复制

白纸片

大数据开发 · 4年经验 · 中电信人工智能公司
城市西安 全区 日薪500元/8h 时间 下班后周六周日可工作日远程
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

AI 技能提取 | Java Kafka MySQL Spring MyBatis Redis Docker Linux Spring Boot MyBatis-Plus Hive Nginx Flink RESTful
具备Java后端开发、大数据处理、Linux服务器运维及中间件部署经验,能够独立完成需求分析、环境搭建、服务部署、接口开发、数据处理、问题排查和技术文档编写。

1.Java及后端开发
熟悉Java基础、集合、多线程、线程池、并发编程、异常处理、文件处理和网络编程;熟悉Spring Boot、Spring MVC、MyBatis、MyBatis-Plus等常用开发框架,能够完成RESTful接口、业务模块、定时任务、数据同步及后台管理类系统开发。了解事务传播、数据库连接池、日志体系和常见设计模式。

2.数据库与数据处理
熟悉MySQL数据库表设计、SQL编写、索引优化、慢SQL排查、数据导入导出及备份恢复;具备Hive、Doris、StarRocks等数据平台使用经验,能够处理分区表、数据查询、批量导入、Catalog配置及常见性能问题。熟悉JSON、XML、CSV、BCP等数据格式,能够编写程序或脚本完成数据清洗、转换、拆分、合并和压缩。

3.大数据与消息中间件
熟悉Kafka、Flink、Hive等组件,了解消息生产消费、消费者组、消息积压、分区机制、流式处理及离线数据处理。具备Kafka KRaft集群、认证配置、Topic管理和消费异常排查经验。能够使用Java或Scala开发数据采集、数据转换、文件生成和异步处理程序。

4.Linux与容器运维
熟悉Linux常用命令、Shell脚本、进程管理、端口检查、磁盘与内存排查、网络通信分析、系统服务管理及日志定位。熟悉Docker、Docker Compose、镜像制作、容器网络、数据卷、端口映射和容器故障排查,可完成Java、MySQL、Redis、Nacos、Kafka、MinIO、Nginx等服务的容器化部署。

5.中间件部署与排障
熟悉Redis、Nacos、Kafka、Nginx、MySQL、Doris等常用组件的安装、配置、启动、监控和问题排查。能够处理服务无法启动、端口不通、配置错误、连接超时、权限认证、容器网络、资源不足和版本兼容等问题。

6.项目交付能力
能够根据需求输出部署方案、操作手册、巡检文档、故障分析报告及实施步骤。支持远程协作,可承接Java功能开发、Linux服务器排障、Docker环境搭建、中间件部署、数据处理脚本、SQL开发及技术文档

项目经验

项目一:企业级数据中台建设与实施

项目描述:
参与企业数据中台相关系统建设,覆盖多类型数据源接入、离线数据处理、实时数据处理、数据建模、数据治理、数据服务及平台运维等环节。

主要工作:
1.参与数据源接入、数据采集及数据同步任务开发,处理MySQL、Hive、Kafka等数据源。
2.根据业务需求完成ODS、DWD、DWS等数据分层设计及SQL开发。
3.使用Kafka、Flink等组件处理实时数据,排查消息积压、消费异常及任务运行问题。
4.负责Hive、Doris、StarRocks等数据组件的查询、导入、分区管理及性能问题排查。
5.参与平台私有化部署、环境配置、系统联调、问题定位和交付文档编写。

技术栈:
Java、Spring Boot、MySQL、Kafka、Flink、Hive、Doris、StarRocks、Linux、Docker。


项目二:Hive数据抽取及BCP、ZIP文件生成系统

项目描述:
开发数据批量抽取程序,从Hive多库多表中按照时间分区读取数据,将查询结果转换为指定格式的BCP文件,并按照配置自动生成ZIP压缩包。

主要工作:
1.设计多表、多时间分区的数据读取流程,按照小时滚动查询,每完成一个时间段后继续处理下一时间段。
2.通过配置文件管理数据库、表名、字段、分区字段、文件条数、压缩规则及输出路径。
3.采用多线程和阻塞队列实现数据查询、内容组装、BCP文件写入及ZIP压缩分阶段异步处理。
4.支持指定每个BCP文件的数据条数以及每个ZIP包包含的BCP文件数量。
5.完成Kerberos认证、Hive JDBC连接、异常处理、日志记录及单元测试。
6.优化大批量数据处理过程中的内存使用、线程调度和文件生成效率。

技术栈:
Java、Hive JDBC、Kerberos、多线程、线程池、BlockingQueue、Zip4j、Properties、Linux。


项目三:企业中间件及容器化部署

项目描述:
参与企业应用运行环境及基础中间件部署,完成多节点环境中的Docker、Kafka、Redis、Nacos、MySQL、MinIO、Nginx和Doris等组件安装配置。

主要工作:
1.编写Docker Compose及服务启动配置,完成中间件容器化部署。
2.部署Kafka KRaft集群,配置用户认证、Topic管理及生产消费验证。
3.部署Redis主从及Sentinel环境,配置访问密码并完成故障切换验证。
4.完成Nacos、MySQL、MinIO、Nginx等组件安装、配置和服务验证。
5.排查容器端口不通、服务无法启动、网络转发、磁盘空间、内存占用及配置文件错误等问题。
6.输出完整安装手册、启动停止命令、验证命令和常见故障处理方案。

技术栈:
Linux、Docker、Docker Compose、Kafka、Redis、Nacos、MySQL、MinIO、Nginx、Doris、Shell。


项目四:企业AI平台及模型服务支撑

项目描述:
参与企业AI平台相关项目实施,平台覆盖数据集管理、模型管理、模型训练、模型评测、推理服务、资源调度和应用接口调用等能力。

主要工作:
1.参与平台环境部署、功能验证、接口联调和运行问题排查。
2.支持模型、数据集及应用资源的统一管理。
3.参与模型推理服务部署,将模型发布为API服务并进行调用验证。
4.协助处理服务启动、资源配置、接口访问、容器运行及日志异常问题。
5.编写平台操作手册、部署文档、培训材料和问题处理记录。

技术栈:
Java、Python、REST API、Linux、Docker、模型推理服务、数据集管理、日志分析。
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • 支付宝企业信用分 优秀 评级
  • 市场份额约占全行业三分之一
  • 程序员兼职行业全能首选平台
查看平台资质详情
收藏