ID:233843

jack

数据工程师

  • 公司信息:
  • 中化
  • 工作经验:
  • 3年
  • 兼职日薪:
  • 500元/8小时
  • 兼职时间:
  • 下班后
  • 周六
  • 周日
  • 可工作日远程
  • 可工作日驻场(自由职业原因)
  • 所在区域:
  • 成都
  • 武侯

技术能力

使用java为后端的开发语言,使用springboot+mybatis框架,对于前端的数据采集使用表单加上JSON格式,传输采用ajax,前端框架采用Vue,一来保持的数据的实时更新,加快前端数据交互速度,前端采用HTML5和CSS以及一些js进行页面的设计与制作,采用div布局,后端采取Orcal或MySQL,本身对NoSQl也有些了解,

项目经验

项目明:稻谷数据采集平台
架构设计:
数据采集层:负责从各种数据源采集数据。
数据存储层:负责将数据存储在高效的数据库中。
数据处理层:负责数据清洗、转换和分析。
可视化层:将分析结果以图表、仪表盘等形式展示。
技术选型:
数据采集
数据采集层可以使用Spring Boot结合各种数据源(如数据库、API、文件等)进行数据采集。

package cn.juwatech.data;

import org.springframework.web.client.RestTemplate;
import org.springframework.stereotype.Service;

@Service
public class DataCollectionService {


private final RestTemplate restTemplate;

public DataCollectionService(RestTemplate restTemplate) {

this.restTemplate = restTemplate;
}

public String fetchDataFromApi(String apiUrl) {

return restTemplate.getForObject(apiUrl, String.class);
}
}
数据存储
数据存储层可以选择高效的数据库系统,如MySQL、PostgreSQL、或NoSQL数据库如MongoDB来存储大规模数据。

package cn.juwatech.repository;

import org.springframework.data.mongodb.repository.MongoRepository;
import org.springframework.stereotype.Repository;

@Repository
public interface DataRepository extends MongoRepository<DataEntity, String> {

}
数据处理
数据处理层使用Apache Spark进行大规模数据处理和分析。Spark提供了强大的数据处理能力,能够轻松处理TB级别的数据。

package cn.juwatech.processing;

import org.apache.spark.sql.Dataset;
import org.apache.spark.sql.SparkSession;
import org.springframework.stereotype.Service;

@Service
public class DataProcessingService {


private final SparkSession sparkSession;

public DataProcessingService(SparkSession sparkSession) {

this.sparkSession = sparkSession;
}

public Dataset<?> processData(String dataPath) {

Dataset<?> data = sparkSession.read().json(dataPath);
// 数据处理逻辑
return data;
}
}
2.4 数据可视化
数据可视化层可以使用前端技术如D3.js、ECharts,结合后端Spring Boot提供的数据接口,实现动态数据可视化。

package cn.juwatech.controller;

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

@RestController
@RequestMapping("/api/visua

案例展示

  • 学生宿舍管理系统

    学生宿舍管理系统

    学生宿舍管理系统负责对学生在宿舍的情况做了一个整体而又动态的反应。 1.其功能分为6大板块 宿舍管理员管理,学生管理,宿舍楼管理,宿舍管理,考勤管理,密码修改 2.角色介绍: 超级管理员 超级管理员是权限最大的角色,拥有系统所有的权限。 宿舍管理员 权限:学生管理、

  • 学生管理系统

    学生管理系统

    学生管理系统反映了学生成绩和档案的相关信息,是对学生的各个方面做了一个完整的规划与管理 其功能分别为:学生管理,成绩管理,教师管理,课程管理,账号管理 学生管理为学生的基本信息 成绩管理为学生的各科学生成绩的信息 教师管理为各个教师的信息 课程管理为学生各个学科的信息

查看案例列表(含更多 0 个案例)

信用行为

  • 接单
    0
  • 评价
    0
  • 收藏
    0
微信扫码,建群沟通

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服