国研乡村振兴系统

新闻媒体 其他 案例ID:191910
Mr.Ding
5 年经验· 知名公司
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

本项目对全国的乡村振兴数据进行收录、计算而后产出可视化页面。
其中数据的收录途径有三个:
1.文件上传
2.api获取
3.爬虫获取。
其中我负责的爬虫获取这块。使用jsoup + htmlunit来完成爬虫工作。
为确保爬虫任务不会受到系统重启这类因素影响,所以使用redis中的set集合设计了一个简单的爬虫任务调度器。

遇到过得问题:通过hanlp和hash方法解决了数据录入之后存在区划数据缺漏问题。

责任描述:
负责接口文档编写;线上环境维护;编写爬虫进行数据采集、补全;试点示范乡村画像的后端开发工作;数据库设计;

国研乡村振兴系统

新闻媒体 · 其他 案例ID:191910
联系该工程师
微信扫码,建群沟通
作者: Mr.Ding - 5年经验- 知名公司

案例介绍

本项目对全国的乡村振兴数据进行收录、计算而后产出可视化页面。
其中数据的收录途径有三个:
1.文件上传
2.api获取
3.爬虫获取。
其中我负责的爬虫获取这块。使用jsoup + htmlunit来完成爬虫工作。
为确保爬虫任务不会受到系统重启这类因素影响,所以使用redis中的set集合设计了一个简单的爬虫任务调度器。

遇到过得问题:通过hanlp和hash方法解决了数据录入之后存在区划数据缺漏问题。

责任描述:
负责接口文档编写;线上环境维护;编写爬虫进行数据采集、补全;试点示范乡村画像的后端开发工作;数据库设计;

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×