爬取就业市场咨询数据

人工智能 其他 案例ID:249347
胡奎
10 年经验· 北京燧原科技有限公司
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

项目描述
该项目是指运用科学的方法和手段,根据用就业市场调查所提供的数据和资料和对各种就业网站爬取的数据,来对机器学习模型进行训练,使该模型具有预测分类的功能,然后用该模型来对用户就业提供咨询。
个人职责:
1、采用Scrapy 框架、Scrapy-redis、Requests、Aiohttp、Selenium 等库,采集各地区婚恋网站,将数据存在hdfs 集群中。
2、搭建Hadoop 集群环境搭建,用hdfs 系统存储海量数据的用户信息。
3、运用matplotlib 可视化工具,对数据进行探索分析、查看特征关系。
4、通过pandas 等工具对采集数据进行清洗。
5、基于对处理好的数据样本进行样本选择、特征工程,模型选择与评估,并对该系统进行测试、调参。
6、运用该模型和公司里的数据资源给用户提供咨询。

爬取就业市场咨询数据

人工智能 · 其他 案例ID:249347
联系该工程师
微信扫码,建群沟通
作者: 胡奎 - 10年经验- 北京燧原科技有限公司

案例介绍

项目描述
该项目是指运用科学的方法和手段,根据用就业市场调查所提供的数据和资料和对各种就业网站爬取的数据,来对机器学习模型进行训练,使该模型具有预测分类的功能,然后用该模型来对用户就业提供咨询。
个人职责:
1、采用Scrapy 框架、Scrapy-redis、Requests、Aiohttp、Selenium 等库,采集各地区婚恋网站,将数据存在hdfs 集群中。
2、搭建Hadoop 集群环境搭建,用hdfs 系统存储海量数据的用户信息。
3、运用matplotlib 可视化工具,对数据进行探索分析、查看特征关系。
4、通过pandas 等工具对采集数据进行清洗。
5、基于对处理好的数据样本进行样本选择、特征工程,模型选择与评估,并对该系统进行测试、调参。
6、运用该模型和公司里的数据资源给用户提供咨询。

相似案例推荐

  • 浮签

    浮签

    1.立项背景和目标 碎片化的灵感、待办、情绪往往转瞬即逝—

  • 知识库问答

    知识库问答

    1. **企业知识库问答**:内部制度、技术手册、运维文档,

  • 智能问数

    智能问数

    以“低门槛、高效率、高安全”为核心,降低数据使用门槛,提升数

  • 启明星AI

    启明星AI

    本次作品为本人做全栈操作 这是一款AI直播TTS软件,音色

  • 轻翼AI

    轻翼AI

    支持头条号、公众号、网易、搜狐等平台链接 情感博主等 多

  • MyAgent多智能体

    MyAgent多智能体

    a) 问数系统: 将自然语言智能转换为精准SQL,让每位业务

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×