数据获取

企业服务 数据服务 案例ID:167311
Psycho
1 年经验· 币信
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

CS:GO 比赛选手数据获取
开发工具:Python3 所用模块或工具:re、math、datetime、Scrapy、Request、elasticsearch、Scrapyd、Xpath、Fiddler 项目目标: 1.对 CS:GO 每场比赛的最佳情况等数据录入 ES 中
2.对 CS:GO 每场比赛所有选手的数据录入 ES 中
具体内容: 1.搭建 Scrapy 框架,并设置 middleware.py、settings.py 等文件所需参数,编写入库 ES 的管道文件
2.分析网页源代码,判断真实源代码,并用 Xpath 提取所需的数据 3.编写 Spider.py,设置 headers 和 cookies 4.录入数据并生成日志文件
5.用 Scrapyd 对爬虫进行监控
项目结果:成功将 100 万+的数据录入 ES
项目收获:使用 Python 对 ES 进行入库操作,学习 Scrapyd 的使用,使用 ES head 对 ES 进行数据操作处理

数据获取

企业服务 · 数据服务 案例ID:167311
联系该工程师
微信扫码,建群沟通
作者: Psycho - 1年经验- 币信

案例介绍

CS:GO 比赛选手数据获取
开发工具:Python3 所用模块或工具:re、math、datetime、Scrapy、Request、elasticsearch、Scrapyd、Xpath、Fiddler 项目目标: 1.对 CS:GO 每场比赛的最佳情况等数据录入 ES 中
2.对 CS:GO 每场比赛所有选手的数据录入 ES 中
具体内容: 1.搭建 Scrapy 框架,并设置 middleware.py、settings.py 等文件所需参数,编写入库 ES 的管道文件
2.分析网页源代码,判断真实源代码,并用 Xpath 提取所需的数据 3.编写 Spider.py,设置 headers 和 cookies 4.录入数据并生成日志文件
5.用 Scrapyd 对爬虫进行监控
项目结果:成功将 100 万+的数据录入 ES
项目收获:使用 Python 对 ES 进行入库操作,学习 Scrapyd 的使用,使用 ES head 对 ES 进行数据操作处理

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×