京东商品爬虫

电子商务 B2C 案例ID:133179
青花瓷
1 年经验· 北京亚鼎智能科技有限公司
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

项目名称:京东商品爬虫

项目描述:抓取指定商品的名称,价格,促销,评论等基本信息
项目过程:
1)根据需求确定数据模型,构造请求地址;
2)解析列表页,提取商品ID, 利用fiddler手机抓包抓取json数据;
3)构造商品详情页请求,实现翻页功能,jsonpath提取促销,评论信息;
4)数据保存到Mongodb中,构建User-Agent池,IP池防止反爬;


项目名称:链家网爬虫
项目描述:链家网二手房成交房源信息抓取
项目过程:
1)分析网站结构,利用xpath解析,构建各级区域链接;
2) 解析页面,获取房源信息,实现翻页功能;
3)使用 scrapy-redis 构建分布式爬虫,构建IP池,UserAgent池;
4)编写 spider,调试爬虫程序及处理 bug,保存数据到Mongodb;

京东商品爬虫

电子商务 · B2C 案例ID:133179
联系该工程师
微信扫码,建群沟通
作者: 青花瓷 - 1年经验- 北京亚鼎智能科技有限公司

案例介绍

项目名称:京东商品爬虫

项目描述:抓取指定商品的名称,价格,促销,评论等基本信息
项目过程:
1)根据需求确定数据模型,构造请求地址;
2)解析列表页,提取商品ID, 利用fiddler手机抓包抓取json数据;
3)构造商品详情页请求,实现翻页功能,jsonpath提取促销,评论信息;
4)数据保存到Mongodb中,构建User-Agent池,IP池防止反爬;


项目名称:链家网爬虫
项目描述:链家网二手房成交房源信息抓取
项目过程:
1)分析网站结构,利用xpath解析,构建各级区域链接;
2) 解析页面,获取房源信息,实现翻页功能;
3)使用 scrapy-redis 构建分布式爬虫,构建IP池,UserAgent池;
4)编写 spider,调试爬虫程序及处理 bug,保存数据到Mongodb;

相似案例推荐

  • 来康郡

    来康郡

    该项目是一个社区电商项目,项目采用分布式架构。主要由运营管理

  • dasdasda

    dasdasda

    dsadasdsadasdsadasdsadasdsadas

  • 国珍云店

    国珍云店

    一个配套国珍优选的商家版的app,有各种统计的数据,通过会员

  • 国珍优选

    国珍优选

    一个商城的app,基本模仿京东,云集微店,首页、购物车、分类

  • 酷吧全球购

    酷吧全球购

    酷吧全球购,是一家从事跨境电商的企业,销售跨境商品,此项目首

  • 小程序点金树商城

    小程序点金树商城

    点金树商城是以珠宝为主体的异业联盟平台。平台可进行珠宝买卖,

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×