爬虫

教育 职业技能 案例ID:123657
love of the world
2 年经验· 上海傲梦
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

爬虫相关使用

使用requests爬取相关页面,lxml解析页面,使用xpath或者re来匹配内容
使用selenium爬取相关动态页面,通过id/name/xpath定位元素,send_keys,click,get_attribute,转换窗口等等。
同时也会基本使用pandas进行数据分析,pygal进行可视化展现,pillow进行基本图像处理
爬虫遇到问题

User-Agent/ip等问题,可以通过伪造User-Agent,构建ip池
爬取Google的扩展程序时候,相关信息在response的主体并没有爬到相关东西,最后在head中找到并批量爬取信息
使用requests爬取某些页面,出现SSLError,当时临时解决方案是使用verify=False来忽略SSL验证,后来根据安装requests的security extras可以解决,不过在v2ex里面看到也有使用证书的。

爬虫

教育 · 职业技能 案例ID:123657
联系该工程师
微信扫码,建群沟通
作者: love of the world - 2年经验- 上海傲梦

案例介绍

爬虫相关使用

使用requests爬取相关页面,lxml解析页面,使用xpath或者re来匹配内容
使用selenium爬取相关动态页面,通过id/name/xpath定位元素,send_keys,click,get_attribute,转换窗口等等。
同时也会基本使用pandas进行数据分析,pygal进行可视化展现,pillow进行基本图像处理
爬虫遇到问题

User-Agent/ip等问题,可以通过伪造User-Agent,构建ip池
爬取Google的扩展程序时候,相关信息在response的主体并没有爬到相关东西,最后在head中找到并批量爬取信息
使用requests爬取某些页面,出现SSLError,当时临时解决方案是使用verify=False来忽略SSL验证,后来根据安装requests的security extras可以解决,不过在v2ex里面看到也有使用证书的。

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×