林尛

爬虫工程师
北京氢元数据信息技术有限公司 · 1年经验
林尛
日薪: ¥500/8h
地点: 北京 丰台
时间: 下班后周六周日
ID:282722 复制

0
接单数
0
评价数
1
收藏数

AI 技能提取 | Python MySQL Selenium
1.熟练应用Python的库及模块,有良好的编程习惯
2.熟练掌握 MySQL主流关系型数据库开发技术
3.熟练使用re/xpath/lxml解析模块;
4.熟练requests爬虫模块;
5.熟练使用charles抓包工具;
6.熟悉scrapy爬虫框架,熟悉selenium自动化工具;
7.熟悉解决反爬代理ip,验证码处理;
8.熟悉js逆向
9.了解app逆向

北大法宝
项目描述:
爬取全国法院1991-2013年的案例
1、爬取所有法院,cookie会过期,需要模拟获取cookie
2、爬取所有法院案例的列表页信息和详情页链接,数据量交大,用的多线程爬取,存到mongo里
3、爬取所有案例的详情页信息,请求比较慢,用的多线程和分布式,将请求放到redis中,并对爬取的数据进行解析、拆分、清洗,存到Mongo里
个人职责:
编写采集程序,解决反爬,数据清洗,分表存储,维护代理ip
林尛 ID:282722 复制

林尛

爬虫工程师 · 1年经验 · 北京氢元数据信息技术有限公司
城市北京 丰台 日薪500元/8h 时间 下班后周六周日
0
累计接单
0
用户评价
1
被收藏

信用行为

0
接单数
0
评价数
1
收藏数

技术能力

AI 技能提取 | Python MySQL Selenium
1.熟练应用Python的库及模块,有良好的编程习惯
2.熟练掌握 MySQL主流关系型数据库开发技术
3.熟练使用re/xpath/lxml解析模块;
4.熟练requests爬虫模块;
5.熟练使用charles抓包工具;
6.熟悉scrapy爬虫框架,熟悉selenium自动化工具;
7.熟悉解决反爬代理ip,验证码处理;
8.熟悉js逆向
9.了解app逆向

项目经验

北大法宝
项目描述:
爬取全国法院1991-2013年的案例
1、爬取所有法院,cookie会过期,需要模拟获取cookie
2、爬取所有法院案例的列表页信息和详情页链接,数据量交大,用的多线程爬取,存到mongo里
3、爬取所有案例的详情页信息,请求比较慢,用的多线程和分布式,将请求放到redis中,并对爬取的数据进行解析、拆分、清洗,存到Mongo里
个人职责:
编写采集程序,解决反爬,数据清洗,分表存储,维护代理ip
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • 支付宝企业信用分 优秀 评级
  • 市场份额约占全行业三分之一
  • 程序员兼职行业全能首选平台
查看平台资质详情
收藏