作品名称:今日头条新闻爬虫
行业:新闻媒体
作品描述:
• 项目实现近上百万条新闻资讯入库存储。
• 实现增量爬取,对新增的新闻资讯或者新增板块进行及时抓取。
• 实现数据去重,对已经在库中的抓取过的新闻不再进行重复抓取。
• 使用百度云进行数据最终存储。
作品名称:多平台图片爬虫
行业:医疗健康
作品描述:
• 该项目为实现一图一物、一图多物识别的AI项目提供数据集。
• 图片来源有多方,包括百度图片、堆糖网等。
• 图片抓取入库近上十万张图片。
• 针对食物可能出现的场景进行图片抓取后,要实现图片顺序编号入库。
• 要求能够实现关键字抓取,比如:餐桌、餐布、厨房等。
作品名称:南方Plus移动手机app爬虫
行业:生活服务
作品描述:
• 项目对南方Plus app的首页频道、国际频道、体育频道等相关频道下的新闻资讯进行抓取。
• 项目已抓取了近90万条新闻资讯入库。
• 该项目采用广度优先方法,先抓取全部新闻频道下的url(网址),再对每个频道下具体的新闻进行采集。
• 爬虫维护,实现无论pc端或是手机端都能实时监控爬虫进度。
• 以上图片展示为数据抓取清洗过程。