给一家做电商比价的公司做的内部数据采集平台。他们之前用爬虫脚本散落在各台服务器上,没人管得了哪些在跑、哪些挂了、采集回来的数据质量怎么样。我接手后用 Next.js + FastAPI 搭了这套统一管理后台。
主要功能:采集任务的可视化编排和监控、多引擎支持(Playwright/Selenium/Scrapy)、结果数据的在线预览和筛选导出、执行日志的实时回溯。后端用 SQLite 做轻量持久化,部署在他们内网一台 4C8G 的机器上就够了。
实际跑了三个月左右,日均采集量稳定在 1200-1500 条,成功率从原来 70% 左右拉到了 90%+(主要靠加了自动重试和代理池切换)。客户后来又让我加了定时任务调度和异常告警推送,目前还在维护中。
1. 用户端核心功能 全品类浏览与搜索:支持关键词搜索、商
微信小程序开发, 可以定制商品展示,轮播推荐 可以配合后
本系统是一套电商平台价格监控与维权管控工具,通过自动采集商品
本系统是一款亚马逊商品品牌检测与竞品采集工具,通过输入商品关
本系统是一款美团看病买药模块商品采集工具,支持按关键词自动搜
本系统是一款抖店多店铺管理辅助工具,支持批量管理多家店铺,包
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者