Haf

C++工程师
华秋带脑子 · 3年经验
Haf
日薪: ¥500/8h
地点: 上海 浦东
时间: 可工作日远程
ID:403537 复制

0
接单数
0
评价数
0
收藏数

AI 技能提取 | Python Redis Flask FastAPI 微服务 Kafka MySQL PostgreSQL Docker Nginx CI/CD Selenium Linux
语言:精通 C++17/20、Python ;
后端:FastAPI(异步 ASGI、OpenAPI、Pydantic)、Flask(微服务);
桌面端:wxWidgets、 wxPython、PyQt5;
爬虫与解析:Scrapy、aiohttp、Playwright、Selenium;
数据存储:MySQL、PostgreSQL、Redis(缓存+队列);
消息队列:Kafka、Redis Stream;
容器与云:Docker、Nginx、CI/CD(GitHub Actions)、阿里云 / 腾讯云;
其他:Linux 调优、网络协议、多线程 / 协程、算法与数据结构;

scrapy系统开发
面向人群与痛点
• 目标用户:设计师、电商运营、AI 训练工程师、壁纸/素材站站长。
• 核心痛点:手动批量下载图片费时费力;现有工具只能单站抓取,缺少分布式去重、实时预览与可视化报表。
差异化亮点(相比常规爬虫/下载器)
双引擎:Scrapy + Redis 去重队列,支持横向扩容,1天可抓百万级图片。
Chrome-headless 中间件:自动滚屏、懒加载、登录 Cookie 注入,突破反爬。
实时仪表盘:ECharts 展示“站点-分类-尺寸-下载量”多维统计,任务进度秒级刷新。
云端断点续爬:任务状态写 MySQL + Redis,异常重启后自动续传。

产品组成与技术选型
• 采集层:Scrapy + Scrapy-Redis + Chrome Headless。
• 存储层:MySQL(元数据)+ Redis(去重)。
• 展示层:FastAPI + ECharts + Bootstrap,内网/公网均可访问。
• 部署:Docker-Compose 一键启动。
Haf ID:403537 复制

Haf

C++工程师 · 3年经验 · 华秋带脑子
城市上海 浦东 日薪500元/8h 时间 可工作日远程
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

AI 技能提取 | Python Redis Flask FastAPI 微服务 Kafka MySQL PostgreSQL Docker Nginx CI/CD Selenium Linux
语言:精通 C++17/20、Python ;
后端:FastAPI(异步 ASGI、OpenAPI、Pydantic)、Flask(微服务);
桌面端:wxWidgets、 wxPython、PyQt5;
爬虫与解析:Scrapy、aiohttp、Playwright、Selenium;
数据存储:MySQL、PostgreSQL、Redis(缓存+队列);
消息队列:Kafka、Redis Stream;
容器与云:Docker、Nginx、CI/CD(GitHub Actions)、阿里云 / 腾讯云;
其他:Linux 调优、网络协议、多线程 / 协程、算法与数据结构;

项目经验

scrapy系统开发
面向人群与痛点
• 目标用户:设计师、电商运营、AI 训练工程师、壁纸/素材站站长。
• 核心痛点:手动批量下载图片费时费力;现有工具只能单站抓取,缺少分布式去重、实时预览与可视化报表。
差异化亮点(相比常规爬虫/下载器)
双引擎:Scrapy + Redis 去重队列,支持横向扩容,1天可抓百万级图片。
Chrome-headless 中间件:自动滚屏、懒加载、登录 Cookie 注入,突破反爬。
实时仪表盘:ECharts 展示“站点-分类-尺寸-下载量”多维统计,任务进度秒级刷新。
云端断点续爬:任务状态写 MySQL + Redis,异常重启后自动续传。

产品组成与技术选型
• 采集层:Scrapy + Scrapy-Redis + Chrome Headless。
• 存储层:MySQL(元数据)+ Redis(去重)。
• 展示层:FastAPI + ECharts + Bootstrap,内网/公网均可访问。
• 部署:Docker-Compose 一键启动。
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • ✓ 支付宝企业信用分 优秀 评级
  • ✓ 市场份额约占全行业三分之一
  • ✓ 程序员兼职行业全能首选平台
查看平台资质详情
收藏