沃德天·泥维森陌·拉莫帅

ai算法工程师
福富 · 2年经验
沃德天·泥维森陌·拉莫帅
日薪: ¥500/8h
地点: 福州 全区
时间: 下班后周六周日
ID:299890 复制

0
接单数
0
评价数
0
收藏数

AI 技能提取 | Python Docker Nginx Linux LLM Selenium
1. 后端开发与工程化
编程语言: 精通 Python(熟悉异步编程、多线程及常用Web框架)。
工程化: 熟练掌握 Docker 容器化技术(镜像构建、容器编排),具备 Linux 服务器部署与运维经验,熟悉 Nginx 配置。
数据获取: 具备 Web爬虫 开发经验(如 playwright, Selenium),熟悉反爬虫策略应对及数据清洗流程。
2. AI应用与大模型工程
AI架构: 精通 RAG(检索增强生成)架构设计与优化,熟悉向量数据库(如 Milvus, FAISS)的应用。
模型应用: 熟悉 Prompt Engineering(提示词工程)及 Agent 智能体开发,具备模型微调(Fine-tuning)与量化经验。
开发框架: 熟悉 Dify, RAGFlow 等开源LLM应用开发平台的部署与二次开发。

技术栈:Python · Docker · Elasticsearch · Nginx · ARM · Redis · MySQL · MinIO

针对RAG(检索增强生成)场景下非结构化数据(PDF/Word/Excel)解析困难、格式混乱导致AI幻觉的问题,设计并开发了一套高并发的文档预处理微服务。该服务作为知识库的底层基础设施,负责将多源异构文档转化为大模型易于理解的结构化文本。


核心职责与成果:
多模态文档解析与清洗(ETL):
基于LibreOffice及正则表达式构建通用解析引擎,支持PDF、Office全家桶等10+种格式的文档解析。
设计文本清洗流水线,有效去除文档中的页眉页脚、乱码及特殊符号,将非结构化文本转化为高质量的Markdown/JSON格式,显著提升了下游向量数据库的索引质量。
高并发异步架构设计:
采用FastAPI + asyncio构建全异步微服务,相比传统同步框架(如Flask/Django),在文档解析IO密集型场景下,吞吐量(QPS)提升约40%。
引入psutil实现细粒度的系统资源监控,针对大文件(>100MB)解析场景设计内存保护机制,有效防止因内存溢出(OOM)导致的服务崩溃,服务稳定性达到99.9%。
对象存储与状态管理:
集成MinIO分布式对象存储,设计“上传-解析-回调”的全链路任务状态机,支持业务侧异步调用。
实现了断点续传与失败重试机制,确保在大规模知识库初始化导入数据时的可靠性。
沃德天·泥维森陌·拉莫帅 ID:299890 复制

沃德天·泥维森陌·拉莫帅

ai算法工程师 · 2年经验 · 福富
城市福州 全区 日薪500元/8h 时间 下班后周六周日
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

AI 技能提取 | Python Docker Nginx Linux LLM Selenium
1. 后端开发与工程化
编程语言: 精通 Python(熟悉异步编程、多线程及常用Web框架)。
工程化: 熟练掌握 Docker 容器化技术(镜像构建、容器编排),具备 Linux 服务器部署与运维经验,熟悉 Nginx 配置。
数据获取: 具备 Web爬虫 开发经验(如 playwright, Selenium),熟悉反爬虫策略应对及数据清洗流程。
2. AI应用与大模型工程
AI架构: 精通 RAG(检索增强生成)架构设计与优化,熟悉向量数据库(如 Milvus, FAISS)的应用。
模型应用: 熟悉 Prompt Engineering(提示词工程)及 Agent 智能体开发,具备模型微调(Fine-tuning)与量化经验。
开发框架: 熟悉 Dify, RAGFlow 等开源LLM应用开发平台的部署与二次开发。

项目经验

技术栈:Python · Docker · Elasticsearch · Nginx · ARM · Redis · MySQL · MinIO

针对RAG(检索增强生成)场景下非结构化数据(PDF/Word/Excel)解析困难、格式混乱导致AI幻觉的问题,设计并开发了一套高并发的文档预处理微服务。该服务作为知识库的底层基础设施,负责将多源异构文档转化为大模型易于理解的结构化文本。


核心职责与成果:
多模态文档解析与清洗(ETL):
基于LibreOffice及正则表达式构建通用解析引擎,支持PDF、Office全家桶等10+种格式的文档解析。
设计文本清洗流水线,有效去除文档中的页眉页脚、乱码及特殊符号,将非结构化文本转化为高质量的Markdown/JSON格式,显著提升了下游向量数据库的索引质量。
高并发异步架构设计:
采用FastAPI + asyncio构建全异步微服务,相比传统同步框架(如Flask/Django),在文档解析IO密集型场景下,吞吐量(QPS)提升约40%。
引入psutil实现细粒度的系统资源监控,针对大文件(>100MB)解析场景设计内存保护机制,有效防止因内存溢出(OOM)导致的服务崩溃,服务稳定性达到99.9%。
对象存储与状态管理:
集成MinIO分布式对象存储,设计“上传-解析-回调”的全链路任务状态机,支持业务侧异步调用。
实现了断点续传与失败重试机制,确保在大规模知识库初始化导入数据时的可靠性。
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • 支付宝企业信用分 优秀 评级
  • 市场份额约占全行业三分之一
  • 程序员兼职行业全能首选平台
查看平台资质详情
收藏