这个项目是给一家做电商SaaS的客户做的智能客服系统，主要解决他们客服团队回复效率低、重复问题多的痛点。系统核心是一个基于RAG架构的问答引擎，我把客户的产品文档、历史聊天记录和FAQ整理成知识库，用向量数据库存储，用户提问时先检索相关片段再交给大模型生成回答。
我负责整个后端架构和AI对接部分。后端用Python FastAPI写的，接了OpenAI和国产大模型的API，做了fallback机制，一个挂了自动切另一个。向量数据库用的Milvus，embedding模型自己微调过，召回准确率从60%提到85%。还做了多轮对话管理，能根据上下文追问，不是那种一问一答的笨机器人。
前端是React写的管理后台，可以配置知识库、查看对话记录、标注badcase。整个系统部署在阿里云上，Docker容器化，加了Nginx反向代理和限流。上线后客户客服团队每天处理的用户咨询量翻了将近一倍，但人工介入的比例从80%降到30%。