项目背景:客户需要在本地服务器搭建私有 AI 问答系统,不希望数据出内网,同时实现多机器人协同处理业务问答、工单分流。
我的职责:负责环境部署、Dify 工作流编排、RAG 知识库构建,WSL+Docker 容器环境搭建,大模型量化调优,BGE 向量检索与重排服务部署,排查显卡识别、模型加载等各类报错。
结果产出:完成私有化知识库上线,支持文档批量入库;搭建多 Agent 分流逻辑,业务问题自动分类分发;通过 AWQ 量化,在 RTX4060 单机稳定运行,问答响应时间缩短 40%;实现企业微信机器人对接,内部员工可直接对话查询资料,满足内网数据安全要求。