针对企业内部文档分散、直接使用大模型易产生幻觉的问题,独立开发了基于 RAG 架构的本地知识库问答系统,负责全部架构设计与开发。后端使用 Python/FastAPI,通过 LangChain 调用本地 Ollama 推理(Qwen3-4B 大模型 + bge-m3 多语言向量模型);知识条目经向量化后存入 Chroma 向量库,检索 Top-3 相关条目并组装受限提示词。实现引用来源标注(回答附编号及相关度得分)、知识库外问题自动拒答、多轮对话上下文;前端使用 SSE 流式输出,回答逐字渲染并展示引用标签。全程本地推理、数据不出内网,适合对数据安全有要求的企业场景。
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者