项目背景: 为解决企业内部海量文档检索难、业务问答效率低的问题,主导开发了一套基于 RAG(检索增强生成)与大模型 API 集成的智能 Agent 应用系统。
个人职责: 负责系统全栈开发,前端基于 React/TypeScript 打造流畅的大模型交互界面(流式打字机响应、上下文管理);后端采用 Python/Node.js 完成大模型 API 接入、向量数据库(Vector DB)检索与 Prompt 链构建;利用 Docker + Ollama 完成本地私有化模型部署与全链路容器化,并配合 Grafana / Prometheus 实现服务监控与日志追踪。
结果产出: 实现了从 0 到 1 的快速上线,知识检索准确率提升至 90% 以上,响应延迟降低 35%,支持多端高效接入与自动化 CI/CD 部署。