项目背景:员工在日常工作中频繁需要查阅公司制度、员工手册、公司报销等各类资料。为提升查询效率并降低人工问答成本,我们构建一个基于RAG技术的智能问答系统。系统可自动解析文档,实现对公司资料的高效语义检索与智能应答,帮助员工快速获取所需信息,提升办公效率。
项目流程:
1.使用MinerU + Glm4v-9b提取文本、表格和标题,生成适合检索的语义块。
2.基于微调后的 bge-m3 嵌入模型,将分块后的文档向量化,存储在 Milvus 数据库中,支持高效的语义检索。
3.处理用户输入的查询,包括代词消解、查询重写和子问题生成,确保问题清晰且适合检索。
4.使用Milvus进行并行检索,获取相关上下文,并通过重排序选择最相关的Top 3上下文。
5.利用Qwen2.5-32b模型整合检索到的上下文,生成简洁、准确的答案。
6.通过Redis存储用户历史对话和查询结果,支持代词消解和快速响应,优化系统性能。