项目角色:RAG 知识库设计构建及检索召回逻辑开发
项目背景:针对人工客服响应时效性,且重复问题占比过高的痛点,构建基于大模型的智能客服系统,实现AI自动应答,拦截率 >70%。
核心问题与解决:
1. 长文本检索精度低:产品手册数据文本过长,固定长度分块导致上下文缺失,召回率过低;
方案:采用滑动窗口方式做 chunking,设置窗口重叠保证语义衔接;设计并构建层级索引 + 父子索引混合方式,提升知识库检索效率并提高关键信息的召回率,有效减低模型幻觉;
2. 复杂意图识别:用户提问的口语化以及实体模糊问影响RAG检索质量;
方案:构建分层意图识别机制。针对query进行预处理(口语规范化、实体替换),使用小模型进行意图分类(QA类、查询类、业务操作类、闲聊类),然后使用LLM进行更细粒度的意图识别(槽位填充 + 多意图);最后根据LLM给出的规范化结果进行RAG检索/Tool调用等。
项目成果:系统成功上线,问题拦截率达到70%,有效降低人工咨询成本。