小理 AI 应用

人工智能其他案例ID：211925

HX -

3 年经验· 深圳得理科技有限公司

微信扫码沟通，客服可协助直接对接工程师；如当前档期不合，也可继续推荐相似案例作者。

案例介绍

基于原先的 Q&A 迭代升级，加入公司自研 Hanfei 大模型，并应用到产品线的各个地方
封装 Q&A 的 SpringBoot 依赖，抽取所有问答功能，其他项目按需求引入。
 引入问答指令模块，弥补本身大模型通用性的不足，不同指令调用不同的大模型。
 引入值班律师机制，当提问律师长时间无法回答，通过腾讯 IM 回调机制，利用 Redis 的 ZSET 数据接口，定时扫
描提问律师未被回答的用户，并推送值班律师。
 Q&A 第一个版本，基于 Milvus 向量数据库和 ES 实现通过问题请求 Milvus 获取维度最匹配问答 AutoId 集合，
通过 AutoId 集合和问题请求 Elasticsearch 匹配分值最高的问答，然后返回。
 Q&A 第二个版本，基于 Hanfei 大模型进行回答，直接请求 Hanfei 大模型，请求结果通过网易的铭感词校验过滤
后返回。
 Q&A 第三个版本，利用 Milvus 向量数据库去识问题的意图，根据意图，判断问题的类型，查询 Elasticsearch 或
者 Hanfei 大模型并返回。
 Q&A 第四个版本，新增问律师，嵌入到大模型，提供律师推荐功能，并通过腾讯 IM 与公司的其他产品打通进行
律师与用户对话。更新 Hanfei 大模型为流式输出，利用 gRPC 对接大模型，通过 SSE 长连接推送给前端接收.