Hachey模型聚合与智能路由平台

人工智能其他案例ID：254010

John Sunday

9 年经验· 绍兴晨虫电子商务有限责任公司

微信扫码沟通，客服可协助直接对接工程师；如当前档期不合，也可继续推荐相似案例作者。

案例介绍

面向需要接入多家AI模型的开发者，基于开源new-api二次开发，提供统一API、模型路由、账户充值、套餐与用量管理，减少多供应商接入和模型选择的复杂度。
核心功能：
1. **统一模型接入：**聚合多家模型供应商，提供OpenAI兼容API，支持文本对话、多模态理解、图片生成与编辑等任务。
2. **智能路由：**通过smart-auto入口识别任务类型，结合请求特征与套餐可用模型池选择模型，支持指定任务类型及备用渠道降级。
3. **路由验证：**建立独立评测与Shadow观察机制，对比请求分类、模型建议、延迟及失败情况，为策略调整提供依据。
4. **账户与计费：**支持充值、订阅套餐、钱包额度、调用记录与成本核算，集成Creem支付。
5. **异常处理：**针对流式输出中断、空响应等情况完善计费与退款规则，配合心跳及健康检查提高服务可靠性。
6. **客服支持：**接入知识库检索和业务工具，支持平台说明查询及订单、余额等信息查询。
**我的职责：**负责产品定义、控制台交互、路由与计费规则、异常处理及验收标准设计，使用AI辅助编码完成开源项目二次开发、接口集成、部署与迭代。