这是一个位于客户端与大语言模型(LLM)或后端服务之间的生产级多租户 AI 网关。它处理了模型周边的复杂任务:基于 Redis 验证的不透明令牌(opaque-token)认证(支持即时撤销)、租户隔离、高精度 Token 计量、基于 Redis 的配额管控以及内容安全过滤——所有数据均实时呈现在基于 React 19 构建的分析仪表盘上,以便监控 Token 使用量与成本。该项目采用 NestJS 11、Prisma 7、PostgreSQL 16 和 Redis 构建,部署于 Vercel 平台,并使用托管式 Postgres (Aiven) 和 Redis (Upstash) 服务。下方附有在线演示。
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者