Webex 用户数据分析中心
项目描述:面向外部用户和内部工程师的会议数据分析平台,支持会议音视频质量查询、隐私数据删除、故障排查、会议记录管理和售后反馈分析。系统基于 Spring Cloud 微服务架构,服务 Webex Meeting、Teams、Contact Center 等多个业务域。
技术栈:Java、Spring Boot、Spring Cloud Alibaba、Gateway、OpenFeign、Sentinel、Nacos、Redis、MySQL、Sleuth
主要职责:
1.参与网关层鉴权、限流、IP 过滤和请求转发逻辑开发,接入 Cisco CI 授权中心,根据用户身份与权限范围过滤非法请求。
2.使用 OpenFeign 协调 Meeting、Teams、Contact Center 等服务调用,支撑会议质量分析、账户信息查询和故障影响分析等核心能力。
3.结合 Sentinel 对关键业务链路进行限流熔断,使用 Nacos 管理服务注册配置,配合 Sleuth完成链路追踪和线上问题定位。
项目亮点:
1.在高峰查询场景下通过网关限流、业务熔断和链路追踪提升系统稳定性。
2.优化多服务调用链路,降低故障排查成本,提高会议质量分析接口响应稳定性。
AI API 聚合与交易中台(token_project)
项目描述:面向 AI API 开放平台场景设计的聚合网关与交易中台,提供多模型厂商统一接入、用户 API Key 自助管理、QPS/RPM/TPM 限流、Token 用量统计、积分计费、订单支付、权益履约和运营后台配置能力。系统采用 Java 微服务 + VUE双前端架构,Java 后端基于 Spring Boot、openFeign、MyBatis-Plus、MySQL、Redis 实现核心交易与账务能力。
技术栈:Java 17、Spring Boot、openFeign、MyBatis-Plus、MySQL、Redis、Spring Actuator、Micrometer、Prometheus、Grafana
主要职责:
1.设计 Java 微服务中台模块,拆分 core-service、api-service、admin-service、service-rpc、service-biz、service-dao 等模块,通过 gRPC 暴露用户、商品、订单、支付、LLM 账务和运行时配置能力。
2.设计并实现 LLM 计费闭环,请求前通过 ReserveCredits 预冻结积分,请求结束后通过 SettleUsage 按真实 Token usage 结算,请求失败或无 usage 时通过 ReleaseReservation 释放冻结额度。
3.实现请求级幂等控制,以 requestId、reservationId 贯穿预冻结、结算、释放流程,并在数据库层增加唯一约束,避免网关重试或异步结算重复扣费。
4.实现用户 API Key 管理和 Key 级限流能力,支持单 Key 设置 max_qps、max_rpm、max_tpm,网关侧基于 Redis 计数器完成 QPS/RPM 限流,并根据真实 Token 消耗统计 TPM。
5.设计商品、Offer、订单、支付、履约模型,支持积分充值、会员发放、邀请码奖励等业务场景,通过 Spring 事务保证账户余额、积分流水、订单状态和权益发放一致。
6.建设运营后台配置能力,支持供应商、上游 API Key、模型路由、模型价格、计费开关、支付渠道和 Playground 服务器配置,支撑运行时动态运营。
项目亮点:
1.使用“预冻结 + 实结算 + 异常释放”的账务模型解决 AI API 调用成本不可预知的问题,兼顾调用前余额校验和调用后精准扣费。
2.将限流粒度从用户级细化到 API Key 级,适合开放平台多应用、多租户隔离场景。
3.使用 Redis 缓存用户 Key、路由和供应商配置,核心配置由 Java CoreService 通过 gRPC 回源,降低数据库压力并提升网关读取性能。
4.对账务记录进行分表建模,沉淀预留记录、结算记录、请求日志和积分流水,便于用户侧用量分析、后台审计和问题追踪。