简述最近几个项目——
1、xx电信统一视频门户
1)项目目标
升级原xx电信“全球眼”视频监控网,对接融合中国电信集团全国视联网省分节点落地,并通过新开发的视频监控门户暨业务平台,将整个xx电信公司内系统的全部视频相关业务子系统包括视频接入汇聚、调阅监看、录像回放、告警统计以及各类AI视频分析算法模块等与其前台业务办理系统、客户关系管理系统、工单系统等逐一打通,为各视频业务提供一个完整的展示和协作管理平台,使用户能便利地完成从信息获取到业务开通办理到在线使用运营其所购视频资源/服务的全套业务功能,并且全系统要做到跨屏跨端的全平台应用呈现露出。
2)技术架构
a)系统后端采用云原生架构,通过容器化(K8S+containerd)部署于分布在多个机房的计算集群,支持业务弹性扩容。通过多主节点实现系统整体的高可用性;通过微服务架构设计实现各功能模块(包含码流统一接入汇聚、媒体资源管理、流媒体转/分发管理、AI分析、BSS/CRM系统/工单系统对接、用户身份验证及权限管理、报表统计、Web服务后端、跨平台前端、API服务网关等)解耦和独立开发维护;通过服务网格(Istio)实现服务间通信治理;
b)数据库采用PostgreSQL,并以1主2从实现数据的读写分离、负载分担和数据备份,以Patroni+VIP-Manager实现高可用;采用1:1主从结构的Redis集群以实现高性能及高可用的缓存系统;采用多主机的Kafka实现高性能及高可用的消息系统;
c)基于DevOps实现CI/CD自动化流水线;并通过ELK和Prometheus/ Grafana实现完整的日志分析和运行指标监控;
d)系统前端基于Vue/HTML5+WebRTC实现全平台(Web、Android、iOS、微信小程序)客户端访问及码流播放。
3)角色/责任说明
作为系统架构设计和工程实施方,负责项目的需求分析,向xx电信提供可研报告、技术建议书和工程设计方案,完成项目架构设计、模块设计、内外接口定义,并根据需求及设计架构带领团队完成后续设计、开发实现、测试验证和生产环境部署上线。
2、xx电信视频业务AI中台系统软件(一期,推理部分)
1)项目目标
实现包含资源(框架/模型/算法、数据、算力)申请调用、算力动态调度、计费、安全保障、运维监控等在内的相关功能,为xx电信面向全市视频监控提供的明厨亮灶、智慧工地、智慧电梯、智慧垃圾分类、智慧道路停车……等一系列的垂类视频AI产品算法的规模化推理应用提供支撑。
2)技术架构
系统采用分层设计——
a)资源管理层:通过K8S/containerd/Istio/KFServing/Volcano容器化编排+微服务网格+弹性调度实现高可用/弹性扩缩容,通过HDFS分布式存储实现海量数据存取,通过算力池化(Slurm、CUDA MPS)结合GPU硬件特性(如MIG等)实现从跨节点到细颗粒度(< 1GPU)的GPU算力调度管理;通过Prometheus/Exporters(cAdvisor/node_exporter/ dcgm_exporter等)/Grafana+ELK实现系统状态观测/异步报警和日志分析;
b)服务层:通过Triton+TensorRT构建推理服务栈实现具体任务调用;通过MinIO实现数据及推理结果的文件存储,以及MySQL/MongoDB实现结构化/非结构化数据存储;通过Redis缓存操作中间结果;通过Kafka实现消息通信;通过Spring Cloud构建可扩展的业务服务并通过连接池和gRPC对接Triton提升API调用性能,并对外封装API服务接口;
c)应用层:通过Apache Ranger等多种工具对数据进行脱敏;通过Git LFS+DVC对模型和算法(代码、权重、数据集)进行版本管理,并统一转换为ONNX格式;通过 Kafka + Flink实现实时调用计费;通过OAuth等实现SSO;通过Vue+ECharts实现前端互操作和结果/统计分析呈现等。
3)角色/责任说明
作为系统专家负责可行性调研、系统架构设计、方案选型,并指导团队成员完成后续设计和开发实现部署。
3、某三甲医院胃肠病中心“AI医健助手”(一期)
1)项目目标
通过该助手(胃肠专病及术后护理知识自助问答数字人),实现7×24小时病患、家属、护理人员的胃肠专病护理知识问询应答响应,提升病患及家属满意率;规范50+种术后护理SOP流程,加快病人康复时间,并降低医护人员基础工作量。
2)技术架构
选用LLM(QWen-2 7B,二期替换为中国电信集团星辰大模型)作为基模,与院方共建(数据采集、预处理、标注转换、训练、测试)胃肠病专病及术后护理RAG知识库,基于Dify构建