项目一:企业AI大模型私有化部署与运维
负责企业AI平台部署交付,基于Kubernetes部署Dify、FastAPI及自研Agent等12项服务;使用vLLM部署GLM系列大模型,结合LiteLLM统一管理模型接口,配置GPU监控及服务告警。完成模型API测试、服务稳定性优化及部署文档交付,支持企业内部AI应用落地。
项目二:运维可视化管理平台
参与设计并开发运维管理平台,基于Python Flask、Vue及Ansible实现服务器和应用统一管理,支持一键部署、升级、回滚、启停及日志查看。平台接入20余个私有化项目,日常部署和升级耗时由约1小时缩短至15分钟。
项目三:AIOps智能运维巡检Agent
负责AI自动巡检方案设计与部署,结合私有化大模型、LiteLLM、企业机器人及SSH巡检脚本,实现服务器CPU、内存、磁盘、GPU和K8s Pod状态自动检查。覆盖30余台服务器及GPU节点,将每日人工巡检约1小时的工作转为自动化执行,并生成异常告警报告。