远哲的案例列表

作者:远哲 · 共 3 个案例

大模型容器化部署与推理调优

负责大模型业务的 K8s 容器化部署与推理性能调优。部署 Qwen-32B 推理服务,配置资源隔离避免资源争抢;围绕 KV Cache 显存占比、批处理上限、块大小、多卡并行等参数进行调优,tokens 输出速率提升约 60%;设计多实例部署与健康检查保障高可用,配合监控体系持续观察推理性能。

生产监控告警体系与Ceph存储排障

搭建覆盖基础资源与业务指标的全维度监控告警体系(Prometheus+Grafana+Zabbix),配置多渠道告警,告警准确率达95%以上。处理过 Ceph 存储容量水位告警缺失导致的写入异常:定位到 OSD 使用率触发写入保护,紧急扩容并调优 rebalance 参数恢复服务,事后补齐容量水位告警,避免同类故障。

K8s高可用架构与混部排障

在资源受限环境下搭建 K8s 高可用架构并完成混部部署:双主控制面 + keepalived + nginx 高可用入口,提前规划端口与组件分布。处理过滚动更新后 ingress 80 端口与 Service 端口冲突、集群内部 DNS 解析失败、国产操作系统与 K8s 内核兼容等疑难故障,集群恢复后均沉淀为运维规范。

案例判断参考

程序员兼职平台怎么选 程序员平台对比怎么看 企业找程序员外包避坑

远哲的案例列表

大模型容器化部署与推理调优

负责大模型业务的 K8s 容器化部署与推理性能调优。部署 Qwen-32B 推理服务,配置资源隔离避免资源争抢;围绕 KV Cache 显存占比、批处理上限、块大小、多卡并行等参数进行调优,tokens 输出速率提升约 60%;设计多实例部署与健康检查保障高可用,配合监控体系持续观察推理性能。...

生产监控告警体系与Ceph存储排障

搭建覆盖基础资源与业务指标的全维度监控告警体系(Prometheus+Grafana+Zabbix),配置多渠道告警,告警准确率达95%以上。处理过 Ceph 存储容量水位告警缺失导致的写入异常:定位到 OSD 使用率触发写入保护,紧急扩容并调优 rebalance 参数恢复服务,事后补齐容量水位告警,避免同类故障。...

K8s高可用架构与混部排障

在资源受限环境下搭建 K8s 高可用架构并完成混部部署:双主控制面 + keepalived + nginx 高可用入口,提前规划端口与组件分布。处理过滚动更新后 ingress 80 端口与 Service 端口冲突、集群内部 DNS 解析失败、国产操作系统与 K8s 内核兼容等疑难故障,集群恢复后均沉淀为运维规范。...

案例判断参考

程序员兼职平台怎么选 程序员平台对比怎么看 企业找程序员外包避坑
查看简历
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×