• 背景:内部资料分散在个人电脑与共享盘,新人上手依赖口头传授,培训内容与业务规则缺少统一出口 • 方案设计与选型:完成基座模型评估与选型,测算百人规模并发下的输出吞吐需求,确定双卡张量并行的部署架构;完成 GPU 合规性、功耗与散热适配评估,明确硬件采购方案 • 平台搭建:搭建推理服务与知识库服务,接入向量模型实现语义检索,完成局域网访问配置与自建模型接入 • 调优:针对推理参数进行调优,处理量化精度与并发吞吐之间的取舍,优化缓存命中率与并发限制参数 • 应用落地:将培训资料、业务规则、常见问题整理入知识库,支持模糊检索与智能问答,减少重复性咨询
面向服务器分散、故障只能靠用户报障的场景,从 0 到 1 搭建指标监控与告警体系,独立负责架构设计、部署实施、告警规则编写与通知链路打通,覆盖 200+ 台服务器(物理机与虚拟机混合)。 技术栈以 Prometheus 为核心:各节点部署 node_exporter 采集主机指标,Prometheus 负责抓取与存储时序数据,Grafana 承载可视化监控大屏,Alertmanager 负责告警去重、分组与路由。 看板覆盖 CPU 使用率、内存、磁盘容量与 IO、网络吞吐、系统负载、TCP 连接数、进程与文件描述符等维度,支持按实例与业务分组下钻。 告警侧用 PromQL 编
• 背景:内部资料分散在个人电脑与共享盘,新人上手依赖口头传授,培训内容与业务规则缺少统一出口 • 方案设计与选型:完成基座模型评估与选型,测算百人规模并发下的输出吞吐需求,确定双卡张量并行的部署架构;完成 GPU 合规性、功耗与散热适配评估,明确硬件采购方案 • 平台搭建:搭建推理服务与知识库服务,接入向量模型实现语义检索,完成局域网访问配置与自建模型接入 • 调优:针对推理参数进行调优,处理量化精度与并发吞吐之间的取舍,优化缓存命中率与并发限制参数 • 应用落地:将培训资料、业务规则、常见问题整理入知识库,支持模糊检索与智能问答,减少重复性咨询...
面向服务器分散、故障只能靠用户报障的场景,从 0 到 1 搭建指标监控与告警体系,独立负责架构设计、部署实施、告警规则编写与通知链路打通,覆盖 200+ 台服务器(物理机与虚拟机混合)。 技术栈以 Prometheus 为核心:各节点部署 node_exporter 采集主机指标,Prometheus 负责抓取与存储时序数据,Grafana 承载可视化监控大屏,Alertmanager 负责告警去重、分组与路由。 看板覆盖 CPU 使用率、内存、磁盘容量与 IO、网络吞吐、系统负载、TCP 连接数、进程与文件描述符等维度,支持按实例与业务分组下钻。 告警侧用 PromQL 编...
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如该工程师当前档期不合,也可免费为您推荐相似候选人