在双路 Xeon 服务器平台环境下,从零搭建 Ollama 本地大模型多模型推理环境与 ComfyUI 图像/视频生成工作流。本人负责显卡驱动、CUDA 与 PyTorch 的版本对齐,显存占用与量化参数调优,并编写 Ollama 与 ComfyUI 的统一调度网关脚本,实现两个服务之间的任务转发与状态查询;同时输出环境盘点、部署验证、进程安全审计等 4 份文档。最终实现多模型并行稳定运行,单次出图耗时明显下降。
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者