本地化 AI 语音交互系统的部署与集成。整套系统跑在一台 4090 显卡服务器上,由语音识别、意图识别、大模型推理、语音合成四个模块组成,每个模块一个容器,用 docker-compose 统一编排,对外只暴露一个 API 服务。
我负责服务端开发和全部部署工作:基于 FastAPI 搭模块化服务端,打通"语音输入 → 意图识别 → 大模型 → 语音合成"的完整链路,完成各模块容器化、模型文件与显卡驱动的挂载、显存与并发参数调优,并处理服务重启后的模型加载。
系统支持多轮语音对话,长期稳定运行。踩过的坑包括 GPU 环境配置、模型文件过大导致镜像构建失败、容器内调用不到显卡、多服务启动顺序依赖。
主要从事电子产品设计开发,涉及智能家电、汽车电子、工业控制、
基于 Python 和 OpenCV 开发的风机视觉状态分析
【作品名称】智慧基建 - 杆塔及硬件设备物联监测小程序
【作品名称】智芯办公平台 - 企业级全栈 OA 协同管理系统
基于RK3588平台视觉体感小游戏开发 1.负责视觉管线编
立项背景:摄像头普及但"只录不看&
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者