【私有化实时语音对话系统】全栈开发 一套完全私有化部署的实时语音对话系统,把「语音 → 文字 → 大模型 → 语音」整条链路打通,秒级响应、数据不出内网。 技术栈:Vue 3 + TypeScript + Element Plus;Java 21 + Spring Boot 3 + MyBatis-Plus + MySQL + Redis;Python + FastAPI,接入流式 ASR、多音色 TTS 与 VAD,自研 Opus 编解码。 我独立负责架构设计、前后端开发与语音服务改造。引擎做成可插拔:多种 ASR / TTS / VAD 共存,缺依赖自动跳过、服务照常启动
本作品完成开源大模型本地部署与 LoRA 微调全流程。基于 Qwen 基座模型,搭建 Linux 环境,利用 FlashAttention 加速推理,采用 QLoRA 参数高效微调,使用私有领域数据集训练,完成模型量化、接口封装与 Web 交互服务。整套方案离线运行,数据不外流,适配单卡 GPU,可快速定制专属领域大模型,适合企业私有化问答场景。
【私有化实时语音对话系统】全栈开发 一套完全私有化部署的实时语音对话系统,把「语音 → 文字 → 大模型 → 语音」整条链路打通,秒级响应、数据不出内网。 技术栈:Vue 3 + TypeScript + Element Plus;Java 21 + Spring Boot 3 + MyBatis-Plus + MySQL + Redis;Python + FastAPI,接入流式 ASR、多音色 TTS 与 VAD,自研 Opus 编解码。 我独立负责架构设计、前后端开发与语音服务改造。引擎做成可插拔:多种 ASR / TTS / VAD 共存,缺依赖自动跳过、服务照常启动...
本作品完成开源大模型本地部署与 LoRA 微调全流程。基于 Qwen 基座模型,搭建 Linux 环境,利用 FlashAttention 加速推理,采用 QLoRA 参数高效微调,使用私有领域数据集训练,完成模型量化、接口封装与 Web 交互服务。整套方案离线运行,数据不外流,适配单卡 GPU,可快速定制专属领域大模型,适合企业私有化问答场景。...
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如该工程师当前档期不合,也可免费为您推荐相似候选人