项目背景:针对传统小程序操作路径繁琐、手动交互效率低的痛点,引入大模型多模态能力,搭建智能化人机对话体系,实现用户自然语言、语音的自动化业务操作。
个人职责:独立负责大模型API整体接入,集成ASR语音识别、LLM语义解析技术;基于Function-Calling机制封装业务工具函数,通过Prompt工程、Few-shot样本训练优化意图识别逻辑;实现上下文窗口管理、会话状态持久化,落地Token配额管控、RPM限流、权限鉴权、降级兜底与全链路监控埋点。
项目成果:构建了语音+文本双模态智能交互闭环,大幅降低用户操作成本,有效提升意图识别准确率与多轮会话稳定性,优化系统QPS并发承载能力,显著提升产品整体业务转化效率。