跟进大模型领域前沿技术,打造对话式交互AI工具——“我在AI”APP,持续更新自有模型,探索降本增效的技术。
项目职责:
1.构建大模型评测平台,支持多元基础模型的上线、Prompt管理、AB Test、模型评测报告(结果)。
2.推理加速技术研究,模型量化、vllm框架、kv Cache原理深入了解。
3.引入用户情绪感知,调整AI扮演角色的回复语气,增强情感陪伴的体验。
4.学习并测试晟腾全栈解决方案,输出性能&成本对比报告,讨论迁移可行性。
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者