项目技术架构: LLaMA – Factory,qwn3-32b,ollama,springAI, Milvus,Vue,MCP, Prompt
项目描述:这个项目是为复能集团开发智能助手项目,通过微调,rag,mcp,springAI,实现生产数据准
确查询,分析报告的生成,最终实现大模型对与现有ERP、WMS现工程数据全生命周期管理,打造一物
联网智能体,提高工厂的产量
个人职责:负责微调数据集的制作模块,大模型的本地部署模块,大模型相关工具的安装模块,开发MCP服
务模块,Pormpt优化模块,前端用户交互页面模块
1. 负责微调数据集的制作:通过于搜集稀土行业专业的知识,甲方提供的真实数据,制作高质量微调数据集,
实现大模型从通用大模型变成垂类大模型,报表生产优化
2. 大模型的本地部署:通过使用ollama工具在Ubuntu系统上的部署,安装相关的环境,修改ollama
modelfile设置大模型相关参数
3. 大模型相关工具的安装:安装LLaMA – Factory,用来微调大模型,SpringAI结合Milvus向量数据库实
现对最新企业信息查询
4. 开发MCP服务: 通过开发MYSQ的MCP服务实现,实现对生产数据的准确查询,解决Rag技术查询不准
确问题
5. Pormpt优化:制作提示词并优化,实现针对报表生产,库存问题优化这类问题大模型生成回答的
优化,更加符合甲方的要求
6. 前端用户交互页面:通过Vue结合springAI技术,前端实现对用户效果更好的流式响应,后端通过
springAI针对不同的问题使用不同的提示词模板,优化大模型回答的结果