技术架构:LoRA+llama.cpp+PEFT+FastAPI +PostSQL+MinIO +Python;
将聊天问答历史导出 SFT JSONL 训练为可侧载 LoRA Adapter,推理时按user/session 启用/禁用,赋予模型稳定可追溯的"原生记忆",区别于向量检索或 Prompt拼接。统一 Prompt 模板与多格式样本导出,支持 base vs adapter 对比验证,缓解记忆漂移与身份遗忘。提供 Skills/Agent 配置与异步训练 Job(状态/进度/日志/错误全程可观测),闭环覆盖"采集→标注→训练→注册→启用→验证"。私有数据不出本地,对象存储落 MinIO,推理与微调全程本地化。训练支持 CUDA/Apple Silicon(MPS) GPU加速,较 CPU 显著提速;端到端链路已验证通过,Job 失败快速暴露可读错误,保障稳定可用。