Qwen3.5-122B-A10B MoE(256 Experts) ms-swift DeepSpeed ZeRO-3 LoRA SFT 12×H100
独立编写完整训练启动脚本与预检流程(CHECK_ONLY 模式),覆盖环境/模型/数据/GPU 全链路校验;设计训练指纹机制(SHA256 + 超参合成)防止训练漂移;实现 ZeRO-3 Checkpoint 可恢复性自动校验与精确路径续训;配置BF16 + Flash Attention 2 + NF4 量化(3.6bit 最优),序列长度 8192 tokens,12×H100 全速运行;构建 2095 条轨道交通领域 SFT 数据集(含CoT 格式)。
毕昇/Dify/LangGraph 三级开发体系 FastAPI SQLModel React 18 + TypeScript Redis Celery DDD 分层 异构算力训推一体
Docker
主导 1.3.1→2.6 架构升级,完成 8 个 P0~P2 模块迁移方案定稿;引入 DDD 分层架构重构 FastAPI 异步后端,设计前端双 SPA 分治(platform/client),制定 4 条 ADR;主导跨部门智能体共享审批流、可观测资源监控(psutil + Redis Stream + WebSocket)、可信登录 trust_token 等核心模块;构建毕昇低代码、Dify 半开发、LangGraph 全代码三级智能体开发体系,覆盖低代码·半开发·全代码全场景,并对接异构算力底座实现训推一体资源调度;规划 20 周里程碑与 CI/CD 质量门禁。