cv算法模型微调

人工智能 其他 案例ID:242553
。。。
2 年经验· 江苏琦晖科技有限公司
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

参加全球校园人工智能算法精英大赛,赛题为噪声标签数据下的细粒度图像识别鲁棒微调。在必须使用 CLIP ViT-B/32 骨干网络、单模型、无外部数据的严格约束下,设计了基于 LoRA 微调 + 知识蒸馏 + SeedTTA 的方案,进行 36 组对照实验,覆盖蒸馏强度调参、数据增强策略、多模型协同、文本分类器、特征蒸馏、强正则化等方向。最佳方案在验证集 81.19% 准确率、测试集取得 76% 以上的成绩,在同等约束条件下处于赛道第一梯队。核心发现包括:知识蒸馏是稳定提升的关键(偏离蒸馏策略的所有尝试均导致测试集下降)、SeedTTA 中种子多样性远优于视图数量(+0.63%)、验证集到测试集的泛化 gap(5.78%)是主要瓶颈。实验在 6×RTX 5090 集群上完成,使用 PyTorch 框架。

cv算法模型微调

人工智能 · 其他 案例ID:242553
联系该工程师
微信扫码,建群沟通
作者: 。。。 - 2年经验- 江苏琦晖科技有限公司

案例介绍

参加全球校园人工智能算法精英大赛,赛题为噪声标签数据下的细粒度图像识别鲁棒微调。在必须使用 CLIP ViT-B/32 骨干网络、单模型、无外部数据的严格约束下,设计了基于 LoRA 微调 + 知识蒸馏 + SeedTTA 的方案,进行 36 组对照实验,覆盖蒸馏强度调参、数据增强策略、多模型协同、文本分类器、特征蒸馏、强正则化等方向。最佳方案在验证集 81.19% 准确率、测试集取得 76% 以上的成绩,在同等约束条件下处于赛道第一梯队。核心发现包括:知识蒸馏是稳定提升的关键(偏离蒸馏策略的所有尝试均导致测试集下降)、SeedTTA 中种子多样性远优于视图数量(+0.63%)、验证集到测试集的泛化 gap(5.78%)是主要瓶颈。实验在 6×RTX 5090 集群上完成,使用 PyTorch 框架。

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×