联邦学习后门攻击防御与鲁棒聚合系统

人工智能其他案例ID：251527

勰

1 年经验· 湖南大学

微信扫码沟通，客服可协助直接对接工程师；如当前档期不合，也可继续推荐相似案例作者。

案例介绍

作品介绍：针对联邦学习中恶意客户端毒化更新、MARS防御不足的问题，我构建了引入差分隐私与贡献评估的组合防御方案，用于提升全局模型聚合鲁棒性和隐私保护强度。
详细功能：系统支持联邦学习训练流程复现、梯度反演攻击验证、MARS防御复现、MARS+DP组合防御、自动噪声参数扫描、客户端贡献评估与加权聚合；能识别低贡献或恶意更新，动态降权或过滤。
我的角色：主要研究、开发与实验执行者。负责复现MARS防御框架，实现梯度反演攻击并验证隐私保护不足；在梯度上添加校准噪声，构建MARS+DP组合防御；设计crash-driven自动扫参框架，递增噪声强度σ并监控训练稳定性，在精度约束下定位最优平衡点；引入以客户端精度增益为标准的贡献评估机制，按分位阈值对低贡献者降权或置零过滤。
技术栈： Python、PyTorch、联邦学习、后门攻击防御、差分隐私、梯度反演、鲁棒聚合、加权聚合、MySQL/Linux基础。
成果产出：有效抑制低贡献更新对全局模型的负迁移，在不牺牲精度的前提下提升训练稳定性与收敛效率。
搜索关键词：联邦学习、后门攻击、防御、差分隐私、DP、MARS、梯度反演、贡献评估、鲁棒聚合、加权聚合、隐私保护。