Synthetic Dataset derived from Global Model Trajectory

本研究提出了一种名为SafeFL的检测框架，旨在识别联邦学习中的恶意客户端。该框架的核心是服务器收集一系列全局模型，生成一个合成数据集，用于区分恶意模型和良性模型。该合成数据集由全局模型的轨迹生成，无需反映客户端数据的实际分布，但能有效区分模型行为。SafeFL框架包括两种变体：SafeFL-ML和SafeFL-CL，分别采用不同的方法识别恶意客户端。SafeFL-ML基于恶意模型在合成数据集上损失更高的原则，通过计算损失的中位数来识别恶意客户端；SafeFL-CL则通过聚类算法将模型分组，识别损失值分布中的异常值，从而更精确地识别恶意客户端。SafeFL在五个数据集上进行了评估，包括CIFAR-10、STL-10、Tiny-ImageNet和FEMNIST等，并与其他十种最先进的联邦学习防御方法进行了比较，结果表明SafeFL在检测恶意客户端方面表现出色。

This study proposes a detection framework named SafeFL, which aims to identify malicious clients in federated learning. The core of this framework is that the server collects a series of global models to generate a synthetic dataset for distinguishing malicious models from benign ones. This synthetic dataset is generated from the trajectories of global models, which does not need to reflect the actual distribution of client data, but can effectively distinguish model behaviors. The SafeFL framework includes two variants: SafeFL-ML and SafeFL-CL, which adopt different methods to identify malicious clients. Based on the principle that malicious models incur higher losses on the synthetic dataset, SafeFL-ML identifies malicious clients by calculating the median of loss values. SafeFL-CL, on the other hand, groups models via clustering algorithms and identifies outliers in the loss value distribution, thereby identifying malicious clients more accurately. SafeFL was evaluated on five datasets including CIFAR-10, STL-10, Tiny-ImageNet, FEMNIST and others, and compared with ten state-of-the-art federated learning defense methods. The results show that SafeFL performs excellently in detecting malicious clients.

搜集汇总

数据集介绍

构建方式

该数据集通过联邦学习框架中的服务器收集一系列全局模型的轨迹来构建。具体而言，服务器在初始训练轮次中收集全局模型，并利用聚类技术筛选出良性客户端模型以生成全局模型轨迹。随后，服务器基于此轨迹采用优化方法生成合成数据集，该数据集能够有效区分恶意与良性模型的行为差异。

特点

该数据集的特点在于其动态生成机制，能够适应不同攻击场景下的模型行为变化。合成数据集不依赖于真实客户端数据的分布，而是通过模型轨迹的优化生成，具有较高的灵活性和适应性。此外，数据集支持两种检测方法（SafeFL-ML和SafeFL-CL），分别基于中值损失和聚类分析，能够有效识别恶意客户端。

使用方法

该数据集的使用方法包括三个主要步骤：首先，服务器收集全局模型轨迹并生成合成数据集；其次，利用合成数据集计算各客户端本地模型的损失值；最后，通过中值损失或聚类分析识别恶意客户端。具体应用中，SafeFL-ML通过比较损失值与中值损失进行检测，而SafeFL-CL则通过聚类损失值来识别异常模型。数据集支持多种攻击场景的检测，包括目标攻击和非目标攻击。

背景与挑战

背景概述

Synthetic Dataset derived from Global Model Trajectory是由Duke大学、海南师范大学、威奇塔州立大学、北德克萨斯大学和路易斯维尔大学的研究团队于2025年提出的一个创新性数据集，旨在解决联邦学习（FL）中的恶意客户端检测问题。该数据集通过收集全局模型训练轨迹生成合成数据，有效区分恶意与良性模型行为，显著提升了FL系统的安全性和鲁棒性。其核心研究问题聚焦于如何在保护数据隐私的前提下，准确识别试图通过投毒攻击破坏模型训练的恶意参与者。该工作提出的SafeFL算法通过轨迹分析和合成数据生成技术，在CIFAR-10、STL-10等五个基准数据集上验证了其优越性，为分布式机器学习安全领域树立了新的技术标杆。

当前挑战

该数据集主要应对两大挑战：首先，在领域问题层面，联邦学习固有的分布式特性使其易受投毒攻击威胁，现有拜占庭鲁棒聚合方法难以应对新型攻击模式，需要开发能同时抵抗定向和非定向攻击的检测机制；其次，在构建过程中，服务器面临无法获取客户端真实数据分布的困境，需突破性地通过模型轨迹生成与真实分布解耦的合成数据集。技术挑战具体表现为：1) 恶意客户端可能协同发起混合攻击策略（如Trim+DBA组合攻击），需设计通用检测框架；2) 非独立同分布（Non-IID）数据场景下模型行为差异的量化难题；3) 合成数据生成需要平衡轨迹长度与计算开销，在有限轮次内捕获足够判别信息。

常用场景

经典使用场景

在联邦学习（FL）框架中，Synthetic Dataset derived from Global Model Trajectory数据集被广泛应用于恶意客户端的检测与防御。通过收集全局模型的轨迹数据，服务器能够生成合成数据集，进而区分恶意与良性客户端模型的行为差异。这一方法在FL系统面临投毒攻击时尤为关键，能够有效识别并隔离那些试图通过篡改本地模型来破坏全局模型训练的恶意参与者。

解决学术问题

该数据集解决了联邦学习中恶意客户端检测的若干核心学术问题，包括投毒攻击的精准识别、模型行为差异的量化分析以及防御策略的优化设计。通过合成数据集，研究者能够在不依赖真实客户端数据分布的前提下，有效区分恶意与良性模型，从而提升FL系统的安全性和鲁棒性。此外，该方法还突破了传统防御方法对服务器端验证数据集的依赖，为FL的安全研究提供了新的理论支撑。

衍生相关工作

基于该数据集衍生的经典工作包括SafeFL-ML和SafeFL-CL等防御算法。SafeFL-ML通过计算客户端模型在合成数据集上的损失中值来识别恶意行为，而SafeFL-CL则利用聚类算法分析损失值的分布模式。此外，该数据集还启发了针对标签翻转攻击、分布式后门攻击等新型威胁的防御研究，推动了FL安全领域的算法创新与理论发展。