基于秘密共享和压缩感知的通信高效联邦学习方案测试数据集JQD

深度学习技术的快速发展给我们带来了极大的便利，但同时也导致大量隐私数据的泄露。联邦学习允许客户端在只共享梯度的情况下联合训练模型，这看似解决了隐私信息泄露问题，但研究表明联邦学习框架中传输的梯度依然会导致隐私信息泄露。并且，联邦学习的高通信代价的特点难以适用于资源受限的环境。为此，提出了2个通信高效且安全的联邦 学习算法，算法使用Top-K稀疏及压缩感知等技术以减少梯度传输造成的通信开销，另外利用安全多方计算中的加法秘密共享对重要的梯度测量值加密，以实现在减少通信开销的同时进一步增强其安全性。2个算法的主要区别是客户端与服务器通信时传递的分别为梯度测量值与梯度测量值的量化结果。在MNIST及Fashion-MNIST数据集上的实验表明，与其他算法相比，本文所提的算法在保证通信代价较低的情况下进一步增加了安全性，同时在模型 准确性上也有较好的性能。Fashion-MNIST 数据集是一个广泛用于机器学习和深度学习的基准数据集，由 Zalando Research 提供，旨在替代经典的 MNIST 手写数字数据集。它包含 70,000 张 28×28像素的灰度图像，分为 60,000 张训练图像和 10,000 张测试图像，每张图像对应一个来自 10 类时尚产品的标签（如T恤、裤子、连衣裙等）。与 MNIST 类似，Fashion-MNIST 的结构简单且易于使用，非常适合用于算法开发和教学，但其内容更为复杂多样，提供了更大的挑战性。数据量为52.25MB。