UAE-RS

UAE-RS数据集是首个提供遥感领域黑盒对抗样本的数据集，由先进人工智能研究所的徐永浩和Pedram Ghamisi创建。该数据集包含通过Mixup-Attack和Mixcut-Attack方法生成的对抗样本，旨在帮助研究者设计对抗攻击抵抗力强的深度神经网络。UAE-RS数据集适用于场景分类和语义分割任务，通过模拟真实世界中无法获取目标模型详细信息的攻击场景，推动了遥感图像处理领域对抗防御技术的发展。The UAE-RS dataset is the first dataset providing black-box adversarial samples in the remote sensing domain, created by Xu Yonghao and Pedram Ghamisi from the Advanced Artificial Intelligence Research Institute. This dataset includes adversarial samples generated via the Mixup-Attack and Mixcut-Attack methods, aiming to assist researchers in designing deep neural networks with robust resistance against adversarial attacks. The UAE-RS dataset is applicable to scene classification and semantic segmentation tasks. By simulating real-world attack scenarios where detailed information of the target model is inaccessible, it promotes the development of adversarial defense technologies in the field of remote sensing image processing.

搜集汇总

数据集介绍

构建方式

UAE-RS数据集的构建方式基于黑盒对抗攻击方法，旨在生成通用的对抗样本，能够欺骗大多数先进的深度神经网络。该数据集的构建过程首先使用了Mixup-Attack和Mixcut-Attack两种方法，这两种方法的核心思想是通过攻击给定代理模型浅层特征中的共同漏洞来发现不同网络之间的共性。Mixup-Attack通过线性组合不同类别的图像来构建混合图像，而Mixcut-Attack则通过将不同图像的切片进行拼接来构建混合图像。随后，从混合图像和目标图像中提取浅层特征，并定义混合损失函数Lmix，通过最小化混合图像和目标图像特征之间的KL散度来引导攻击。为了提高攻击效果，还引入了交叉熵损失Lce来辅助攻击，最终将Lmix和Lce加权组合成完整的损失函数L。通过迭代优化L，最终生成具有高转移性的对抗样本。

使用方法

UAE-RS数据集的使用方法主要分为以下几个步骤：首先，选择合适的代理模型和目标模型。代理模型可以是与目标模型具有相似结构的模型，也可以是专门用于对抗攻击的模型。目标模型则是需要进行攻击的模型。其次，使用Mixup-Attack或Mixcut-Attack方法生成对抗样本。根据目标模型的不同，可以选择不同的参数设置。最后，将生成的对抗样本输入到目标模型中进行测试，评估对抗攻击的效果。UAE-RS数据集可以作为对抗攻击的基准数据集，用于评估不同模型的鲁棒性和安全性。

背景与挑战

背景概述

随着遥感技术的飞速发展，地球观测数据的获取量呈爆炸式增长，为地学和遥感领域的众多应用提供了强大的数据支持。近年来，深度神经网络在遥感图像解译任务中取得了突破性进展，尤其在场景分类、目标检测和语义分割等方面表现出色。然而，深度神经网络对对抗样本的脆弱性也日益凸显，对抗样本的攻击对深度学习模型的鲁棒性和安全性构成了严重威胁。为了研究遥感数据中的对抗样本特性，并提升深度学习模型的鲁棒性，Xu和Ghamisi于2022年提出了UAE-RS数据集，该数据集首次提供了遥感领域的黑盒对抗样本，旨在为研究人员设计鲁棒性更强的深度神经网络提供基准。

当前挑战

UAE-RS数据集面临着以下挑战：1) 对抗样本的生成：UAE-RS数据集主要采用Mixup-Attack和Mixcut-Attack两种方法生成对抗样本。这两种方法都需要在浅层特征上进行攻击，以实现对抗样本的泛化能力。然而，由于不同网络在浅层特征上的差异，生成泛化能力强的对抗样本仍然是一个挑战。2) 对抗样本的防御：尽管UAE-RS数据集提供了丰富的对抗样本，但如何有效地防御对抗样本攻击仍然是一个开放性问题。现有的防御方法主要分为基于模型的防御和基于数据的防御，但这些方法都存在一定的局限性，例如防御效果不稳定、计算复杂度高等。因此，设计鲁棒性更强的对抗样本防御方法仍然是遥感领域的一个重要研究方向。

常用场景

经典使用场景

UAE-RS 数据集是首个在遥感领域提供黑盒对抗样本的数据集，它包含了使用 Mixup-Attack 和 Mixcut-Attack 方法生成的对抗样本，可用于评估和提升遥感图像场景分类和语义分割任务的深度学习模型的鲁棒性。通过对不同深度学习模型进行黑盒对抗攻击，UAE-RS 数据集可以帮助研究人员发现模型在对抗样本下的脆弱性，并针对性地进行模型优化和防御策略设计。

解决学术问题

UAE-RS 数据集解决了遥感领域深度学习模型易受对抗样本攻击的问题。传统的对抗样本研究主要集中在计算机视觉领域，而遥感领域的研究相对较少。UAE-RS 数据集提供了首个黑盒对抗样本数据集，为遥感领域对抗样本的研究提供了基础数据。此外，UAE-RS 数据集还揭示了不同深度学习模型在对抗样本下的鲁棒性差异，为设计鲁棒的深度学习模型提供了参考。

实际应用

UAE-RS 数据集可用于评估和提升遥感图像场景分类和语义分割任务的深度学习模型的鲁棒性。通过对模型进行黑盒对抗攻击，可以测试模型在面对对抗样本时的鲁棒性，并针对性地进行模型优化和防御策略设计。此外，UAE-RS 数据集还可用于研究对抗样本的生成机制和传播规律，为遥感领域的安全防御提供理论依据。

数据集最近研究

最新研究方向

针对遥感数据中普遍存在的对抗样本问题，UAE-RS 数据集的提出为遥感领域提供了首个黑盒对抗样本数据集，为研究者们设计具有更强鲁棒性的深度学习模型提供了宝贵的资源。该数据集通过 Mixup-Attack 和 Mixcut-Attack 等黑盒对抗攻击方法生成对抗样本，这些样本能够以高成功率欺骗大多数最先进的深度神经网络，无论是在场景分类还是语义分割任务中。此外，该研究还揭示了深度学习模型在安全关键的遥感任务中抵抗力和鲁棒性的重要性。

相关研究论文

• Universal Adversarial Examples in Remote Sensing: Methodology and Benchmark

  先进人工智能研究所(IARAI) · 2022年