多模态基础模型不一致知识蒸馏微调防御数据集

本模型的权重参数生成经历了三个主要阶段：模型初始化权重参数、后门攻击模型权重参数和后门防御模型权重参数。首先，使用课题一训练得到的模型参数进行初始化，提供基础权重。然后，采用Badnet后门攻击方法，在VIDAL-10M数据集的一个多模态视频数据子集上进行数据投毒，通过在被投毒的数据集上训练模型，获得后门攻击模型的权重参数。接下来，分别使用主流的NAD后门防御方法以及本研究提出的KID后门不一致蒸馏防御方法，在同一被投毒的多模态视频数据子集上进行后门防御训练，分别得到后门防御模型的权重参数。这一步通过后门防御训练调整和优化了模型的权重参数，以减少或消除后门的影响。

搜集汇总

背景与挑战

背景概述

该数据集针对多模态基础模型的后门防御问题，通过模型初始化、后门攻击及防御（包括KID不一致知识蒸馏等方法）三个阶段生成权重参数。它旨在用于减少或消除后门影响的研究，数据量约为4.03GB。