forgelab/tofu-pair
收藏Hugging Face2025-03-04 更新2025-04-26 收录
下载链接：
https://hf-mirror.com/datasets/forgelab/tofu-pair
下载链接
链接失效反馈官方服务：
资源简介：
TOFU-Pair数据集是一个专门设计用于评估大型语言模型遗忘行为的变体，当提示中只有部分是有害的时候。在TOFU-Pair中，每个提示由成对的问题组成，其中一个问题指向遗忘集合的作者，另一个问题指向保留集合的作者。这种结构可以用来评估模型是否能够在忽略或“遗忘”有害部分的同时，正确回答非有害部分的问题。
TOFU-Pair is a variant of the original TOFU dataset designed to assess unlearning behavior in large language models when only part of a prompt is harmful. In TOFU-Pair, each prompt consists of paired questions where one refers to an author from the forget set and the other refers to an author from the retain set. This structure enables evaluation of whether a model selectively ignores the harmful part of the prompt while correctly answering the non-harmful question.
提供机构：
forgelab
