devichand/harmful-peft

Name: devichand/harmful-peft
Creator: devichand
Published: 2025-04-12T01:15:02+08:00

Hugging Face2025-04-09 更新2025-04-12 收录

语言模型安全

有害指令过滤

数据链接：

https://hf-mirror.com/datasets/devichand/harmful-peft 数据链接链接失效反馈

官方服务：

资源简介：

这是一个包含prompt和chosen两个字符串特征的数据集，总共包含100个示例，数据集大小为137156字节。数据集目前只有一个训练集划分。

This dataset includes two string features: prompt and chosen, with a total of 100 examples and a dataset size of 137156 bytes. The dataset currently has only one training split.

提供机构：

该数据集包含约27,000个训练条目和3,000个测试条目。每个条目包含一个元组（x, y0, y1），并附有注释，指明哪个回应更有帮助，哪个更安全，以及对每个回应的二元安全指示器。此外，该数据集被用于评估SafeDPO算法在减少不安全回应和提升回应有用性方面的性能。该任务旨在训练和测试语言模型在安全对齐方面的算法。

arXiv300

nayohan/KoSBi

语言模型安全

社会偏见

该数据集名为KoSBi，旨在通过缓解社会偏见风险来提高大型语言模型应用的安全性。数据集包含人口统计类别、人口统计组、上下文、英文上下文、句子、英文句子、上下文标签、上下文子标签、句子标签、句子子标签和注释的人口统计信息等特征。数据集分为训练集、验证集和测试集，分别包含54393、6799和6801个示例。数据集的许可证为MIT，主要语言为韩语，标签为安全。

Hugging Face2024-07-07 更新220

KoSBi

偏见减少

语言模型安全

该数据集旨在通过提供多个人口统计和上下文相关的特征，如人口统计类别、人口统计组、上下文、上下文英文、句子、句子英文、上下文标签、上下文子标签、句子标签和句子子标签等，来减少大型语言模型应用中的社会偏见风险，确保安全性。数据集分为训练、验证和测试三个部分，分别包含54393、6799和6801个样本。数据集的语言为韩语，标签包括安全性。

Hugging Face2024-07-07 更新190

sqrti/SPA-VL

语言模型安全

有害内容过滤

SPA-VL是一个大规模、高质量且多样化的对齐数据集，旨在提高视觉语言模型（VLMs）的安全性对齐。数据集涵盖了6个有害领域、13个类别和53个子类别，包含100,788个样本，每个样本包括问题、图像、选择的回答和拒绝的回答。数据集的目标是在不损害VLMs核心能力的情况下，增强其无害性和帮助性。数据集的结构包括训练、验证和测试部分，每个部分都有详细的字段描述。数据集的创建过程包括从LAION-5B

Hugging Face2024-07-03 更新280

DAMO-NLP-SG/MultiJail

多语言

语言模型安全

该数据集用于研究大型语言模型在多语言环境中的安全问题，特别是关于多语言越狱挑战的研究。数据集中包含了315个英文不安全提示，并将其注释为九种非英语语言。这些语言根据资源可用性分为高资源、中资源和低资源语言。高资源语言包括中文（zh）、意大利语（it）和越南语（vi）；中资源语言包括阿拉伯语（ar）、韩语（ko）和泰语（th）；低资源语言包括孟加拉语（bn）、斯瓦希里语（sw）和爪哇语（jv）。研究

Hugging Face2023-10-13 更新210

devichand/harmful-peft

资源简介：

相关数据集